做独立开发的朋友最近有个共同的体感:以前月底看 API 账单要深呼吸,现在随手刷刷聚合平台的价格榜,旗舰模型的报价一天一个样。9 月这一轮降价过后,主流大模型的推理价格正式击穿了"厘时代"——百万 token 输出报价进入个位数区间,部分模型的活动价折算下来,一次十轮的对话成本不到一分钱。价格已经不是门槛,怎么用反倒成了新问题。
这轮降价的主角不止一家。头部厂商先后调低旗舰模型的输出价格,聚合 API 平台上的报价卷得更凶,同一款模型在不同渠道能差出三成。导火索并不神秘:推理侧的架构优化——稀疏激活、批处理调度、缓存复用——把单位成本一点点磨下来,新增算力供给又陆续到岗,厂商手上有降价的本钱,也有降价的想法:应用生态薄,谁先降价谁先圈到开发者。
更值得琢磨的,是降价背后的商业逻辑换轨。两年前模型厂商还指望靠 API 差价赚钱,如今模型层的利润被摊薄成了行业共识,大厂真正要的已经不是 token 的毛利,而是把自家模型钉进更多应用的底层。推理价格每降一个数量级,原本"太贵做不了"的场景就解锁一批:多轮 Agent 自洽(生成、校验、重试跑三遍)、长文档逐段精读、全天候挂机的客服机器人,都是这轮降价之后才在经济上成立的产物。
对不同的人,这件事的分量不一样。普通用户的感受是间接的——你常用的 App 会更大方地放开次数限制,免费额度变相增值;开发者拿到的最直接变化是成本结构,过去要精打细算地压缩上下文、能缓存就缓存,现在可以把预算花在效果上;企业 IT 的私有化与直连云 API 之间的天平也在移动,一些原本笃定要本地部署的场景,开始重新算账。
做外贸客服 SaaS 的老周对这轮降价的感受最具体。他的产品要跟客户多轮往返确认订单细节,去年每接入一个客户,光推理成本一个月就要小几百块,销售报价前得先算账单。降价后同样的流程成本降到原来的四分之一,他干脆把"多轮追问"改成默认开启,顺带把客户满意度做了上去,续费率涨了十几个点。降价省下来的从来不是成本,是新功能的空间。
现在就能做的有两件事:如果你的应用还在用半年前的价格表估算成本,把账单重新拉出来算一遍,很多当时搁置的功能可以重启了;选型时别只看标价,把聚合平台、厂商直连、包月套餐三种口径摆在一起比,实际差价可能比模型之间的差距还大。价格战还没到终局,但方向已经清楚——token 会便宜到像水电,值钱的会变成知道往哪儿用的人。