新闻解读

"想得越久越聪明":大模型推理时计算(test-time compute)成新军备竞赛

酷越AI2026-10-174 分钟
"想得越久越聪明":大模型推理时计算(test-time compute)成新军备竞赛

前阵子有个做算法岗的朋友跟我吐槽,说他们评测一个新模型,发现一个反直觉的现象:同一个模型,给足"思考时间"和限制思考时间,数学题正确率能差出一个档位。这背后是一场正在悄悄换赛道的军备竞赛——从"训得大"转向"想得久"。

所谓推理时计算(test-time compute),简单说就是让模型在给出答案之前,先做更多内部推演:拆解问题、尝试多条路径、自我校验,再下结论。OpenAI 的 o 系列、DeepSeek R1、Google 的 Gemini 思考模式,走的都是这条线。它的核心逻辑是:与其把全部能力塞进训练,不如在推理阶段用算力换准确率。

为什么突然火了?因为预训练的"堆参数、堆数据"正在撞墙。Scaling Law 的边际收益在变缓,而推理芯片的供给却在快速扩张,此消彼长之下,"让模型多想一会儿"成了性价比更高的突破口。对普通用户最直观的感受是:复杂推理任务(数学证明、长代码、深度分析)的回答质量明显更稳,代价是响应慢几秒、调用成本高一些。

这条路线带来的格局变化很具体。过去比的是"谁的模型参数多",现在比的是"谁能在推理阶段把算力用得巧"。中小团队第一次有了弯道超车的机会——不用砸钱训一个万亿模型,而是用推理时的策略(比如更好的搜索、更聪明的自我对弈)把现有模型的能力榨出来。DeepSeek 把 R1 的推理能力开源,直接把这道门槛又拉低了一截。

对开发者和企业,实战含义很清晰:把"难任务"交给会思考的模型,把"快任务"留给小模型。做客服问答用轻量模型省成本,做合同审阅、代码审改这类容错率低的活,值得为推理时计算多付那点钱。一个做跨境电商的朋友就靠这招,把退货政策问答的准确率从八成出头拉到了九成五,客服工单量直接砍掉三分之一。

当然也有隐忧。推理时计算意味着更多算力消耗,当所有人都开始"让模型多想",AI 服务的电费账单会重新变贵。所以下一阶段的竞争,不只是谁想得久,更是谁想得又久又省。这场仗,才刚刚开局。

相关工具文中提到的工具,点开看详情与使用教程

相关工具:DeepSeekClaudeGemini
标签:
AK

酷越AI

专注AI工具评测与使用指南,帮你发现最好用的AI产品。

RELATED READS
相关阅读
AI 面试正在接管初筛:HR 省了时间,候选人的公平焦虑谁管 大模型"幻觉"第一次站上法庭:当 AI 编造的案例被写进法律文件 推荐常读:Amazon Science《不改架构重训,能换掉 AI 模型的"骨架"吗》 Perplexity Pro 多少钱?2026 学术搜索会员与免费额度盘点 推荐常读:Import AI(Jack Clark 主理的 AI 周报)
返回首页·全部文章