过去一年大家默认一个等式——想用像样的 AI 助手,要么连云端、要么花大价钱买旗舰机。这周几家手机厂把 80 亿参数级的模型量化后塞进两千元以内的机器,这个等式开始裂了。我的判断很直接:端侧 AI 的普及拐点不在参数多大,而在它便宜到让你根本不在乎"用不用得起"。
把最近几家的动作摆在一起看就清楚。某厂把模型量化后塞进中端芯片,断网能做摘要、翻译、本地问答;另一家把语音助手延迟压到三百毫秒级,开口就能聊,不再有"正在思考"的停顿。这些不是实验室演示,是系统更新就能用到的能力。
为什么是现在?两个成本曲线同时到底。一是手机 NPU 算力三年涨了三四倍,二是模型量化技术让"跑得动"的门槛骤降。厂商抢的不是这一次的口碑,而是下一代 AI 硬件的软件底座——耳机、眼镜、玩具里那颗会说话的"芯",得有人先铺好生态。谁先让开发者习惯在自己的端侧框架上写应用,谁就握住了入口。
对用户最直观的变化是"无感"。以前用 AI 要打开 App、等联网、看转圈;现在锁屏下说句话本地就回了,地铁里、飞机上照样能用。隐私这条线也顺了:你的聊天、照片、备忘全程不离开设备。
落到三类人身上差别很明显。普通用户换机时多了个隐形指标——端侧 AI 能力,但不用为它多掏钱;开发者本地推理框架成了新试验田,写个离线助手比想象中简单;企业门店导购、工厂巡检这类"不能断网"的场景,第一次能放心上 AI。做自媒体的小李前阵子跑外地拍素材,山里信号时有时无,以前灵感记在纸上回头就丢;现在用端侧助手边走边口述,回来直接导出成稿,他原话是"终于不用跟信号较劲了"。
你现在能做的:翻翻手里手机的系统更新,看有没有"端侧/离线助手"开关,打开试断网问答;想尝鲜的,关注本站收录的豆包、元宝这类带端侧能力的产品。下次买手机,把"离线能不能用 AI"加进你的 checklist,这件事从现在就该做。
端侧 AI 不会取代云端大模型,但它会把"AI 是奢侈品"的印象一点点磨掉。真正的变化,是当它便宜到你想不起来要专门去用它的时候。