今年新出的笔记本，厂商介绍页里"本地 AI"出现的次数明显超过了"续航"和"轻薄"。这不是营销话术的漂移，是芯片真的把本地推理做便宜了——新一代 NPU 的算力足够在笔记本上跑一个几十亿参数的模型，而且不怎么吃电。端侧 AI 从"极客尝鲜"变成了出厂就有的"标配能力"。
端侧模型最核心的三个好处，恰好是云服务最贵的三个地方：隐私、延迟、和持续使用的成本。数据不用出设备，聊天记录、合同草稿、病历摘要全留在本地；离线也能用，飞机上、地下室里照样答；最重要的一点是——你用多少次都不额外花钱。对每天靠 AI 干活的人来说，这等于把"按次计费"的焦虑一次性卸掉了。
这件事会真实改变一些产品的形态。做自媒体的朋友之前用云端模型写脚本，最怕两件事：断网写不了、和"别人"的对话记忆混在一起。现在他把一个 80 亿参数的本地模型装进笔记本，日常提纲、润色、翻译全在本地跑，只有要出高质量长文时才切云端。他的原话是："原来我是在租 AI，现在感觉它住进了我电脑里。"这种混合用法，大概率会成为接下来一年的主流。
但别把它神话。端侧模型现在的天花板很清楚：复杂推理、超长上下文、多模态理解，还是云端旗舰更强。所以更准确的判断是"分工"而不是"替代"——端侧接住你说的 80% 琐碎高频需求，云端负责那 20% 真正吃算力的硬活。对做工具的人，这意味着产品要会"自动路由"：简单请求本地解决，难的上云，用户根本不用操心。
对普通用户，我的建议是：如果你最近换电脑，把"是否支持本地 AI"放进选购清单；手里有近两年的设备也别急，很多轻量模型已经能在现有硬件上跑起来。先从一件小事试起——比如让本地模型帮你整理桌面文档、写邮件草稿——体验过"不用联网也能用"之后，你很难再回去完全依赖云端了。