一、今年讨论的东西变了
2024 年大家比谁的模型分数高,2025 年比谁便宜,到了今年,问得最多的是:这东西跑起来一个月多少钱。
这不是行业变冷,而是行业进入算账阶段。
二、成本变成了第一约束
一个功能能不能上线,现在看三个数:单次调用的输入 token、输出 token、缓存命中率。
前两个决定单价,第三个决定你实际花多少。很多团队以为自己在优化模型,其实在优化提示词长度。
举个具体例子:一段一万字的资料,每次提问都全文塞进去,和先做摘要再检索,成本可能差十倍。模型没变,账单变了。
三、三个可观察的信号
信号一:小模型开始承担主力。
分类、抽取、改写这类任务,用大模型的收益越来越小。很多产品把 80% 的调用换成了小模型,剩下的才给大模型。
信号二:缓存与批处理变成产品能力。
能不能把重复问题命中缓存,决定了毛利。这也是为什么“提示词模板”突然重要——模板让缓存更容易命中。
信号三:推理时间被单独定价。
带思维链的模型,输出 token 是普通模型的几倍。同样的任务,账单可能差三四倍。
四、这对普通用户意味着什么
三件事:
- 免费额度会变少,但基础能力会变强。
- “能不能用”不再是问题,“值不值得用”才是。
- 会用提示词的人,和不会用的人,成本差距会拉大。
五、一个判断
接下来一年,竞争的重点不会是榜单,而是单位成本下的可用性。
谁能把一件事做到又稳又便宜,谁就能留在产品里。
六、怎么写这类观察才不空
我的做法是只写能验证的东西:
- 有具体数字的(价格、耗时、容量);
- 有可复现操作的(自己跑一遍看账单);
- 有明确边界的(说清适用场景)。
反过来,凡是“将彻底改变”“颠覆”这类词,我都会删掉。
七、资料来源建议
想看更多一手资料,可以翻文档库。
万象云档 的“人工智能&大模型”分类下有两百多篇文档,公开可读,比二手解读靠谱。
八、一句总结
行业的成熟,不是模型更强,而是开始有人认真算账。