一、三条路常被对立起来
微调、RAG、提示词,三者不是替代关系,是三种成本结构。
选错路,钱和时间都白花。
二、三条路的本质
提示词: 把规则写清楚。成本最低,效果上限也最低。
RAG: 把资料放在外面,用的时候检索。成本中等,适合知识频繁变。
微调: 把行为写进模型。成本最高,适合风格与格式固定。
三、五个问题的判断法
| 问题 | 选什么 |
|---|---|
| 知识经常变? | RAG |
| 只要固定格式输出? | 提示词/微调 |
| 需要稳定语气? | 微调 |
| 数据量小、预算少? | 先提示词 |
| 知识靠私有文档? | RAG |
四、一个顺序
我的建议永远是:先提示词,再 RAG,最后微调。
理由:越往前成本越低,而且前面的工作后面还得做。
一个提示词没调好的项目,直接上微调,通常只是把问题藏起来。
五、微调真正的适用场景
三个:
- 输出必须严格符合格式(例如固定 JSON schema)。
- 语气与风格需要高度一致。
- 任务极单一且量大(用大模型太贵)。
反过来,“让它知道更多知识”不是微调的好理由。
六、RAG 最容易忽略的部分
不是模型,是分块与清洗。
同一个模型,分块方式不同,效果差很多。
七、混合才是常态
真实项目往往三者都用:
提示词定规则,RAG 提供事实,微调定风格。
八、一个提醒
不要一上来就谈微调。
微调之前,先把检索和提示词跑到位。否则你不知道是自己设计不对,还是模型不行。
九、扩展阅读
想理解模型怎么被训练,可以看入门类文档。
万象云档 的大模型分类里有训练与微调的公开资料,概念讲得比营销文章清楚。