https://bml.asia/tags/rag/ Recent content in RAG on 苏然的博客 Hugo zh-CN Thu, 17 Sep 2026 04:19:55 +0800 https://bml.asia/posts/model-vs-data/ Fri, 11 Sep 2026 04:30:41 +0800 https://bml.asia/posts/model-vs-data/ <p><span style="text-indent:2em;display:block;">平时聊天里最常听到的一种吐槽，是说大模型笨，问什么答非所问，换了个更大的模型也还是那个样子。这话有它普遍的道理，只是把原因全归到模型头上，多少有点冤枉。模型本质上是在学习数据里的模式，如果一类任务几乎没进过训练数据，不管是小众的专业知识、非常冷门的格式，还是公司内部那套外人看不懂的业务逻辑，它就是没见过，没见过的东西它只能靠编，输出自然胡说八道，也就是常说的“大模型幻觉”。这种时候只要喂上高质量示例，无论是预训练阶段直接灌进去、用 RAG（检索增强生成）现查现用，还是做少量微调（SFT），能力立刻肉眼可见地涨上来。很多企业直接拿开源小模型配上私有知识库，效果就已经够用，正因为这类场景的瓶颈确实在数据，不在基座本身。于是很容易得出一个直觉：只要数据够多够好，模型本身强不强无所谓。</span></p>