大模型
RAG 入门:给大模型一本可以查的书
2026/10/27
RAG 的三步
- 切分:把文档切成带重叠的小段,保留标题等上下文。
- 检索:按问题找出最相关的几个片段,而不是把整库塞给模型。
- 生成:把片段和问题一起交给模型,并要求它只依据片段回答。
常见坑
- 切得太碎会丢上下文,切得太大又会塞满上下文窗口。
- 检索不到时模型容易编造:这时宁可让它说“资料里没有”,也不要给一个看起来自信的假答案。
怎么验证
准备十个真实问题,检查答案里的关键事实是否能在检索到的片段里找到出处。能溯源,才算 RAG 跑通了。