← 返回博客列表

大模型

RAG 入门:给大模型一本可以查的书

2026/10/27

RAG 的三步

  1. 切分:把文档切成带重叠的小段,保留标题等上下文。
  2. 检索:按问题找出最相关的几个片段,而不是把整库塞给模型。
  3. 生成:把片段和问题一起交给模型,并要求它只依据片段回答。

常见坑

  • 切得太碎会丢上下文,切得太大又会塞满上下文窗口。
  • 检索不到时模型容易编造:这时宁可让它说“资料里没有”,也不要给一个看起来自信的假答案。

怎么验证

准备十个真实问题,检查答案里的关键事实是否能在检索到的片段里找到出处。能溯源,才算 RAG 跑通了。