工作机制与关键组成
准备语料
解析文档、切分成合适的文本块,并保留来源信息。
检索资料
通过关键词、向量或混合检索查找相关段落。
结合证据作答
将选出的段落提供给模型,并展示引用来源;证据不足时应明确说明。
如何选择
当回答需要模型在运行时检索的信息时,可以使用 RAG;但不要把它当成自动事实核查机制。
适合解决哪些问题
- 回答内部文档或频繁变化的信息相关问题。
- 让领域回答基于用户可以检查的资料来源。
使用时要留意什么
- 检索效果差时,模型可能自信地给出不相关答案;应分别衡量检索和生成质量。
- 文档权限、内容新鲜度、文本切分和引用来源都是系统设计的核心问题。
使用前,先弄清楚
RAG 为什么仍会生成没有依据的回答?
可能是没有检索到所需段落,也可能是模型没有正确使用检索证据。排查时先检查召回内容,再检查回答与证据是否对应。资料不足时应明确说明,而不是强行生成结论;引用链接也要真正支持相邻的说法。
继续核对原始资料
概念说明参考项目文档与源码;场景选择和接入建议为 AI Manuals 的整理判断。版本、价格、许可及接口细节请以项目当前说明为准。
- 项目文档与说明docs.llamaindex.ai
- Anthropic:上下文检索www.anthropic.com