RAG

RAG（Retrieval-Augmented Generation，检索增强生成）是一种让AI在回答问题前先查阅相关资料的方法。整个过程分三步——接到问题后，先从文档、数据库中检索相关内容，再据此生成答案。

用「开卷考试」来类比很贴切。如果只靠记忆作答（闭卷），很容易得出听起来合理却错误的答案——也就是幻觉；但如果让模型先翻开「教科书」再作答，准确率会提高，还能给出出处。

这正是企业打造「懂公司文档的AI」时采用的标准方法。相比重新训练模型（微调），成本更低，而且一旦资料更新，答案也会随之立即改变。「能回答公司规章制度的聊天机器人」「基于医学文献的AI」这类报道背后，几乎都少不了RAG。

「为减少幻觉，引入了RAG架构」——意思是让模型先查阅相关文档再作答，以此提高可信度。

1. 在上传文档（产品说明书、服务条款、公司规章等）之前，先自己想好理想答案应该是什么样——「如果有人问退款期限，理想的回答应该是什么？」提前明确期望输出，是实战中构建RAG系统的人首先遵循的原则。
2. 现在上传文档并这样提问：「只根据这份文档中的内容回答。如果文档里没有，就只回答'文档中未提及'。问题：退款期限是几天？」——把得到的答案和第1步中你定好的理想答案对比一下。
3. 再设一个陷阱——故意问文档里没有的内容：「海外配送的退款期限是多久？」如果回答「文档中未提及」，就算通过；如果煞有介事地编出一个答案，那就是幻觉。
4. 进阶一步：把得到的答案粘贴到新的对话中，让AI「判断这个答案是否与下面的文档原文一致」——这是用AI检验AI答案的一个简化版本，实战中称为「用LLM做评估工具」。平时准备好一份问题及其理想答案的清单，每次文档更新后重新跑一遍，这其实就是企业常说的测试集。

「我们用公司资料训练了AI」这句话两边都会用到,但方式完全不同。一种是重新训练模型本身、改变其内在特性;另一种是模型保持不变,每次提问时去找相关文档一起提供给它。公司说「做个内部聊天机器人」时,通常需要的是后者。