RAG 检索增强到底解决了什么问题?为什么企业 AI 都强调它?
RAG 解决的是“回答时如何找到并利用可更新的外部知识”,便于接入企业资料和显示来源;它不能保证不幻觉,也不等于训练、权限或数据治理。
RAG 是 Retrieval-Augmented Generation,即检索增强生成。用户提问后,系统先在允许访问的资料中找到相关片段,再把问题与片段交给生成模型组织答案。它把“知识存在哪里”和“模型怎样表达”部分分离:产品政策变化时可以更新外部资料,不必期待基础模型重新训练后记住企业事实。
在确定模型、数据与上线边界时,还可以对照 定制 AI 对话框,和市面上几百块一年的智能客服 SaaS 到底差在哪? 和 AI 对话框上线后,知识库内容我们能自己维护吗?每次改都要找你们吗?;这些内容补充了需要放在同一项决策中考虑的上下文。
四种路线解决的不是同一个问题
| 路线 | 知识从哪里来 | 最擅长 | 主要限制 | 选择结论 |
|---|---|---|---|---|
| 直接调用模型 | 训练参数与当前提示 | 通用写作、开放讨论 | 不知道企业最新事实 | 不回答需核验的内部知识 |
| 长上下文直接塞文档 | 本次请求附带全文 | 少量、短期材料分析 | 成本高,长文中信息利用不稳定 | 临时单文档任务可用 |
| RAG | 检索出的外部片段 | 多文档、常更新、需要来源 | 检索和资料治理会成为新故障点 | 企业知识问答常用 |
| 微调 | 训练样本塑造行为模式 | 固定格式、分类或风格 | 不是高效的事实更新机制 | 有稳定高质量样本时评估 |
RAG 原始论文把参数化语言模型与可检索的非参数记忆结合,并讨论知识密集任务与来源问题,见 NeurIPS 2020 论文。企业强调它,是因为产品手册、制度和案例经常变化,又通常不具备用内部资料训练基础模型的条件;检索可在回答时引入当前版本,并把文档链接、页码或段落随答案返回。
一次 RAG 回答至少经过六个环节
资料先解析并保留标题、表格和元数据,再按语义边界切分并建立索引;用户问题可能需要改写或补充身份条件;检索阶段结合关键词、向量和产品/地区/时间过滤;重排选出真正相关片段;生成阶段依据证据回答;最后校验引用与权限并记录日志。任一环节错误都会影响结果,所以“接一个向量数据库”不等于完成 RAG。
权限必须在检索前执行。例如经销商价格只允许对应角色查询,系统应在查询索引时过滤知识空间,而不是先把片段发给模型再要求它保密。来源也不能只显示文档标题:引用应指向实际支持答案的段落及版本,否则看似可追溯,用户仍无法核对。
它不会自动治愈幻觉
检索可能找不到正确片段,也可能找到相似但错误的旧版本;模型还可能在证据之外补充常识。长上下文也不是越多越好,“Lost in the Middle”研究发现相关信息的位置会影响模型在长上下文中的表现,见论文。因此需要限制无关片段、处理冲突、证据不足时拒答,并对答案逐句检查支持关系。
验收要把检索与生成分开:检索测正确片段的 recall@k、排序位置和权限过滤;生成测有证据正确率、忠实度、引用一致率、正确拒答率和严重错答率;系统再测 P95 延迟、单次成本和知识更新至生效的时间。RAGAS 研究也把上下文相关性、忠实度与答案质量分成不同评价维度,见 EACL 论文。自动评分可用于筛查,但业务事实仍要由权威人员确认。
滚水科技可以建设资料解析、索引、检索、权限和运营后台,但是否需要 RAG 应由任务决定:固定十条 FAQ 用规则更简单,单份临时合同可直接长上下文,只有多源、常更新且需要核验的知识才体现 RAG 价值。