Dify 深度玩法（四）：RAG 做到什么程度才算到位
Dify 深度玩法（四）：RAG 做到什么程度才算到位
上一篇：节点自定义的五个层级。 自托管 Dify 的 RAG 不是"上传文档然后问答"，而是一条每一段都能调参的流水线，且没有云版的容量阉割。
全链路：入库与查询
平台能力是现成的。效果差异来自三个你自己做的决定：分块策略、检索模式、元数据设计。
效果的四层阶梯
| 层次 | 做出来的效果 | 依赖能力 |
|---|---|---|
| 1. 基础问答 | 回答带引用来源，知识库里没有就明确说不知道 | 混合检索 + 重排 + 阈值 |
| 2. 精准知识库 | 长文档问答不丢上下文；检索自动限定在某类文档 | 父子分段 + 元数据过滤 |
| 3. 可编程检索流水线 | 查询改写、分类路由、多库检索、生成前校验全部画进画布 | RAG 流水线 / Chatflow |
| 4. 外挂检索引擎 | Dify 只当编排层，检索打到你自己写的 API（ES、数据库、自建向量服务） | 外部知识库 API |
第 2、4 层是自托管的意义所在：云版免费额度装不下，而外部知识库接口意味着可以整体绕开内置向量库。
如何证明 RAG 与企业知识库回答的可信度？
RAG（检索增强生成）在企业知识库场景中已成为标配。但用户在使用时的第一反应往往不是"回答得好"，而是"我怎么知道这是对的"。
这个信任问题不解决，再高的准确率也没有意义。
可信度的三根支柱
一、强制溯源引用
这是最基础、也最重要的机制。企业 RAG 不能像通用 AI 那样直接给出自然语言回答就结束，而必须在回答的每一个关键信息点后面附带：
- 原文切片 ID：用户能定位到知识库中的原始文档
- 相似度评分：被召回的切片与 Query 的匹配程度，低于阈值时显眼提示"低置信度"
- 返回时直接链接：点击即可跳转查看原文
用户能看到"这个回答是从哪里来的"，就能做出自己的判断。即使 AI 出错，用户也能从引用中发现并纠正。
关键点在于：溯源引用必须是强制性的，不能是可选项。RAG 系统应该主动告诉用户"我的回答基于什么"，而不是等用户问了才给。
二、置信评估体系
仅靠溯源不够，系统还需要对自己的回答做"自查"。推荐使用 RAGAS 框架中的关键指标：
- Faithfulness（忠实度）：回答中的事实是否都有上下文支撑？任何一条无法从检索内容中推导出来的信息，都是潜在的幻觉。
- Relevance（相关性）：检索到的切片是否真的回答了用户的问题？如果上下文相关度低，即使答案本身正确，也是"答非所问"。
这两个指标应当在每次回答后自动计算，并在回答的元数据中呈现。当 Faithfulness 低于阈值时，系统应当主动提示"该回答的部分信息可能缺乏文献支撑"。
三、人机校对闭环
对于高价值、高风险的决策场景（如合同审查、政策解读、医疗建议），AI 的定位应当是"证据索引助手"而非"最终定论者"。
推荐建立三级人机协作流程：
AI 生成回答 → 自动标注置信度 → 低置信度：直接转人工
→ 高置信度：推送专家复核（可跳过式）
→ 极高置信度：自动放行 + 留痕
这个闭环有双重价值：既保证了准确性，又不断收集专家的修正反馈，用于后续模型微调和 RAG Pipeline 优化。
总结
RAG 可信度不是技术指标，而是系统设计哲学。它要求我们在追求"回答得好"的同时，时刻回答"凭什么信这个回答"。
溯源是底线，评估是能力，人机闭环是保障。三根支柱缺一不可。
智能体问题：幻觉与事实错误
幻觉：智能体最顽固的问题
如果只能用一个词概括当前 AI 智能体最致命的问题，行业里多数人会选"幻觉"（Hallucination）。通用大模型写诗写周报文采斐然，但让它分析"上季度 A 产品线毛利率下降的原因"，它可能编造一串子虚乌有的数据，还附上看起来很专业的百分比。更糟糕的是——语气越自信，越难被非专业用户识破。
Fiddler AI 2026 年的报告给出了一个残酷的数字：生产环境智能体失败率 70%-95%，幻觉是头号杀手。BetterYeah 的调研发现，68% 的企业在 AI 落地中遭遇幻觉问题，其中 32% 因错误累积导致系统性风险。
这不是"模型还不够聪明"的问题。这是智能体的结构性挑战。
从单步错误到幻觉累加
单步幻觉：模型不确定时仍"自信输出"
LLM 的核心训练目标是"合理续写"，而不是"如实回答"。当训练数据中缺少相关信息时，模型不会说"我不知道"——它会生成一段看起来连贯但实际上没有事实支撑的文字。
这是因为：
- 训练数据偏差：互联网文本中，自信断言远多于谦虚声明"我不确定"
- 采样机制：模型采样概率最高的 token 序列，不受事实约束
- 缺乏不确定性建模：模型内部没有显式的"置信度"信号传递给输出层
结果：模型在信息不足时的行为是"编造"，而非"沉默"。
多步累加：小偏差滚雪球
当智能体执行多步任务时，单步幻觉的破坏力被指数放大。看一个典型场景：
步骤 1：检索客户信息 → 幻觉：编造了不存在的客户 ID
步骤 2：用该 ID 查询订单 → 返回空结果
步骤 3：智能体"推断"该客户是新客户 → 编造注册时间
步骤 4：基于虚假注册时间做客户画像分析 → 输出错误结论
步骤 5：基于错误结论撰写运营建议 → 决策偏离
每一步都"合乎逻辑"，但起点就是一个虚构的事实。这就是幻觉累加效应——错误在推理链中不断传播和放大，最终输出和现实南辕北辙。
2025 年 Q1 某金融机构的案例就是典型：智能体在财报分析中第一次幻觉了一个营收数字，后续所有财务比率、趋势判断、投资建议全部基于这个错误数字展开。表面看报告专业完整，实际结论完全失真。
为什么传统 NLP 时代的幻觉没那么致命？
传统 QA 系统也幻觉，但影响范围有限——一次问答的错误不影响下一次。智能体截然不同：它是一个持续运行的闭环系统，前一步的输出是后一步的输入。一个幻觉 token 就像生物学中的基因突变，在后续"转录"过程中被不断放大。
三类幻觉的根源
1. 事实性幻觉
模型编造不存在的事实。典型表现：