多源知识检索与证据融合

multi_source_knowledge_retrieval2026-09-22 01:19:42

多源知识检索与证据融合是从不同类型的信息源取得资料,并在生成回答前统一处理来源、版本、权限、适用范围和冲突的知识问答方法。它处理的不只是“把多段文本放进上下文”,还包括选择正确的信息源、保存可追溯依据,以及判断不同证据能否共同支持结论。

这里的“多源”可以指多个文档库,也可以指性质不同的来源,例如内部 Wiki、结构化业务接口、数据库查询、公开网页、标准和论文。不同来源承担的职责不同,不能只按向量相似度把它们视为同质片段。

信息源的职责

一个系统可以按问题性质划分来源:

来源类型 适合的信息 常见限制
受治理的知识库或 Wiki 定义、规则、流程和经过维护的说明 可能未覆盖最新外部变化
结构化业务接口 当前状态、数量、关系、权限和可枚举数据 不适合直接回答长篇语义问题
公开网页和搜索 外部事件、产品文档、论文及近期信息 质量不一,存在过期内容和恶意指令
模型参数知识 语言组织和一般背景 难以确认来源与更新时间

模型参数中的记忆不应自动与可验证资料具有同等地位。对于关键事实,系统应优先使用能够定位、检查时间和判断适用范围的来源。

来源路由

来源路由是根据问题选择检索工具,而不是把所有问题发送给所有来源。路由时可以考虑:

  • 问题属于内部规则、实时业务状态还是外部公共知识;
  • 是否要求完整列表、精确数量或权限过滤;
  • 是否包含时间、版本、地区或对象范围;
  • 某个来源是否具有访问权限和足够的新鲜度;
  • 查询内容能否安全地发送到外部服务。

例如,完整枚举和统计通常应优先使用结构化查询;概念解释和跨文档归纳可以使用文本检索;近期外部变化可能需要网络搜索。路由结果也可能是组合:先从结构化接口取得对象,再从文档或网页补充解释。

统一证据记录

不同来源的结果进入生成上下文前,可以转换为统一的证据记录。常见字段包括:

  • 来源类型、稳定标识和可访问位置;
  • 标题、片段或结构化结果;
  • 取得时间、发布时间、版本及有效期;
  • 作者、发布组织或维护责任方;
  • 权限和租户范围;
  • 适用对象、地区和前提条件;
  • 它支持的子问题或结论;
  • 从原始资料到当前证据的处理步骤。

W3C PROV把溯源描述为与数据产出有关的实体、活动和参与者信息,并提供跨系统交换溯源信息的数据模型。知识问答系统不一定实现完整 PROV 标准,但保留类似的来源与派生关系,有助于判断质量、可靠性并复现回答。

融合与去重

证据融合应先判断内容关系,再决定如何组装:

  • 互补:来源分别覆盖不同子问题或条件,可以共同使用;
  • 重复:多个结果来自同一原始资料或表达相同事实,应去重;
  • 派生:摘要、转载和二次报道来自同一上游来源,不能误当成多个独立证据;
  • 冲突:来源在数值、时间、规则或结论上不兼容,需要单独处理。

排序分数只能说明某种检索模型下的相关程度,不能直接代表权威性或事实正确性。融合时还应考虑来源责任、发布时间、版本、适用范围和是否为原始材料。

回答生成后仍需检查引用能否支持相邻陈述。ALCE把正确性和引用质量分开评估,并使用引用召回与引用精确度检查结论是否得到支持以及是否混入无关引用。

冲突处理

遇到冲突时,不应把互斥结论拼成一个确定答案。可以依次检查:

  1. 是否讨论不同版本、地区、人群或时间段;
  2. 是否存在草案、已批准和已生效等状态差异;
  3. 某个来源是否引用了另一个原始来源;
  4. 是否有更接近事实产生过程的结构化记录或官方原文;
  5. 冲突能否在当前预算内通过补查解决。

无法消解时,应在答案中说明各来源的结论和差异,避免给出伪精确的统一判断。来源优先级应针对领域和问题类型配置,不能把“更新时间更晚”或“搜索排名更高”当成通用胜出规则。

网络资料与内部资料

把内部知识和网络搜索结合时,需要额外的边界:

  • 发送外部查询前移除凭据、私有正文、用户身份和不必要的内部名称;
  • 内部规则和业务状态应由相应的受治理来源决定,网络资料不能自动覆盖;
  • 网络内容作为不可信数据处理,其中的指令不能改变系统提示、权限或工具计划;
  • 外部资料进入长期知识库前,应经过独立的审核、去重和版本管理流程;
  • 读取资料与执行写入、删除或对外发送等动作应使用不同权限边界。

OWASP LLM01:2025 Prompt Injection指出,RAG 本身不能消除提示注入风险,检索到的恶意内容仍可能影响模型行为。安全控制需要放在模型之外,包括权限检查、输入输出隔离和高风险动作确认。

证据不足时

没有命中某一来源,不等于答案不存在。系统可以在预算内:

  • 改写查询但保留原问题的实体与硬约束;
  • 切换到适合该问题类型的来源;
  • 请求用户补充时间、对象或范围;
  • 对已获得证据的部分作答;
  • 明确说明当前无法验证的部分。

Corrective Retrieval Augmented Generation(CRAG)研究了在检索质量不足时触发纠正检索和网络搜索的方式,但使用外部来源仍需执行权限、隐私和来源治理。

评测

多源系统除了评测普通 RAG 指标,还应检查:

  • 来源路由准确率;
  • 每个子问题的必要来源召回率;
  • 来源新鲜度与适用范围判断;
  • 重复或派生资料识别;
  • 冲突发现与说明是否正确;
  • 私有信息是否进入外部查询;
  • 关键结论的证据覆盖和引用支持;
  • 增加来源后的质量收益、延迟与成本。

NIST AI 600-1强调在生成式 AI 生命周期中识别、测量和管理信息完整性与内容溯源风险。具体的检索和回答指标可参见 RAG 评测与 RAG 引用与依据校验。

参考资料

本页目录