2024年前后,不少团队以为把向量数据库搭起来,RAG的幻觉问题就解决了一大半。两年后回头看,这种想法在专业领域撞了墙。
在医疗诊断、法律合规、高端金融咨询这些容错率接近零的场景里,单纯靠余弦相似度匹配文档片段的系统,错误率仍卡在15%到20%。原因不复杂:向量检索擅长的是"语义接近",不是"逻辑成立"。遇到需要多跳推理的问题,比如"根据患者A的病史和药物B的禁忌,推断与药物C的相互作用",向量检索往往只能召回同时包含A、B、C三个词的段落,却串不起它们之间的因果链。
知识图谱就在这个节点重新回到了RAG架构里。
两条管道并行,谁也没取代谁
工程上现在很少再争论"向量还是图谱",大家在做的是混合检索。一套成熟的RAG系统通常跑两条并行通道:
向量管道把PDF、邮件、会议记录这些非结构化数据转成嵌入向量,负责快速召回相关背景。它回答的是"谁知道什么"。
图谱管道则依赖预先构建的结构化本体,把实体、属性、关系显式化。用户提问时,系统先在图谱里做路径搜索和逻辑推导,确认答案的事实底座符合业务规则。它回答的是"事情之间是什么关系"。
最后由LLM做编排,把两条管道的结果合在一起,输出兼具语境丰富度和逻辑严谨性的回答。
案例:两个真实的代价
某跨国银行的信贷风控助手
2025年初,该行上线了一套基于纯向量检索的RAG系统,给信贷分析师查财报和新闻用。Q3审计时发现问题:系统多次把"某供应商关联公司"误判成"同一实际控制人",导致两笔高风险贷款通过审批。复盘发现,向量数据库理解不了"关联公司"和"实际控制人"之间的股权穿透逻辑,只能按文本相似度做粗匹配。
2026年第一季度,该行重构了系统,先构建包含数百万实体的企业关系图谱,把股权穿透、担保链条显式化。分析师查询时,系统先在图谱里跑图遍历,定位风险传导路径,再调向量检索补最新舆情。重构后风险识别准确率提升40%,幻觉导致的误报率压到0.5%以下。
某三甲医院的临床决策支持系统
早期版本处理罕见病诊断时,常推荐过时的治疗方案——向量检索容易召回高相似度但低时效性的文献。新版系统引入动态知识图谱,把药品说明书、临床指南、最新文献结构化,图谱里同时记录知识的"有效期"和"证据等级"。医生问某种新药的使用禁忌时,系统先在图谱里过滤掉失效证据,再结合向量检索出的患者个体化数据(过敏史、肝肾功能等)给建议。上线半年,处方错误率明显下降。
为什么2026年才回归
知识图谱技术本身不新,过去十年一直存在,却没成主流。两个瓶颈最近才松动:
构建成本。以往构建和维护图谱依赖专家手动标注,扩展困难。现在LLM本身具备较强的信息抽取能力,主流做法是用LLM从非结构化文本里自动抽取三元组,再配人工校验的闭环,整体构建效率比过去提升一个数量级。
检索性能。早期图数据库扛不住亿级节点的实时查询。现在图神经网络和向量检索引擎深度集成,加上国产芯片在算力侧的进展,图遍历和向量相似度计算都能压到毫秒级,混合检索的实时性不再是瓶颈。
真正卡住的是数据治理
混合RAG不是万能解。最大的风险在数据治理:图谱质量完全取决于底层数据的一致性,源数据一旦冲突,图谱就会变成"垃圾进,垃圾出"的放大器。
图谱维护也是持续性工作。实体关系随业务演进,持续更新机制不跟上就会出现"知识老化"。这需要自动化流程和领域专家介入并行,单靠任何一边都不够。
向量数据库提供的是广度和灵活性,知识图谱提供的是深度和准确性。两者合在一起,让RAG从"能回答"往"答得对"走了一步。在专业领域里,这一步决定了系统能不能真的被信任。