2023年,“向量库+LLM”几乎是所有AI应用的默认架构。但到了2026年,行业信号已经很明确:这种线性的“检索-生成”管线正在被更高层次的架构取代。
问题出在复杂业务场景的“多跳推理”上。传统RAG假设答案就藏在某一段文档里,但在金融、法律或医疗领域,事实往往隐藏在跨文档的关联中。当员工询问某笔跨境交易是否符合合规要求时,系统需要同时关联《反洗钱法》、客户风险评级历史和近期风控通知。单一向量检索无法处理这种跨域逻辑。在700家进行GenAI转型的企业中,多跳推理的缺失往往直接导致项目停滞甚至血泪教训。
要打破这种信息孤岛,技术栈正在向两个方向演进。
GraphRAG:用图谱关联碎片化事实
引入知识图谱进行结构化推理,将非结构化文本转化为实体关系图。在存储端,这意味着不能只依赖Milvus或Faiss,而是需要“向量索引 + 图数据库(如Neo4j)”的双轨制。利用图谱的多跳推理能力,才能有效关联分散在各部门的数据。
Agentic RAG:把检索变成行动
让检索本身成为一种“行动”。这也是微软AutoGen等框架大行其道的原因。在多智能体协作模式下,复杂的业务逻辑被拆解为可独立验证的单元。一个Agent解析用户意图,一个连接向量数据库,另一个调用外部API查询实时数据,最后由协调者Agent汇总信息并生成回答。
在编排框架的选型上,虽然LangChain依然流行,但面对需要状态管理的复杂工作流,LangGraph或Microsoft AutoGen更具优势。基于状态图的Agent编排能有效避免长周期服务中的“上下文丢失”。
模型部署也需要更务实的混合策略。端侧小模型处理简单查询,复杂推理再调用云端大模型。这既能缓解本地部署的显存成本压力,也能满足敏感数据不出域的合规底线。
从“检索增强”到“行动增强”,RAG并没有死去,只是进化了。企业级知识库的评判标准,已经从“能不能找到答案”变成了“答案是否可信、是否可执行”。盲目堆砌技术栈没有意义,能否在不增加无限Token成本的前提下,真正解决多跳推理问题,才是架构改造的底线。