企业做 RAG，最怕的不是答案写得不流畅，而是它看起来很对。
一个 Agent 读了合同扫描件、客服录音转写和销售表格，生成一份投诉分析。格式完整，引用齐全，最后却把旧版合同条款当成当前依据。这样的错误很难在第一眼被发现，因为它不像胡言乱语，更像“认真查过资料后的误判”。
NVIDIA 对 RAG 的解释很直接：检索增强生成把外部数据源连接到大语言模型，让模型基于特定领域或最新信息生成回答。它能从文本、图像、视频等结构化和非结构化来源中检索信息，用企业专有数据补充模型的预训练知识，从而提高准确性并减少幻觉。
这句话里有个关键前提：检索到的东西必须对。企业级 RAG 的麻烦也从这里开始。
文档切开以后，语境也可能被切掉
很多知识库上线时，第一步是把文档分块。分块太粗，召回不准；分块太碎，语境断掉。真正难的是后者。
腾讯云《企业级RAG深度指南：从检索到生产级知识系统》提到，企业级 RAG 涉及文档解析、分块策略、混合检索、生成质量控制等环节。这里的“分块策略”不是简单把文档按固定长度切开。合同、技术手册、培训材料、客服 SOP 的结构完全不同，标题层级、表格、脚注、代码块、图片说明，都可能影响答案。
比如一份设备维护手册，前面写操作步骤，后面写注意事项。如果系统只召回了步骤，没有带上注意事项，Agent 给出的答案仍然可能语气确定，但风险已经埋下。RAG 的问题不是“有没有知识库”，而是知识库里的内容被模型以什么方式看见。
比较稳的做法，是让分块跟文档结构走：章节标题要保留，表格不要被打散成混乱文本，图片和图注要建立关联，合同条款要保留上下文。对于企业知识库来说，分片不是预处理小活，而是准确率的第一道门。
多模态检索不能只拼在一起
53AI 在 2025 年 4 月 24 日发布的《一文搞懂：RAG、Agent与多模态的行业实践与未来趋势》中，把 RAG、Agent 和多模态放在产业实践里讨论，涉及 AI+汽车、金融、工业、培训、SaaS、电商、医疗等方向。这个范围说明了一个现实：企业知识早就不只是 Word 和 PDF。
多模态 Agent 要处理图片、视频、音频、图表，也要处理扫描件和转写文本。问题是，这些信息源的可靠性并不一样。录音转写可能有识别错误，扫描件可能有 OCR 错字，图表里的趋势可能比旁边的文字更关键，产品缺陷照片也可能包含文本里没有写出的线索。
如果把所有模态都转成向量，再用同一套相似度规则处理，结果很容易偏。看起来相关的内容，未必能回答问题；相似度高的片段，也可能只是词面接近。
更实际的做法，是先按问题类型决定检索路径。问合同条款，优先找正式合同和版本信息；问设备异常，技术文档、维护记录和图片可能要一起看；问客户投诉，客服文本、订单记录、售后政策都要参与。多模态不是把更多材料塞给模型，而是让不同材料在合适的位置出现。
Agent 会办事，也要会停手
CSDN 智能体开发者社区文章《AI Agent：从RAG到多智能体》提到，AI Agent 已经不再只是对话问答，而是具备自主规划、工具调用、记忆存储、多智能体协作的智能执行体。能力变强以后，错误的后果也变重。
一个只回答问题的系统说错了，用户可能追问一句。一个能调用工具、写入系统、触发流程的 Agent 说错了，可能会影响工单、采购、财务或合规判断。
所以企业级 RAG 不能只做“检索—生成”。至少要加上几类约束：答案要能追溯到来源；无法找到来源的内容要标记风险；生成内容要和原文做一致性检查；低置信度场景要允许输出“不确定”或“请人工复核”。
这不是让 Agent 变笨，而是让它少越界。企业场景里，承认不知道常常比编出一个顺滑答案更安全。
评估要盯住会出事的地方
很多团队评估 RAG，会先看整体准确率。但企业真正关心的往往不是平均表现，而是关键场景会不会翻车。
客服问答、合同审查、研发检索、合规检查，错误成本不一样，测试集也不该一样。客服场景可以多测高频问题和政策边界；合同场景要测试版本、条款引用和例外条件；合规场景要重点看系统会不会过度推断。
InfoQ 关于 AICon 上海的议题介绍中提到，大会关注 AI Agent、多模态应用、大模型架构创新、推理性能优化、大模型驱动数据创新、AI 产品创新与出海策略等方向。产业讨论已经从“能不能接入大模型”走到“接入之后怎么稳定运行”。RAG 的评估也应该跟着变细。
一个可用的评估集，至少要包含真实业务问题、长尾问题、容易混淆的版本问题，以及故意设置陷阱的问题。系统答错后，不能只记录“错误”，还要分清是分片问题、检索问题、排序问题、生成问题，还是源数据本身过期。
企业知识库的准确性，最后拼的是这些细活。RAG 能把大模型接到企业数据上，但它不会自动保证答案可靠。多模态 Agent 也一样，能看更多材料，不等于理解得更准。
真正值得投入的地方，是让系统知道该查哪里、该信什么、该引用哪一段，以及什么时候必须停下来交给人。
