AI 纪元 追踪人工智能最新进展,深度解读前沿技术

AI报销Agent被骗120万,财务自动化该如何加固?

2026年5月,一家SaaS企业的AI报销Agent被PS发票骗过120万元。西门子、可口可乐的案例显示,23%的财务Agent半年内暴露欺诈缺口。腾讯多模态指纹、德勤可解释审计日志,加上三层风控框架,能堵住这些漏洞。

0 次阅读 约 1751 字 4 分钟 AI 生成

2026年5月,一家营收50亿的SaaS企业上线AI报销Agent。三个月后审计发现,员工用PS发票骗过系统,成功报销120万元。问题出在Agent只做了OCR文字提取和匹配,没有验证发票真伪。

《2026年智能体AI核心指南报告》显示,约23%的财务Agent在部署后6个月内出现至少一次可被利用的欺诈缺口。西门子采购部门的AI报销Agent上线不到三个月,就开始系统性地批准“看起来完美”的报销单——审计发现超过12%的报销存在虚构或重复提交。可口可乐中国区类似系统上也发现了约8%的异常报销单。

这些Agent能快速核对发票号码、金额,识别简单PS痕迹,甚至交叉验证酒店公开价。但面对精心构造、符合所有表面规则的欺诈模式,它们容易失灵。例如,员工同一天在北京和上海产生两笔出租车费,Agent可能只核验每张票据,而忽略“时空不可能”这一根本漏洞。

多模态指纹:验人、验设备、验流程

2025年,腾讯安全推出多模态指纹方案,原本用于拦截实时Deepfake诈骗,通过微表情时序、音频频谱异常、设备行为指纹交叉验证,风险识别率超过99%。该技术被移植到财务报销后,建模范围包括发票图片像素、提交人的设备指纹、登录行为、历史报销习惯、关联账户流水。

举例:员工小A平时出差在华东,报销每月两次。突然在凌晨3点用海外IP提交一张金额异常的住宿发票,系统立刻给工单打上高风险标签。某股份制银行嵌入这套方法后,AI仿冒报销率从0.7%降到0.02%。

德勤在2026年6月发布的《AI重塑审计》报告中提到,领先企业的财务AI系统正在从“规则执行者”转向“情境感知者”。某跨国制造企业采用类似多模态验证后,财务异常初筛准确率从72%提升至94%,人工复核工作量下降60%。

可解释审计日志:每一步都能翻旧账

当AI Agent有资金操作权限时,决策链必须可追溯。可解释审计日志记录调用了哪些子模型、特征权重、触发阈值。比如一张发票OCR提取金额5000元,但图像质量评分0.6(低于正常值0.9),这个分数要跟最终批准结果绑定。合规官可以直接查日志:哪一步降权了,哪一步跳过了人工复核。

西门子在全球财务共享中心推行类似日志方案后,审计效率提升40%,因日志不全导致的合规扣分下降70%。SAP Concur和国内合思已将生成式AI的决策链解释作为标准功能提供。

三层风控框架:规则、模型、人工各司其职

技术工具需要架构来串起规则、模型和人工。基于西门子、可口可乐等企业的实测,这里有一套实用的三层风控框架:

  • 第一层:规则引擎。硬性指标直接拦截。例如:发票金额超过预算科目余额的120%、供应商在黑名单库、同一行程重复报销。这层由传统规则系统负责,响应时间<10ms,不依赖模型。
  • 第二层:AI引擎(多模态指纹+异常检测)。把规则引擎通过的工单进行打分。0-100分,高于80分自动通过,60-80分进入人工抽查,低于60分直接驳回。模型本身定期用对抗样本进行红蓝对抗测试。
  • 第三层:人工审计闭环。中间分段工单和高危操作日志必须人工复核。人工复审占比不低于5%,且AI不能把自己的置信度当作审计权限。可口可乐财务中心在第三层引入“随机+定向”双轨制:5%随机全检,100%检查高评分工单中风险分类异常的案例。

每层都有明确的回退机制和监控指标。规则层漏过的,AI层能捕捉;AI层误判的,人工层纠偏。三层比例不是固定的——随着AI模型迭代和欺诈手段变化,动态调整阈值。初期可以把AI自动通过阈值设到90分,运行3个月稳定后再放宽。

三个最容易踩的坑

基于多家SaaS企业的实测反馈,三个细节最常被忽略:

  1. 对抗样本测试不能省:上线前用伪造发票(修改文件头、添加噪声、截取局部)测试模型。很多Agent在对抗样本下准确率直接跌破50%。
  2. 日志字段要全量记录:模型版本、特征分布、异常标记理由,缺一不可。德勤报告提到,32%的审计失败是因为日志缺失关键字段。
  3. 警惕规则与模型的“串通”:如果某些工单规则层放过、模型层也给出高分,要警惕特征坍缩——需要人工复核这批“双高”工单。

财务自动化的目标是省钱提效,但一次重大欺诈就能抹平所有收益。把风控内建在Agent骨子里,而不是事后打补丁,才是真正的可靠。

相关阅读