2026年5月，欧洲药品管理局批准了首个完全基于可解释AI框架的糖尿病视网膜病变筛查系统。一个月前，欧盟《人工智能法案》全面生效，把医疗影像、信贷风控等应用划入了“高风险”清单。
现在想在这些领域用AI，光准确率高不够，还得让医生、审计员能看懂。一场从技术到流程的改造已经开始了。
西门子医疗：三层栈把“看懂”拆开做
2026年第一季度，西门子医疗的肺部CT分析AI通过了欧盟高风险认证。他们的技术文档显示，没有只用SHAP或LIME，而是搭了一个三层解释结构：
- 热力图打底。用整合梯度算法算出每个像素对诊断的影响，直接叠在CT图上。医生一眼就能看出AI在盯哪里。
- 相似病例比对。系统会从伦理审查过的参考库里，调出历史类似病例，生成对比报告，告诉医生“这个病例像过去哪一例，但某个特征不同”。
- 规则核查收尾。这一步最关键。系统内置了放射科医生委员会定好的诊断规则清单。AI给出建议时，会说明是否符合清单里的核心条目（比如“病灶边缘毛刺征”），以及有没有冲突证据。
这套方案开发成本比传统黑盒模型高了大约40%。但西门子的合规负责人说，投入在第二季度就有了回报：他们的系统在德国、法国等主要市场的审批周期，比竞争对手短了60%。解释性从成本项，变成了准入门票。
Monzo银行：用因果图回答“为什么”
金融领域的挑战更复杂。欧盟法案不仅要求“可理解”，在自动信贷决策里，还隐含了公平性和反歧视的证明要求。简单的特征重要性排序，很难回答“为什么邮编A的申请人比邮编B的评分低”这种涉及潜在歧视的问题。
2026年上半年，英国数字银行Monzo升级了信用评分模型，尝试把因果推理和反事实解释结合起来：
- 先理因果：他们和经济学家、社会学家合作，区分了哪些因素（如收入）直接影响还款能力，哪些（如邮编）可能只是历史数据里的代理变量。
- 再生成反事实：贷款被拒时，系统会告诉申请人：“如果储蓄余额能达到X欧元，或信用历史延长Y个月，申请可能获批。”
- 给监管留接口：最关键的是，他们向监管机构提供了专用API。审计员可以在保护隐私的前提下，运行公平性测试，检查模型在不同群体上的表现差异，并追溯到因果图的哪个环节出了问题。
Monzo的技术报告显示，这套系统让公平性投诉下降了35%。但代价是，推理计算成本是传统方法的3倍以上，因果图也需要持续维护。合规正在倒逼AI从追求相关性，转向探索因果性。
中小企业：买模板，还是建能力？
大公司有资源自建复杂解释体系，但中小企业怎么办？
2026年的市场催生了新服务——“XAI合规即服务”平台。法国初创公司Explainity提供SaaS方案，年费约2-5万欧元，企业可以集成标准化的解释模块和审计报告工具，里面预置了医疗、金融等领域的解释模板和公平性检测基准。
但技术专家提醒，标准化模板解决不了所有问题。一位参与欧盟AI法案技术标准制定的专家指出：“模板化解释可能沦为合规表演。真正的考验是，当模型在边缘案例上出错时，企业能不能像西门子、Monzo那样深度归因和调试。”对依赖第三方服务的公司来说，这仍然可能是一个黑箱。
可解释AI在2026年的实战表明，它不是装一个SHAP库就完事。它是贯穿数据治理、模型开发、文档记录、持续监控的全流程工程。对想进欧洲市场的AI公司来说，问题已经不是“要不要做XAI”，而是“怎么用可承受的成本，建起有深度、能审计、随模型迭代更新的解释能力”。
