距离8月2日只剩38天。欧盟《人工智能法案》（EU AI Act）关于高风险AI系统的条款将全面生效。
对使用开源大模型（比如Meta的LLaMA 4、Mistral系列）的开发者来说，这意味着一些过去模糊的合规要求，很快会变成写在法律里的硬性规定。罚款上限是3500万欧元，或全球年营业额的7%。
开源模型为啥也会被管？
一个常见误解：“我用的是开源模型，不是商业产品，法案管不到。”
但法案看的不是模型是否开源，而是应用场景。法案附件三列出了一组高风险场景。只要把开源模型用在下面任何一个地方，你的AI系统就自动属于“高风险AI”：
- 教育评估与招生：比如用模型自动批改论文、决定录取。
- 人力资源管理：用来筛选简历、评估求职者或绩效。
- 信贷与保险审批：决定贷款额度、保费或信用评分。
- 关键基础设施：涉及能源、交通、供水的运行监控。
- 司法与行政：辅助裁判、影响选举或管理移民申请。
一旦落入这些场景，不管用的是闭源API还是开源模型，都必须满足一套严格的合规要求。
开发者自查，先抓这三个点
高风险AI的合规要求很多，但有三个地方最容易踩坑，建议优先处理。
1. 模型不能是“黑箱”
法案要求高风险系统必须有足够透明度，让使用者能理解它。具体要做的事：
- 写清楚技术文档：记录训练数据从哪来、模型架构、性能指标、已知局限。
- 提供使用说明：给下游使用者明确的指南，说清楚系统能干什么、该怎么用、有什么风险。
- 保留运行日志：日志至少保存6个月，出问题能回溯。
用开源模型微调时，一个常见问题是：你记录了微调数据的来源和标注过程吗？很多团队只顾着跑模型，没留这些记录，在欧盟框架下这就算违规。
2. 训练数据是“原罪”
法案要求训练数据必须有“适当的数据治理”。重点检查：
- 数据是否有代表性：数据集能不能覆盖模型将来要服务的地区和人群？
- 有没有偏见：要检测、预防和减轻基于种族、性别、年龄等特征的偏见。
- 数据质量：保证相关、完整、准确。
这对用公开数据集微调的团队是考验。你查过Hugging Face上那个流行数据集的构成吗？你的微调过程引入了新偏见吗？这需要一套从数据源头开始管的流程。
3. 人必须能随时按下“停止键”
高风险AI不能完全自己运行。法案强制要求：
- 设计人工干预接口：确保人类操作员能随时暂停、中断或覆盖AI的输出。
- 明确责任人：要有清晰的人类责任人，能监督系统并负责。
- 建立风险监控：持续监控性能，出现意外风险能及时干预。
在欧盟的规则下，一个没有人工复核机制的自动化系统，在高风险场景里就是违法的。你得给你的AI系统装个“紧急停止按钮”。
三个开源合规工具
大公司有法务团队，中小开发者可以看看社区里的轻量工具。以下是截至2026年6月还在维护的三个项目：
- AI Risk Navigator：一个Python风险评估库。内置欧盟法案的风险分类框架，填份问卷就能快速评估你的应用场景属于哪类风险，生成风险报告。适合项目早期自查。
- Model Card Toolkit：Google开源的工具，现在是行业常用标准。能从训练日志和评估结果里自动提取信息，生成结构化的“模型卡片”——这是满足透明度要求的关键文档。
- Compliance Checklist CLI：命令行工具。把法案条款拆成一条条可检查的清单，能集成到CI/CD流水线里，每次部署前自动扫描合规。
时间线：还剩四周怎么做
- 第一周（现在）：用AI Risk Navigator评估你的项目是否属于高风险。
- 第二周：如果属于高风险，立刻用Model Card Toolkit补全技术文档。同时检查数据流水线，建立基础的数据治理记录。
- 第三周：为你的系统设计并实现最基本的“人工干预接口”和日志系统。把Compliance Checklist CLI集成到开发流程里。
- 第四周（7月底前）：做一次完整的端到端测试，确保文档、监控、熔断机制都能正常工作，并保存记录。