实测设置
基于Llama 3架构的70B模型，使用包含多语言语料的同一训练任务。四张卡都按官方推荐环境配置，连续运行72小时，记录总耗时、耗电和中断情况。
速度与成本对比
H200完成训练迭代比最快的国产卡（寒武纪MLU590）快了约35%。
我们按完成同等训练量所需成本（人民币/千次迭代）做了折算：
- H200 成本指数设为1.0（基准）。
- 寒武纪MLU590 成本指数约0.8，相当于H200的八成。采购单价和国内电力成本是主要因素。
- 天数智芯BI-150 成本指数约1.1，略高于H200。
- 燧原T21 成本指数约1.3，其设计更侧重推理场景。
这说明，国产卡的竞争点已从峰值算力转向“每元钱产出”。芯片厂推行的“驻场改系统”服务，正是为了帮客户抠出那20%-30%的效率差距。
72小时稳定性考验
训练大模型怕中途崩。
- H200 全程零中断，性能曲线平滑。
- 寒武纪MLU590 出现两次轻微性能抖动（第28小时和第52小时），日志显示与内存调度相关，任务未中断，自动恢复。
- 天数智芯BI-150 在第45小时任务卡死，需人工重启，损失约1.5小时。
- 燧原T21 未中断，但后期散热风扇满载，噪音和功耗上升。
一次卡死，意味着工程师调试、算力空转和项目延期。硬件采购价只是账单一部分，维护、调优和中断恢复的“隐藏成本”容易被低估。
软件生态差距
硬件是骨架，软件是血肉。
在H200上，从PyTorch原生支持到FlashAttention-3等优化库，部署基本开箱即用。国产卡都有自己的软件栈（如寒武纪的BANG/Cambricon Neuware、天数智芯的TIANJIC SDK），但生态分散。
一个例子：我们想调整分布式训练的通信拓扑。在H200上，社区有成熟方案和文档。在国产卡上，则需分别查阅手册、联系技术支持，移植调试多花好几天。这种隐性开发成本，采购时容易忽略，却直接影响研发效率。
这也解释了芯片厂为何要“驻场”——得手把手补生态短板，客户才能真正用起来。
选卡建议
选H200，如果你：
- 在做前沿大模型预训练或关键微调。
- 研发团队时间紧，追求开发效率和确定性。
- 电力稳定且成本不是首要因素。
- 需要依托庞大的开源社区快速迭代。
考虑寒武纪MLU590，如果你：
- 训练任务相对标准，对综合成本非常敏感。
- 愿意或已与寒武纪建立深度技术支持合作，能接受在软件调试上投入精力。
- 项目在国内，能享受本地化服务。
- 对长期运行的绝对稳定性有容错空间，或有完善的断点续训和监控方案。
天数智芯和燧原的产品，目前更适合特定的推理场景或与其硬件捆绑的方案。用于大规模预训练，性价比和体验都不理想。
现实考量
国产AI芯片能在特定场景下把成本追到H200的八成，这是一个重要信号：替代选择不再只是“政治正确”，而是一个经济上可能算得过账的选项。
但前提是，你必须把72小时稳定性、软件调试成本、团队学习曲线都折算进去。只看芯片采购价，已经算不清算力这笔账了。
