H20受限后，创业公司开始评估国产卡。昇腾910C标称800 TFLOPS，寒武纪MLU590约512 TFLOPS。但跑起模型才知道，软件生态才是真正的短板。2026年6月我们做了迁移测试：Llama-3-8B和Qwen2.5-72B从A100分别搬到昇腾910C和MLU590，每台插2张国产卡，对照组2张A100。数据如下。
FlashAttention：第一个坎
迁移Llama-3-8B时，昇腾CANN 7.0编译器报错：FlashAttention无对应实现。花了3天手动替换为稀疏注意力或原生Attention，性能下降22%。寒武纪的BANG C处理滑动窗口注意力（SWA）有bug：窗口超过512显存溢出。社区方案是硬编码分段计算，多轮对话下延迟增加35%，耗了一周才稳定。
算子支持率：昇腾通过CANN原生支持约92%核心算子，寒武纪约81%（基于PyTorch自动映射）。其余需手写TIK或BANG C，或降级到CPU。和我们之前报道一致——多出的两周主要卡在注意力机制算子的适配。
性能：理论vs实测
Qwen2.5-72B推理（输入512 token，输出128 token，batch size=8）：
- 昇腾910C：首字延迟0.9秒，生成78 tokens/s，约A100（92 tokens/s）的85%
- 寒武纪MLU590：首字延迟1.3秒，生成58 tokens/s，仅A100的63%，低于坊间传言的70%
性能损耗来源：昇腾FlashAttention回退导致卷积算子利用率低；寒武纪GELU和RMSNorm的BANG实现效率低，算子融合不足。据百度百科，昇腾910C采用Chiplet封装，集成约530亿晶体管，国产化率约55%。硬件参数没直接转化为软件效率。
显存方面：Qwen2.5-72B原计划4-bit量化塞进单卡，但寒武纪量化工具仅支持对称量化，精度损失略高，被迫用8-bit，显存占用从32GB升至44GB，多卡通信延迟进一步拖慢吞吐。
稳定性：跑两天见分晓
单卡推理72小时：昇腾910C出现一次驱动超时恢复（因连续推理未释放内存），寒武纪MLU590出现三次算子执行错误，均需重启。8卡分布式训练，寒武纪CNCL在AllReduce时约5%丢包重试率，整体训练效率比单卡线性叠加低18%；昇腾HCCS重试率低于1%。以上均在实验室恒温空调房完成，曾有反馈昇腾高温下降频明显，寒武纪高负载时显存ECC报错增加。
选型建议
急需替换H20且图省事，昇腾910C是当前最佳选择——算子生态相对成熟，性能可达A100的80%以上，有华为驻场支持。但55%国产化率意味着部分封装供电元件依赖外部供应链，有长尾风险。
寒武纪MLU590成本低（单卡约昇腾的60%），但迁移隐性成本高。团队需有较强BANG C开发能力且模型结构固定（如仅用Transformer原生算子），特定场景下能接近A100的70%性能。频繁切换模型或使用前沿注意力机制，可能陷入算子开发循环。
截至2026年6月，任何声称“无缝替代CUDA”的宣传都不属实。实测是唯一过滤器。国产芯片进步值得记录，但选型需冷静算ROI。
