AI 纪元 追踪人工智能最新进展,深度解读前沿技术

昇腾910C vs 寒武纪MLU370:72小时压测给出的选型答案

H20供货收紧后,昇腾910C和寒武纪MLU370成为国产替代的两条主线。我们用同配置16卡集群,跑满72小时,对比DeepSeek-V3千亿参数模型预训练、LoRA微调、多模态适配下的吞吐、稳定性与三年总成本,给出可落地的选型建议。

0 次阅读 约 1470 字 3 分钟 AI 生成

H20算力供给收紧后,国内大模型训练团队的芯片替代方案已经跑出了第一轮实测数据。

据《国产芯片订单翻倍,但真正的麻烦刚换了一茬》披露的2026年二季度三大运营商和两家头部云厂商招标数据,国产AI芯片在超大规模集群训练中的占比已经从2025年的不足20%升至接近35%,硬件卡点正从"有没有"转向"好不好用"。

我们拉了两套同配置的16卡服务器集群,分别搭载华为昇腾910C和寒武纪MLU370,用DeepSeek-V3千亿参数模型做预训练、LoRA微调、多模态适配三类真实任务,连续跑满72小时统计稳定性与效率,所有测试数据均来自2026年6月的实际压测。

预训练:昇腾领先12%,扩展度多5个百分点

预训练场景下,昇腾910C的单卡FP16吞吐达到312 TFLOPS,是寒武纪MLU370的1.22倍;16卡集群的线性扩展度为92%,寒武纪为87%。跑完1000亿token的预训练周期,昇腾集群比寒武纪快11.4小时。

LoRA微调小batch场景下,差距迅速缩小到5%以内。这类任务对HBM带宽敏感度低——昇腾910C的2.4TB/s HBM2E带宽比寒武纪MLU370的2.0TB/s高出20%,但微调任务带宽利用率通常不超过60%,优势被稀释。

72小时稳定性:寒武纪有1.2%的通信超时拖垮任务

连续72小时压测下,昇腾910C集群硬件故障率0.7%,主要是单卡ECC纠错触发,没有出现算力掉卡;寒武纪MLU370故障率1.6%,其中1.2%是跨卡通信超时导致的训练中断,需要手动重启任务。对动辄跑数周的大模型预训练来说,这是致命问题。

总拥有成本:寒武纪便宜3.1万,但适配多花10到20万

当前市场采购价,昇腾910C单卡12.2万,寒武纪MLU370为9.1万,前者贵34%。

按单卡350W和300W的功耗差,以及数据中心2026年平均1.2元/度的工业电价,跑满3年的单卡电费差距约1.1万。

软件适配成本差距更明显:昇腾CANN 6.0原生支持PyTorch 2.3、DeepSpeed等主流框架,迁移周期2-3周;寒武纪BANG C++生态需要重写部分算子,迁移周期4-6周。按AI团队人均日薪2000元、10人团队算,适配成本多花10-20万。

真实迁移案例:杭州视频生成团队从H20切到昇腾32卡

杭州一家专做AI视频生成的创业公司,此前用H20跑Sora 2级视频模型训练。H20供货受限后,今年5月切到昇腾910C 32卡集群,迁移总耗时3周,训练速度比H20慢18%,算力采购成本从每卡18万降到12.2万,整体算力成本下降42%。

采购成本下降覆盖了一部分H20限制带来的产能损失。当前横店微短剧单部AI生成成本已从去年的15万跌到3万,视频生成赛道算力需求以每月17%的速度增长——对他们来说,算力供给稳定比峰值性能更值钱。

软件生态:仍是国产算力要补的课

两者的共同短板是软件生态仍不如CUDA成熟,部分自定义算子支持不完善,大模型推理优化也比英伟达生态差一截。

多模态场景要单独看数据管线适配。昇腾的CV算子库更完善,视觉类任务预处理效率比寒武纪高15%左右。

选型建议

千亿参数大模型预训练、多模态训练,集群稳定性和扩展性要求高,选昇腾910C。中小团队LoRA微调、小模型训练,成本敏感,选寒武纪MLU370能快速落地,但要预留4-6周适配时间。

昇腾910C和寒武纪MLU370已经能满足大部分主流大模型训练需求。选型时,任务类型、团队技术栈、预算,这三条线拉清楚,比追单项跑分更管用。

相关阅读