千亿参数模型训练里,单卡指标很容易把人带偏。卡越多,问题越不像一张芯片的算术题,反而更像一套工程系统:数据怎么切、梯度怎么同步、节点之间怎么通信、软件栈能不能稳住。
所以,B200和昇腾910C不能只放在参数表里比。真正要问的是:放到百卡、千卡,甚至更大规模后,训练任务还能不能跑得稳、调得动、算得过来。
通信开销不是附属项
大模型训练会频繁做跨卡、跨节点的数据交换。单卡算力再高,如果同步等待时间太长,集群效率也会被拖下来。
NVIDIA路线的优势,通常不只来自GPU本身,还来自NVLink、InfiniBand、NCCL等软硬件组合。B200所在的新一代平台延续了这条思路:尽量把卡与卡、节点与节点之间的通信做成一套成熟系统。对从零预训练大模型的团队来说,这类成熟度本身就是成本的一部分。
昇腾路线的重点则是把国产算力从单卡、单机往大规模集群推。21世纪经济报道在2025年6月24日报道,华为发布的昇腾CloudMatrix 384超节点,由384个昇腾NPU和192个鲲鹏CPU联接而成,目标是对标英伟达GB200 NVL72。报道还提到,Pangu Ultra的后训练基于这一超节点完成。
这个信息很关键。CloudMatrix 384不是简单堆卡,而是在更大的计算单元里缩短通信路径,减少跨节点交换带来的损耗。对昇腾来说,超节点设计就是在回答一个现实问题:当训练不再停留在单机,通信开销该怎么压下去。
但也要把话说窄。现有可引用材料里,没有足够公开数据能直接证明B200集群和昇腾910C集群在千卡训练中的有效带宽、端到端延迟或训练吞吐差距。那些看起来很精确的百分比,如果没有来源,不该写成结论。比较这两条路线,更稳妥的说法是:B200侧重成熟互联和软件栈协同,昇腾910C侧重通过超节点、CANN和国产系统工程补齐大规模训练能力。
预训练和微调,不是一道选择题
如果目标是从零训练一个千亿参数级别的基座模型,通信稳定性会被放大。预训练周期长,数据并行、张量并行、流水并行都可能牵涉大量同步。一旦集群调度、通信库、算子兼容性反复出问题,损失的不只是算力利用率,还有研发节奏。
这种场景下,B200的吸引力在于确定性。不是说它在任何指标上都必然领先,而是NVIDIA长期围绕GPU、CUDA、NCCL和网络互联形成了更熟悉的工程路径。团队招人、框架迁移、故障排查、第三方工具支持,也都更容易找到现成经验。
昇腾910C更适合被放到另一类问题里看:已有模型的后训练、行业模型微调、推理部署,以及对国产供应链有明确要求的项目。
思瀚产业研究院2025年5月9日的材料提到,昇腾910B通过CANN软件栈做软硬协同优化,并兼容PyTorch等主流框架;潞晨通过自研国产推理引擎,实现了昇腾910B与DeepSeek-R1系列模型的推理适配优化。材料还提到,在采用梯度积累与显存复用技术后,昇腾910B可承载的模型数量提升至1.7倍。
这些信息不能直接等同于910C在千卡预训练中的表现,但能说明一件事:昇腾的竞争力越来越依赖软件栈和工程适配,而不只是NPU芯片本身。企业如果已有国产算力适配团队,能够处理CANN、框架迁移、算子调优和性能定位,昇腾路线的可行性会明显提高。
别把“国产替代”写成一句口号
昇腾910C的讨论,很容易被写成宏大叙事。但企业采购不会只看口号,最后还是要落到账上。
至少有几笔账要分开算:
- 训练任务是不是从零预训练,而不是微调或推理;
- 现有代码是否高度依赖CUDA;
- 团队有没有CANN、MindSpore或PyTorch适配经验;
- 集群规模会停在几十卡、百卡,还是继续往千卡以上走;
- 业务是否需要国产供应链和本地服务响应;
- 液冷、机房、电力、网络交换设备是否已经准备好。
如果团队的核心任务是大规模预训练,又缺少国产算力迁移经验,B200会是更稳的选择。贵不贵是一回事,调试成本和时间成本也要一起算。
如果任务集中在行业微调、后训练、推理部署,且企业本身有国产化要求,昇腾910C就不该被简单排除。特别是在模型已经确定、训练链路相对固定的场景里,软件栈适配一旦跑通,后续复用价值会更高。
千卡集群比的是系统耐力
可引用材料里还出现了“探索昇腾910C十万卡集群”的报告标题。仅凭摘要,不能把十万卡能力写成已经落地的事实,但它说明昇腾910C的讨论已经不再停留于单卡,而是进入大规模集群规划层面。
这也是B200和昇腾910C对比最容易被误读的地方。单卡峰值、显存、带宽当然重要,但到了千卡训练,真正决定结果的往往是更琐碎的部分:通信库是否稳定,任务失败后能否快速恢复,算子缺口怎么补,性能瓶颈能不能定位,集群运维人员是否熟悉这套系统。
所以,选型可以简单一点:
- 要从零训大模型,且预算允许,优先选成熟度更高的B200路线;
- 要做后训练、微调、推理,且有国产算力适配能力,可以认真评估昇腾910C;
- 如果团队没有迁移经验,不要只按单卡价格做决策,先做小规模验证;
- 如果业务对上线时间极敏感,稳定性和工具链成熟度比纸面算力更重要。
B200和昇腾910C的差别,不只是“谁更快”。一个更成熟,一个更贴近国产算力体系;一个迁移阻力小,一个在供应链和本地化上更有想象空间。企业真正要算的,是自己的任务放到集群里以后,哪条路线更少踩坑、更容易持续运行。