走进一个正在扩容的AI数据中心,工程师最关心的往往不是某张卡的峰值算力,而是旧任务能不能顺利搬过去。
过去几年,大量模型训练代码默认写在CUDA环境里。PyTorch、TensorFlow、第三方算子库、调试工具、通信库,已经把英伟达硬件变成了很多团队的“默认选项”。昇腾910C要追B200,真正难啃的地方就在这里:芯片能上架,任务还要能稳定跑起来。
B200的强项,不只在参数表上
英伟达在中国市场的压力已经很明显。广州日报2025年11月报道提到,英伟达在中国AI芯片市场份额从2022年的95%降至2025年上半年的54%。份额下滑,说明替代正在发生;但这并不等于B200的壁垒已经松动。
B200背后有CUDA、NVLink、NVSwitch和NCCL这一整套成熟组合。训练大模型时,单卡算力只是起点。模型一旦跑到多机多卡,AllReduce、AllGather这类集合通信会频繁出现,通信库和互联结构直接影响集群效率。NCCL之所以难替代,是因为它和英伟达硬件、框架适配、开发者习惯绑得很深。
这也是国产AI芯片进入训练集群时经常遇到的现实问题:硬件参数可以对齐一部分,但软件栈、算子覆盖、通信稳定性和运维工具链,很难靠一次发布补齐。
CANN要解决的是迁移成本
华为给昇腾准备的软件底座是CANN。对使用PyTorch的团队来说,迁移时最先遇到的是算子适配:原来在CUDA上能跑的模型,换到Ascend后端后,常见层可能问题不大,但自定义算子、特殊张量操作、历史遗留代码,都会变成排查点。
第二个麻烦在显存和性能调优。训练代码能跑通,不代表效率就能接受。batch size、混合精度、梯度累积、算子融合策略,换硬件后通常都要重新试。很多团队真正花时间的地方,不是把代码从A改成B,而是找到性能掉下来的原因。
第三个环节是分布式通信。昇腾侧对应的是HCCL。它承担的角色类似NCCL,但底层硬件、拓扑和调优方式不同。模型规模越大,通信开销越难被忽略。到了数百卡、上千卡训练,通信抖动会被放大,调度、容错和监控也会一起进入账本。
CloudMatrix 384看的是集群账
单卡对比已经不够解释采购选择。2026年的算力项目,更多会按集群来算:任务迁移要多久,训练吞吐是否稳定,故障恢复是否顺手,运维团队能不能接住。
CloudMatrix 384的意义就在这里。它不是单纯给昇腾910C再堆更多卡,而是试图通过超节点和互联设计,减少多卡训练时的通信损耗。对大模型训练来说,这类设计比单卡峰值更接近真实问题。
但采购方不会只看方案名字。他们会问几件很具体的事:原有CUDA任务迁到CANN后,哪些算子需要改;HCCL在实际拓扑下的带宽和延迟是否稳定;训练框架版本怎么锁;故障卡如何隔离;任务失败后能不能快速恢复。能不能回答这些问题,决定昇腾910C在训练集群里的推进速度。
先落地的通常是更可控的场景
从公开资料看,昇腾已经在一些行业场景里推进。金股讯关于昇腾系列AI芯片的梳理提到,昇腾910C覆盖训练和推理场景,已应用于政务、金融等行业AI基础设施建设。
这类场景更适合先落地,原因也不复杂:模型相对固定,版本迭代没有互联网大模型训练那么频繁,迁移后的维护边界更清楚。推理任务对软件兼容的要求同样高,但比起持续预训练和频繁调参,工程风险更容易被拆分。
训练集群要复杂得多。一个团队如果长期围绕CUDA开发,迁移到CANN并不只是换硬件采购单,还意味着算法工程、平台工程、运维体系都要重新磨合。这个过程不会因为单卡参数接近就自动消失。
国产算力的需求是真实的
AI算力需求本身仍在增长。民生证券研报引用《昇腾计算产业发展白皮书》称,从2012年开始的6年中,AI计算需求增加了30万倍;同一研报还引用IDC测算,2021年中国智能算力规模达155.2 EFLOPS。
需求增长叠加外部供应不确定性,让国产算力有了更强的采购理由。证券时报也报道过华为公布昇腾AI芯片三年发展路线图。路线图能给市场预期,但真正让客户下单的,还是迁移成本、稳定性和可用工具。
所以,昇腾910C追B200,不能只盯着BF16、HBM或单卡峰值。B200的优势写在CUDA和整套开发体系里;昇腾910C要打开更大的训练市场,CANN、HCCL和CloudMatrix 384必须把“能跑”推进到“好迁、好调、好管”。
到2026年7月,差距已经从单卡参数转向工程适配。谁能把兼容层做薄,谁就更接近真实的集群落地。