AI 纪元 追踪人工智能最新进展,深度解读前沿技术

昇腾910C千卡迁移,先补通信和算子

昇腾910C进入真实部署后,迁移难点不只在单卡性能。NCCL到HCCL、CANN算子适配、千卡拓扑和集群调优,才是项目周期里更容易被低估的部分。

0 次阅读 约 2116 字 4 分钟 AI 生成
Abstract visualization of high-performance computing cluster connectivity
Abstract visualization of high-performance computing cluster connectivity

深圳总投资1.55亿元的智算中心项目进入部署阶段后,昇腾 Ascend 910C 被推到台前。它不再只是国产替代清单上的型号,而要开始承接真实业务负载。

单卡参数并不难算。腾讯云开发者社区文章提到,910C 的 FP16 算力为 800 TFLOPS,约为 H100 的 40%;HBM 容量为 96 GB,高于 H100 的 80 GB;显存带宽为 1.8 TB/s,低于 H100 的 3.35 TB/s。端到端 LLM 训练和推理里,910C 实际性能约为 H100 的 60%—80%,取决于具体任务。

这些差距可以提前写进方案。真正容易拖慢迁移进度的,常常是通信、算子和集群拓扑。

NCCL 换 HCCL,改的不是一个库名

很多原本跑在 NVIDIA GPU 上的训练代码,默认用 NCCL 处理多卡通信。AllReduce、梯度同步、跨节点通信,大多被框架封装起来,业务开发者平时未必会碰底层。

迁到昇腾后,对应的是 HCCL。接口名字相近,工程工作量却不会自动消失。通信库、运行时、网络拓扑、调度策略,都要重新适配。规模一旦到千卡,抖动会被放大:某一次通信延迟,可能拖慢整个训练 step;节点间链路不均衡,也会拉低集群利用率。

腾讯云开发者社区文章给出的另一个数字是,910C 的 MFU 约为 30%。这说明在部分大模型训练场景中,计算单元并没有持续满负荷工作,通信和数据搬运会吃掉不少时间。

对迁移团队来说,这类问题比“少了多少 TFLOPS”更麻烦。单卡性能差距可以估算,通信效率要靠集群配置、HCCL、框架层并行策略和模型结构一起调。

算子问题,通常到迁移中段才暴露

昇腾迁移的另一个卡点是算子。

如果模型主要使用标准算子,迁移压力会小一些。但很多开源模型、实验模型,或者已经被业务团队改造过的模型,会带有非标准结构。到了这里,问题就不只是 PyTorch 能不能启动,而是某个 Attention 变体、某个融合算子、某段自定义逻辑,能不能在 CANN 软件栈上稳定、正确、有性能地跑起来。

腾讯云开发者社区文章把软件栈称为最大的隐性成本,这个判断很贴近迁移现场。硬件参数在采购前就能比较,软件栈成本往往要等代码真正跑起来才出现。

能编译只是第一步。后面还有精度对齐、性能回归、算子替换、日志定位,以及不同版本工具链之间的兼容问题。如果团队过去大量依赖 CUDA、cuDNN、cuBLAS 或 Triton 形成开发习惯,切到昇腾后,就要给算子开发和调试留出时间。

千卡不是单机验证的放大版

910C 的单芯片参数只是起点。腾讯云开发者社区文章提到,910C 的 HCCS 带宽为 400 GB/s。这个数字说明芯片间互联能力很重要,但它不会自动解决千卡集群里的瓶颈。

大规模训练要看很多层:服务器内部互联、跨节点网络、HCCL 通信、框架并行策略、数据加载、调度系统、故障恢复。任何一层没有调好,最后都会体现在训练吞吐不稳定上。

这也是千卡迁移和单机跑通最大的区别。单机验证只能证明模型和算子基本可用;千卡要跑稳,还要看拓扑设计和通信效率。NVIDIA 体系下积累的经验有参考价值,但不能原样搬到昇腾集群里。

华为自己的优化也花了时间

华为在 2025 年全联接大会相关演讲中提到,DeepSeek 带来快速增长的用户和流量后,华为云从春节开始投入优化,直到 2025 年 4 月 30 日,Ascend 910B/910C 的推理能力才达到客户的基本需求。

这个表述很关键。它说明 910B/910C 已经能够承接部分实际推理需求,也说明从“能跑”到“满足客户基本需求”,中间需要持续工程优化。

同一场景下,华为还强调了“超节点互联技术”。这一方向瞄准的,正是大规模 AI 基础设施里的互联和调度问题。对 910C 来说,后续能否在更多训练任务中稳定扩容,要看 HCCL、CANN、框架适配和集群方案继续补齐到什么程度。

迁移前,先把三笔账算清楚

企业评估从 NVIDIA GPU 迁到昇腾 910C,只看 H100、H20 和 910C 的参数表不够。更应该先问三个问题。

第一,模型里有多少自定义算子?如果核心链路高度依赖 CUDA 体系里的成熟库或自研算子,迁移成本会明显上升。

第二,训练任务对通信效率有多敏感?参数规模越大,并行策略越复杂,HCCL 适配和拓扑调优越关键。

第三,团队有没有足够的软件栈能力?昇腾迁移不只是买卡,还要理解 CANN、HCCL、MindSpore 或 PyTorch 适配工具链。缺少这部分能力,项目周期很容易被低估。

昇腾 910C 不是账面性能最强的 AI 芯片。腾讯云开发者社区文章也给出过类似判断:它不是最好的 AI 芯片,但在中国 AI 产业里,是一个绕不开的选择。

这句话的重点不在口号,而在现实约束。外部高端 GPU 供应存在不确定性时,国产大规模算力必须有人扛起来。910C 迁移要做的,也不是简单证明它能替代某一张 GPU,而是把工程账摊开:通信要重调,算子要补齐,千卡拓扑要重新设计。能接受这些成本的团队,才适合把它作为长期算力底座来建设。

相关阅读