AI 纪元 追踪人工智能最新进展,深度解读前沿技术

昇腾910C跑通万亿大模型后,国产智算集群怎么混部海光DCU

深圳河套学院用1000颗昇腾910C跑通了1.6万亿参数的DeepSeek-V4-Pro,故障率0.3‰。但现实机房里,昇腾、海光往往并存。怎么让这两类卡在同一集群高效协同?算子层和通信协议的适配是核心。

0 次阅读 约 1239 字 2 分钟 AI 生成
Abstract representation of two distinct geometric structures interlocking seamlessly within a modern server rack environment.
Abstract representation of two distinct geometric structures interlocking seamlessly within a modern server rack environment.

2026年6月11日,深圳河套学院联合哈工大(深圳)及华为团队交出了结果:1000颗昇腾910C组成的集群,完成了1.6万亿参数大模型DeepSeek-V4-Pro的全参数后训练。模型算力利用率(MFU)稳定在30%以上,全程1500余步训练无中断,故障率低至0.3‰。

单一架构跑通超大模型,证明国产卡的硬实力。但把视线从实验室挪到真实的智算中心,情况要复杂得多。IDC《2025年度中国云端AI加速器市场报告》显示,2025年中国AI加速卡总交付400万张,国产165万张,市占率41%。其中昇腾交付81.2万张,占了国产的近半壁江山。剩下的份额里,海光、寒武纪在政务云、科研等场景中同样扎下了根。

买回来的卡五花八门,同一机房里既有昇腾910C,也有海光DCU。让它们在同一个集群里高效干活,才是真正考验工程能力的地方。

算子怎么翻译

从NVIDIA体系迁到昇腾,最大的坑往往在CANN版本迭代和算子兼容。混部环境下,这个问题被放大了。训练任务跑矩阵乘法,昇腾要调TBE编译器,海光则依赖底层的BLAS库或ROCm工具链。调度框架得实时评估两边的延迟和吞吐,动态派活。

精度对齐和算子适配是耗时最长的环节。现在比较可行的办法是引入中间表示层(IR),在训练框架层把硬件差异屏蔽掉,计算图转成标准IR,再交给各厂商的编译器后端去优化。这样虽然多了一点编译开销,但省去了为每种硬件单独写适配代码的维护成本。常用的ResNet或Transformer块,可以直接预编译成二进制文件让调度器调用。

打通通信协议

异构集群的另一道坎是通信。昇腾走HCCL,海光多用RCCL或自研通信库。跨芯片节点做AllReduce操作时,协议不兼容直接导致性能断崖。

解法在网络层做抽象。现在不少调度框架开始支持基于RoCEv2的统一通信接口,在网络交换机层面做流量整形和优先级队列管理,把不同芯片的通信请求统一封装。调度器还可以用“梯度同步聚合”策略:节点内部先跑完本芯片的通信,再通过网络层做跨节点梯度交换。这会增加点网络负载,但避开了复杂的协议转换。

大规模并发下,通信延迟对吞吐量的影响甚至超过计算本身。把昇腾节点和海光节点按通信频率分组,减少跨组通信次数,是压低整体延迟的有效手段。

动态调度比静态分配好用

中小企业对异构部署的顾虑主要在迁移成本。重新培训运维团队、调整监控指标,这些隐性开销不低。但本地混合集群建好后,通过负载均衡和故障隔离,长期运行成本能降下来。

传统的静态调度跟不上异构芯片的性能波动。动态调度则能根据实时负载和节点健康度灵活分配。比如昇腾节点过热降频了,调度器自动把部分推理任务切到海光节点;海光节点空闲时,就接手计算密集但精度要求不高的批量数据处理。这要求调度器能实时盯紧每个芯片的算力利用率、内存带宽和通信延迟,预测任务执行时间,做到全局最优。

硬件只是底座,软件栈和调度策略才是决定集群上限的关键。谁能把不同芯片间的协同跑通,谁就能把国产算力真正用起来。

相关阅读