国内智算中心越来越难保持“单一品牌、单一软件栈”的理想状态。
一边是国产AI算力需求继续上升。民生证券研究院引用《昇腾计算产业发展白皮书》提到,从2012年开始的6年中,AI计算需求增加了30万倍;IDC测算显示,2021年中国智能算力规模达到155.2 EFLOPS。另一边,芯片供给、采购节奏和业务适配并不总是同步。机房里同时出现昇腾、Gaudi,甚至其他AI加速卡,并不奇怪。
问题是,卡插进机柜只是开始。昇腾910C和Intel Gaudi 3能不能在同一机房跑通,关键不在“有没有电、有网络”,而在驱动隔离、通信边界和调度策略能不能管住。
同一机房可以,同一宿主机要谨慎
异构混部最容易被低估的是驱动层。
昇腾走自己的CANN软件栈,Gaudi也有自己的驱动和运行时。两套体系都要管理设备发现、内存、通信、算子执行队列。把不同厂商的AI加速卡强行塞进同一台宿主机,维护成本会迅速上升:内核版本、驱动版本、容器运行时、设备插件,任何一层不匹配,都可能把问题带到训练或推理任务里。
更稳妥的做法,是先按物理节点划池。昇腾节点归昇腾池,Gaudi节点归Gaudi池;上层用Kubernetes、队列系统或自研调度器做资源分发。这样做牺牲了一部分“细粒度混用”的想象空间,但换来更清晰的故障边界。
对开发团队来说,这个边界很重要。任务失败时,至少能先判断是模型代码、框架适配、驱动问题,还是网络问题,而不是在一个混杂宿主机里同时排查所有层。
混部不是把所有任务平均分
昇腾910C被放到聚光灯下,背后是国产AI算力的持续推进。公开资料显示,昇腾芯片最早在2018年发布,包括昇腾910和昇腾310,并在2019年投入商用;其中昇腾910被多份产业链材料视作面向训练场景的重要国产AI处理器。
21世纪经济报道在2025年6月24日的报道中提到,华为发布的昇腾CloudMatrix 384超节点,由384个昇腾NPU和192个鲲鹏CPU联接而成,Pangu Ultra的后训练基于它完成。这类系统说明,昇腾路线并不只是单卡替代,而是在往集群互联、训练系统和大模型工程化方向推进。
Gaudi 3放进同一机房,价值也不应被简单理解成“替补卡”。更现实的做法,是按任务类型切分:哪些模型已经在昇腾软件栈上完成适配,哪些任务更适合放在Gaudi侧;哪些是训练,哪些是推理;哪些需要稳定吞吐,哪些对延迟更敏感。
调度策略要回答的不是“哪张卡更强”,而是“这个任务放在哪个资源池,改动最少、风险最低、利用率更可控”。
网络不要等出问题再分流
AI集群里的网络问题,经常比单卡问题更难查。
昇腾集群会涉及节点间通信和高速互联,Gaudi集群也有自己的通信路径和运行时要求。即便两类设备都接入同一个数据中心网络,也不意味着可以共用一套默认配置。训练任务的All-Reduce、推理服务的请求流量、存储访问、镜像拉取,如果全部挤在同一张网络里,排障会很痛苦。
工程上更可取的是提前分层:管理网络、存储网络、训练通信网络尽量分开;至少要在交换机、VLAN、QoS和监控指标上把两类资源池区分开。这样做看起来不如“统一大池”漂亮,但更接近生产环境。
CloudMatrix 384这类超节点的出现,也提醒开发者:大模型训练已经不是单机性能游戏。互联、调度、故障恢复和软件栈适配,都会影响最后能不能稳定跑完任务。
先冷备,再谈动态调度
很多团队一开始就想做“统一调度”:训练来了自动去昇腾池,推理来了自动去Gaudi池,资源紧张时还能跨池迁移。方向没错,但第一步不建议这么激进。
更稳的路径是三步。
第一步,冷备。两类芯片部署在同一机房,但业务先固定跑在一个资源池,另一组资源承担备份、验证或低优先级任务。
第二步,静态分流。按业务线、模型框架或任务类型,把作业固定投递到不同资源池。比如已经完成昇腾适配的训练任务进入昇腾池,另一类服务进入Gaudi池。这个阶段重点不是“智能”,而是把日志、监控、镜像、驱动版本和回滚流程跑顺。
第三步,有限动态调度。只有当任务画像足够清楚,才把部分作业交给调度器自动选择资源池。这里的“有限”很关键:不要一上来追求跨厂商无感迁移,先做到可解释、可回滚、可复现。
真正的成本在软件维护
异构算力的吸引力很直接:降低对单一路线的依赖,让采购和供应链更灵活。尤其在AI芯片出口限制持续影响市场预期的背景下,多路线准备会成为不少智算中心的现实选择。与非网曾提到,2025年4月15日,美国商务部宣布对出口至中国的英伟达H20、AMD MI308等AI芯片实施无限期出口许可限制,这类外部变量会推动国内算力方案加速落地。
但混部省下的硬件选择压力,会转移到软件团队身上。
你需要维护多套驱动、多套镜像、多套框架适配文档;需要让运维知道故障发生在哪个资源池;需要让算法团队接受“同一个模型在不同芯片上可能要走不同优化路径”。这些工作不如发布会上的参数醒目,却决定了混部能不能长期运行。
所以,昇腾910C和Gaudi 3放在同一机房,答案是可以。但不要把“同机房部署”误读成“统一算力池已经成熟”。在多数场景下,先分池、再分流、最后做有限动态调度,才是更稳的路线。
混部的目标也不该是制造一个看起来万能的资源池,而是让每类芯片跑自己更适合的任务,并且在故障、扩容和业务波动时,系统还能保持可控。