2026年5月13日,美国商务部宣布撤销拜登政府的《人工智能扩散规则》,并发布三份加强海外AI芯片出口管控的指导文件。深圳星图智能(StarMap Intelligence)的工程团队对此反应敏锐。
早在4月24日DeepSeek V4发布后,星图便启动了集群迁移计划。目标是将承载V4-Pro(1.6万亿参数,490亿激活)的训练环境,从英伟达A100平移至华为昇腾910D。此前,《经济观察报》引述英伟达CEO黄仁勋的话称,若DeepSeek类成果先在华为平台出现,将是“糟糕结果”。这印证了底层技术的可行性,但从“实验室能跑”到“生产环境跑得稳”,星图面临的是真实的工程鸿沟。
6月的第一周:30%的掉速
迁移在6月初进入实网测试。32机256卡的集群上线后,星图智能AI基础设施负责人李维遇到了意料之外的阻力。
每步迭代时间从A100时代的28秒,直接飙升至42秒,降幅超过30%。“原以为只是换个接口,结果梯度累加都成了瓶颈。”李维分析认为,问题出在异构计算下的通信与显存错位。A100依靠NVLink构建了高速通道,而昇腾集群依赖的HCCL在缺乏针对性优化时,面对1.6万亿参数的稀疏激活特性,极易引发通信拥塞。
团队随即放弃默认的环形或树形拓扑,转而根据910D的物理连接重构通信组策略。他们将模型按专家(Expert)维度切分,并绑定特定节点集群,大幅减少跨集群通信。这一调整使单卡通信延迟降低了约18%,初步止住了掉速。
房间里的大象:显存碎片危机
通信瓶颈缓解后,更棘手的问题暴露出来——显存碎片化。
DeepSeek V4采用MoE架构,高达490亿的激活参数导致显存访问极度不规则。在早期的CANN 6.x环境下,昇腾显存分配器难以应对这种不规则请求,碎片堆积导致实际利用率仅徘徊在65%,远低于A100的80%。频繁的OOM(内存溢出)错误迫使训练任务不断重启。
转折点发生在6月中旬。团队升级至CANN 7.0正式版,引入细粒度显存池化机制,支持动态申请与释放显存块。同时,利用Ascend C重写对延迟极度敏感的核心算子,绕过通用TBE引擎,直接在显存池中进行高效搬运。
“Ascend C只用在刀刃上。”李维指出。这种“通用+定制”的方案迅速见效。6月下旬压力测试显示,集群平均显存利用率稳定在85%以上,逼近A100的理论峰值。
算账时代:TCO降低35%
除了技术攻坚,合规与成本才是企业决策的最终动力。
星图智能内部数据显示,迁移至910D集群后,硬件采购成本降低40%。叠加电力与散热优化(910D功耗比A100低约15%),整体TCO下降了35%。单Token训练成本从0.12元降至0.078元。
2026年的合规环境日益收紧。随着7月15日《人工智能拟人化互动服务管理暂行办法》即将施行,以及OpenAI新规对数据出境的限制,使用国产算力意味着数据可完全留存在境内,规避了潜在的合规风险。
当然,适配代价不小。数据工程团队重梳了从原始数据到Token化的全链路,耗费约15人月。但在6月底,随着910D集群稳定运行超过两周,V4-Pro后续迭代训练以95%的效率推进。星图的实践表明,国产算力已具备承载顶级模型主力训练的能力,前提是企业愿意为底层逻辑的重构买单。