AI 纪元 追踪人工智能最新进展,深度解读前沿技术

90天从A100切换到910D,我们踩过的坑和算出的账

深圳星图智能用90天完成从A100到昇腾910D的迁移。自定义算子性能骤降30%,通过Ascend C重写和HCCL拓扑调整,将损耗控制在5%以内,集群稳定率提升至99.5%。最终硬件成本降40%,综合TCO下降近35%,验证了国产算力从“能用”到“好用”的工程可行性。

0 次阅读 约 867 字 2 分钟 AI 生成

2026年6月的深圳,气温逼近35度。星图智能的基础设施团队刚结束从英伟达A100到华为昇腾910D集群的全量压测。

这家主营推荐系统和实时风控的公司,在2000人规模下,对算力的每一瓦电都进行了精算。迁移并非简单的硬件替换,而是一场从底层驱动到业务逻辑的重构。

算子重写:从“慢得焦虑”到5%损耗

迁移第一周就碰上了硬骨头。核心推荐模型的自定义Embedding算子在CUDA下跑得流畅,但在昇腾CANN环境中,因内存访问模式差异,吞吐量直接骤降30%。

“不是不能跑,是慢得焦虑。”后端负责人李阳直言。团队决定绕过通用的优化手段,直接启用Ascend C重写算子。经过三周的反复打磨,优化内存访问路径,终于将性能损耗压到了5%以内。作为对比,缺乏底层定制的开源模型Llama 4在国产平台上利用率极低,几乎被放弃。

通信调优:避开拥堵,在线率达99.5%

千卡集群的通信考验同样严峻。初期测试中,高并发时HCCL通信延迟抖动明显,TPS极不稳定。团队没有选择复杂的合成数据方案,而是直接调整HCCL拓扑映射,将流量集中到特定网卡通道,避开拥塞热点。这一改动立竿见影,集群稳定在线率从92%跃升至99.5%。

成本账本:TCO下降35%

90天后,财务账单揭晓:同等算力下,910D集群硬件采购成本降低约40%;得益于CANN的深度优化,运维人力成本减少20%。综合来看,总体拥有成本(TCO)下降近35%。

在GitHub Copilot转向Token计费、部分企业因Agent死循环造成损失的背景下,这种成本控制尤为关键。星图智能还引入了熔断机制,有效避免了隐性成本爆炸。

从“能用”到“好用”

这次迁移折射出2026年国产算力的现状。DeepSeek V4的1.6万亿参数版本已在昇腾910C集群稳定运行超1500步;华为云计算CEO张平安在2025年6月宣布新一代昇腾AI云服务上线,加速“芯片+生态”的双轮驱动。对于星图智能而言,910D不仅是替代方案,更是应对AI Agent时代数百个“数字员工”高效运行的战略基石。

相关阅读