2026年6月的深圳,气温逼近35度。星图智能的基础设施团队刚结束从英伟达A100到华为昇腾910D集群的全量压测。
这家主营推荐系统和实时风控的公司,在2000人规模下,对算力的每一瓦电都进行了精算。迁移并非简单的硬件替换,而是一场从底层驱动到业务逻辑的重构。
算子重写:从“慢得焦虑”到5%损耗
迁移第一周就碰上了硬骨头。核心推荐模型的自定义Embedding算子在CUDA下跑得流畅,但在昇腾CANN环境中,因内存访问模式差异,吞吐量直接骤降30%。
“不是不能跑,是慢得焦虑。”后端负责人李阳直言。团队决定绕过通用的优化手段,直接启用Ascend C重写算子。经过三周的反复打磨,优化内存访问路径,终于将性能损耗压到了5%以内。作为对比,缺乏底层定制的开源模型Llama 4在国产平台上利用率极低,几乎被放弃。
通信调优:避开拥堵,在线率达99.5%
千卡集群的通信考验同样严峻。初期测试中,高并发时HCCL通信延迟抖动明显,TPS极不稳定。团队没有选择复杂的合成数据方案,而是直接调整HCCL拓扑映射,将流量集中到特定网卡通道,避开拥塞热点。这一改动立竿见影,集群稳定在线率从92%跃升至99.5%。
成本账本:TCO下降35%
90天后,财务账单揭晓:同等算力下,910D集群硬件采购成本降低约40%;得益于CANN的深度优化,运维人力成本减少20%。综合来看,总体拥有成本(TCO)下降近35%。
在GitHub Copilot转向Token计费、部分企业因Agent死循环造成损失的背景下,这种成本控制尤为关键。星图智能还引入了熔断机制,有效避免了隐性成本爆炸。
从“能用”到“好用”
这次迁移折射出2026年国产算力的现状。DeepSeek V4的1.6万亿参数版本已在昇腾910C集群稳定运行超1500步;华为云计算CEO张平安在2025年6月宣布新一代昇腾AI云服务上线,加速“芯片+生态”的双轮驱动。对于星图智能而言,910D不仅是替代方案,更是应对AI Agent时代数百个“数字员工”高效运行的战略基石。