2026年6月,新浪新闻一篇报道提到,已发布的昇腾910C完成了1.6万亿参数大模型全参数后训练。报道给出的判断是,国产芯片由此从“能推理”跨到“能训、稳训优”的阶段。
这句话听起来像产业节点,落到开发者手里,问题会具体得多:原来跑在CUDA和PyTorch环境里的模型,迁到昇腾之后,最先暴露的往往不是芯片算力不够,而是算子、通信和精度这几处基础工程能不能对上。
华为在《构筑开放基础软件栈,共建昇腾AI算力新生态》中介绍,CANN(Compute Architecture for Neural Networks)是昇腾AI基础软硬件平台中的异构计算架构。也就是说,模型能否在昇腾上稳定跑起来,CANN不是旁支工具,而是底座。
算子适配,比改几行代码麻烦
从CUDA迁到昇腾,很多工作看上去像框架迁移,实际更接近执行逻辑重排。
在成熟的CUDA环境里,常见框架和算子库之间已经形成了很长时间的默认配合。开发者调用PyTorch或TensorFlow算子,底层映射通常不需要太多额外处理。换到昇腾环境后,CANN负责承接计算图、算子编译和执行,原有模型里那些非标准算子、自定义算子、复杂索引操作,就可能成为第一批卡点。
标准算子相对好处理。比如Conv2D、MatMul这类基础计算,CANN已有对应支持和优化。难点通常出现在模型里被业务团队长期改造过的部分:非标准激活函数、自定义归一化、特殊的数据重排,或者为了适配旧训练流程写下的局部算子。
这类问题不能简单理解成“接口名不一样”。有些模型可以勉强跑通,但性能不稳;有些模型在单卡测试时问题不明显,放到多卡或多机后才开始暴露。开发者真正需要确认的是:哪些算子被CANN原生支持,哪些需要通过ATC(Ascend Tensor Compiler)等工具做编译适配,哪些需要回到模型侧重写。
一个更稳妥的迁移顺序,是先把标准模型和标准算子跑通,再处理自定义部分。直接照搬CUDA侧实现,容易把问题混在一起:算子没对齐、数据搬运不合理、精度策略不一致,最后很难判断瓶颈到底在哪里。
CANN的价值,也体现在排错阶段
华为技术文章把CANN称作昇腾创新底座,这个说法对工程团队有现实含义。芯片性能只是上限,CANN决定了开发者能不能摸到这个上限。
迁移过程中,Profiling工具很关键。它能帮助团队看到算子耗时、数据搬运和执行链路,而不是只盯着训练总时长。很多性能问题并不来自某个算子“太慢”,而是Host和Device之间的数据传输过于频繁,或者计算图没有按预期融合。
这也是国产算力规模化部署里容易被低估的地方。采购芯片和服务器是一笔显性投入,算子库适配、训练脚本改造、Profiling排查、精度校验,是另一笔持续投入。前者在预算表上清楚,后者常常藏在项目周期里。
民生证券研究院引用《昇腾计算产业发展白皮书》提到,从2012年开始的6年中,AI计算需求增加了30万倍;IDC测算,2021年中国智能算力规模达155.2 EFLOPS。需求上来之后,算力平台不可能只服务少数标准模型。越多行业模型进入训练和推理环节,算子适配的细碎问题就越难绕开。
多机训练,HCCL配置不能靠默认值
单机能跑,不代表集群能跑顺。
在昇腾多机分布式训练里,HCCL(Huawei Collective Communication Library)承担集合通信任务。模型参数同步、梯度通信、节点间协同,都要经过这一层。通信配置如果没有和实际网络拓扑对应好,算力堆上去了,训练效率也可能被同步等待吃掉。
这类问题在大模型训练里更明显。参数规模越大,通信越频繁,节点之间的同步成本越容易放大。此时需要检查的不只是训练脚本,还包括rank配置、device映射、网卡状态、交换机链路以及HCCL相关环境参数。
深圳光明大装置算力服务支撑平台采购项目提供了一个行业侧信号。国际电子商情报道,中国政府采购网公示的该项目中,中国移动广东公司以约1.55亿元报价中标,项目软硬件设备明确标注“拒绝进口”。这说明国产算力正在进入更大规模的基础设施采购,但采购完成只是开始,后续能否稳定服务训练任务,仍取决于软件栈和集群调度能力。
对开发团队来说,HCCL最好不要等到训练中断后再排查。启动正式训练前,先做通信测试、确认设备和rank关系、检查网络连通性,比在长任务中途定位问题成本低得多。
精度对齐经常被放到最后,其实不该
算子和通信之外,还有一个容易晚发现的问题:精度。
昇腾910C支持FP16、BF16等精度格式。迁移时如果只追求“先跑起来”,可能会直接沿用原训练脚本里的混合精度策略。但不同硬件、不同算子实现下,数值表现并不总是完全一致。Loss曲线异常、梯度溢出、收敛速度变化,都可能和精度策略有关。
尤其是大模型训练,精度问题不一定在前几百步就清楚暴露。它可能表现为训练不稳定,也可能表现为最终效果偏差。相比事后回溯,迁移初期就把FP16、BF16、关键算子的输出差异纳入验证,会省下很多返工。
这里的重点不是简单判断哪种精度“更好”,而是让精度策略和模型结构、训练目标、硬件实现保持一致。推理阶段如果再引入量化,验证链路还要继续往后延伸。
910C的看点,不止在单卡参数
关于昇腾后续路线,新浪新闻报道提到,华为公布了明确规划:2026年Q1推出昇腾950PR,2027年Q4推出昇腾960,2028年Q4推出昇腾970,并提出“一年一代、算力翻倍”。同一报道还称,昇腾950PR单卡推理性能达英伟达对华特供版H20的2.87倍。
这些信息会让市场把注意力放在硬件迭代上。但对真正要迁移模型的团队来说,判断标准会更朴素:现有模型能不能改得动,训练能不能稳定跑,排错资料够不够,遇到非标准算子时有没有替代路径。
华为在基础软件栈文章中强调开放的基础软硬件技术栈,以及结合业界反馈迭代能力组件。这个方向是必要的。国产AI算力要承接更多训练任务,不能只靠芯片迭代,还要靠开发工具、算子库、框架适配和社区反馈一起补齐。
迁移策略要收窄,不要一上来全量替换
对企业和开发者来说,昇腾910C值得关注,但迁移不适合用“一步到位”的方式推进。
更现实的做法是先选一个结构清楚、算子相对标准的模型,验证CANN环境、算子覆盖、HCCL通信和精度策略。等这条链路跑顺,再处理自定义算子和复杂训练任务。这样做不激进,但能把风险拆开。
昇腾910C完成1.6万亿参数大模型全参数后训练,说明国产芯片已经进入高端训练场景的讨论中心。下一步的关键,不是再证明“能不能跑”,而是让更多模型以可控成本跑稳、跑顺。算子兼容层、通信配置和精度对齐,正是这段路上最先要补的工程账。