2026年6月,深圳河套学院联合哈工大(深圳)、深圳市大数据研究院、华为及深智城AI算力平台,做了一件在国产算力圈具有里程碑意义的事:基于昇腾910C算力集群,跑通了1.6万亿参数DeepSeek-V4-Pro的全参数后训练。
在外部制裁背景下,中国半导体一直试图从基础的AI推理,迈向更复杂的模型训练阶段。这次实践给出了一个实打实的锚点:国产AI芯片足以支撑世界级超大参数模型的训练。这不是试探,而是实打实地跨过了那条最难的技术门槛。
很多人看到“1.6万亿参数”这个数字,可能没有直观感受。万亿参数大模型是当前AI领域的前沿方向,在逻辑推理、数理运算、代码生成、长文本解析等场景能力突出。而“全参数后训练”这六个字,才是真正的硬骨头。这类模型的全参数训练,对硬件算力、集群稳定性、算力网络都是极大的考验。它不同于增量预训练或部分微调,要求所有权重参与梯度回传。这对显存瞬时吞吐和集群通信稳定性提出了极高的要求。
算一笔硬件账,就知道这有多难。根据腾讯云开发者社区的对比数据,昇腾910C的FP16算力为800 TFLOPS,仅约为NVIDIA H100(1979 TFLOPS)的40%。在显存方面,910C的HBM容量为96GB,比H100的80GB略多,算是扳回一局;但显存带宽只有1.8 TB/s,不到H100(3.35 TB/s)的六成。此外,其HCCS单链路带宽为400 GB/s。在推理端,910C能达到6688 tok/s/NPU。
在这样的硅片物理约束下,要完成全参数后训练,意味着CANN软件栈和集群调度能力必须顶上去。跑通这类任务,且MFU(模型碎片利用率)能稳定在30%左右,说明这套国产算力集群在长周期高强度计算中具备了真实可用性,而不是单纯的实验室玩具。
这次跑通不仅是硬件堆叠的结果,也是产学研用深度绑定的产物。深圳河套学院等机构与华为的联合调优,为全球第三方机构使用国产算力开展同级别模型训练积累了实践经验。从硅片物理约束到CANN/CUDA软件栈差距,从推理基准到三年TCO,华为昇腾与NVIDIA/AMD的全维度硬核对账仍在继续。CUDA的护城河依然存在,CANN要缩小差距,没有捷径可走,只能靠更多这种真实的大规模训练任务来反复打磨。