昇腾910D跑Llama:算子缺口和HCCL通信怎么填
把Llama和Qwen从GPU集群迁到昇腾910D,算子缺失和通信瓶颈是两个最大的坑。基于MindSpore 2.0与CANN的实际操作经验,拆解Custom Op报错、Triton算子开发和HCCL调优的具体做法。
阅读全文关键词:HCCL
把Llama和Qwen从GPU集群迁到昇腾910D,算子缺失和通信瓶颈是两个最大的坑。基于MindSpore 2.0与CANN的实际操作经验,拆解Custom Op报错、Triton算子开发和HCCL调优的具体做法。
阅读全文2026年5月,美国商务部调整AI芯片出口管控。深圳星图智能随即启动A100至昇腾910D迁移,承接1.6万亿参数的DeepSeek V4-Pro训练。团队遭遇梯度累加导致的30%掉速及严重显存碎片,通过重构HCCL拓扑
阅读全文DeepSeek V4在昇腾跑通后,910D的运维压力凸显。深圳星图智能90天迁移A100到910D,硬件省了40%,但算子性能掉了30%。复盘银行GNN延迟从120ms飙至300ms的HCCL拓扑调优,以及河套学院处理
阅读全文深圳星图智能用90天完成从A100到昇腾910D的迁移。自定义算子性能骤降30%,通过Ascend C重写和HCCL拓扑调整,将损耗控制在5%以内,集群稳定率提升至99.5%。最终硬件成本降40%,综合TCO下降近35%
阅读全文深圳星图智能历时四个月,将推理服务从A100迁移至昇腾910C。团队直面CANN 7.0动态Shape Bug及HCCL拓扑差异,通过Ascend C重写关键算子并优化通信,最终实现推理成本降低45%,自定义算子损耗控制
阅读全文2026年6月,深圳河套学院联合华为团队,依托1000颗昇腾910C完成DeepSeek-V4-Pro全参数训练。在MFU稳定30%、故障率0.3‰的背后,是算子适配、HCCL拓扑优化及长序列显存管理的实战经验。本文拆解
阅读全文6月,深圳河套学院等团队利用1000颗昇腾910C,成功完成DeepSeek-V4-Pro全参数后训练,算力利用率(MFU)超30%,故障率仅0.3‰。文章拆解千卡集群实战中的三大痛点:HCCL通信拓扑优化、长序列显存碎
阅读全文DeepSeek V4 Pro(1.6万亿参数)在华为昇腾集群的训练实践,暴露出千卡并行下的通信延迟与长序列显存碎片痛点。文章基于《经济观察报》2026年5月报道及实测数据,拆解了HCCL拓扑配置、异步梯度同步阈值调优及
阅读全文