昇腾910D集群避坑:多机通信带宽瓶颈与HCCL调优实战
针对昇腾910D大规模集群训练中常见的通信瓶颈问题,本文通过实测数据分析多机AllReduce延迟原因,提供一套从拓扑感知到HCCL参数调优的实操方案,旨在将千卡集群的MFU(模型算力利用率)从30%量级提升至50%以上
阅读全文关键词:NCCL调优
针对昇腾910D大规模集群训练中常见的通信瓶颈问题,本文通过实测数据分析多机AllReduce延迟原因,提供一套从拓扑感知到HCCL参数调优的实操方案,旨在将千卡集群的MFU(模型算力利用率)从30%量级提升至50%以上
阅读全文