千节点昇腾 910C 集群,通信究竟堵在哪里
公开材料没有给出昇腾 910C 千节点实测。能确认的是,华为 2025 年发布的昇腾 384 超节点把 384 卡纳入高速总线域。规模继续外扩后,排查重点应落在跨域通信、MoE 的 All-to-All、拓扑映射和慢节点
阅读全文关键词:CANN
公开材料没有给出昇腾 910C 千节点实测。能确认的是,华为 2025 年发布的昇腾 384 超节点把 384 卡纳入高速总线域。规模继续外扩后,排查重点应落在跨域通信、MoE 的 All-to-All、拓扑映射和慢节点
阅读全文公开材料确认,昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练;但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降,仍需补齐模型分片、精度、并行方式与测试日
阅读全文聚焦昇腾910C在PyTorch迁移中的显存碎片化解法、自定义算子编写规范与MindSpore双轨代码差异,提供一线开发者可直接复用的CANN调优参数与调试路径。
阅读全文一次从 A100 集群到昇腾 910D 的 70B 模型迁移,最耗时间的不是启动报错,而是 CPU 静默回退、HBM 碎片和 HCCL 长尾。按单卡、单机、多机逐级锁定基线,能少走不少弯路。
阅读全文PyTorch 模型迁到 CANN 后一跑就 OOM,先把加卡放到最后。固定输入复现峰值,用 Profiler 对齐自定义算子前后的 shape、dtype、format 与 Data Copy,再根据证据处理算子融合和
阅读全文长上下文推理变慢,不一定是算力不足,数据搬运、临时张量和算子下发也可能占大头。围绕昇腾 910C,梳理如何用 profiling 判断是否值得写 Ascend C 自定义算子,并处理 32 字节对齐、Tiling、融合和
阅读全文把 CUDA/PyTorch 项目迁到昇腾 910C/910D,常见卡点集中在自定义算子与动态 Shape、显存碎片、HCCL 多卡通信。文章按排查顺序给出配置示例,并说明哪些参数只能用于定位,不能代替根因分析。
阅读全文针对国产算力集群部署中的显存瓶颈,本文实测了FP8、INT4及混合精度三种轻量化量化方案在昇腾910D上的显存节省效果与实际精度损失,并提供了一套可复用的调优Checklist,助力大模型无损落地。
阅读全文把 PyTorch 项目从 CUDA 搬到昇腾,先处理设备、HCCL 和混合精度,再用 CANN 8 Profiling 查看算子、通信、内存与下发延迟。代码能启动只是入口,自定义算子和版本对齐更容易拖慢进度。
阅读全文在昇腾910D部署中,自定义算子变慢时,先用CANN 8 profiling查清耗时、通信、内存和下发问题,再判断是否融合与自动搜索。以RMSNorm和Gated-SiLU为例,说明Auto-Kernel与手写Trito
阅读全文华为把未来十年的AI重心落在产品价值、效率和成本上。对国产智算中心而言,API改写只是开头,真正费工的是算子、精度、通信、调度和开发工具。迁移顺序应由模型稳定度与交付边界决定。
阅读全文公开素材尚不足以算出910D与B200的可信成本差值。采购价、实测吞吐、整机功耗和迁移工时缺一不可。更稳妥的办法,是把这些投入统一折算到每百万有效输出Token,再判断国产方案能否摊平适配成本。
阅读全文