昇腾910C适配实录：PyTorch迁移中的显存优化与算子兼容
聚焦昇腾910C在PyTorch迁移中的显存碎片化解法、自定义算子编写规范与MindSpore双轨代码差异，提供一线开发者可直接复用的CANN调优参数与调试路径。
阅读全文
Search
站内搜索
关键词：显存碎片化
找到 6 篇相关文章
AI 实操指南
在国产算力集群部署 Llama 4：解决多机多卡通信瓶颈的实操方案
针对 Llama 4 等开源大模型，本文给出在昇腾 910C/910D 等国产算力集群上的部署全流程，重点拆解跨节点 HCCL 通信延迟、显存碎片化与并行策略选择三大瓶颈，并附可复用的优化参数配置与排查清单。
阅读全文
前沿研究
MoE 架构跑通万亿参数了，但显存碎片正在拖垮推理速度
MoE 模型的万亿参数竞赛并未带来推理端的红利，反而因专家权重全量驻留引发的显存碎片化和访存瓶颈，让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题，并结合昇腾等厂商的最新无损优化方案，探讨从算子调度到底层
阅读全文
开发者生态
昇腾910C千卡集群排雷：分布式通信瓶颈与显存优化实录
基于8000P园区实战，拆解昇腾910C在万卡规模下的高频报错。从HCCS通信死锁到显存碎片化，提供可复用的调试脚本与CANN参数调优方案，直击国产算力大模型训练的工程深水区。
阅读全文
开发者生态
国产AI芯片集群调度：避开跨架构迁移的隐藏暗礁
2026年各地8000P智算中心密集交付，但混合部署昇腾与海光时，算力利用率普遍低于60%。本文直击异构集群的真实运维痛点：跨架构算力分配不均、显存碎片化、通信拓扑不匹配。提供代码级实操方案，包括华为CANN与海光DTK
阅读全文
前沿研究
昇腾910C集群运维实录：从算力调度到应用适配的避坑指南
基于河套学院千卡集群训练1.6万亿参数DeepSeek-V4-Pro的实战经验，拆解网络拥塞、显存碎片化、CANN算子迁移与故障自愈中的具体陷阱，提供可复用的配置参数和监控看板搭建方法，帮助一线运维工程师少走弯路。
阅读全文