昇腾910C适配实录：PyTorch迁移中的显存优化与算子兼容
聚焦昇腾910C在PyTorch迁移中的显存碎片化解法、自定义算子编写规范与MindSpore双轨代码差异，提供一线开发者可直接复用的CANN调优参数与调试路径。
阅读全文
Search
站内搜索
关键词：显存碎片
找到 21 篇相关文章
显存占满，GPU却没跑满：2026年算力账单该从哪里查起
显存占用高，不等于 GPU 持续计算。利用率长期停在约 40% 时，应按任务时间线排查显存碎片、数据供给、All-Reduce 等待、算子回退和调度空档，再用任务级成本判断是否扩容。
阅读全文
开发者生态
迁移昇腾 910C/910D，先查算子、显存和 HCCL
把 CUDA/PyTorch 项目迁到昇腾 910C/910D，常见卡点集中在自定义算子与动态 Shape、显存碎片、HCCL 多卡通信。文章按排查顺序给出配置示例，并说明哪些参数只能用于定位，不能代替根因分析。
阅读全文
AI 实操指南
在国产算力集群部署 Llama 4：解决多机多卡通信瓶颈的实操方案
针对 Llama 4 等开源大模型，本文给出在昇腾 910C/910D 等国产算力集群上的部署全流程，重点拆解跨节点 HCCL 通信延迟、显存碎片化与并行策略选择三大瓶颈，并附可复用的优化参数配置与排查清单。
阅读全文
前沿研究
8000P算力池扩容实录：千卡集群的调度开销到底藏在哪
千卡集群利用率常低于60%，调度开销藏在NCCL通信、显存碎片和异构排队里。结合深圳14000P集群与一线运维经验，给出五项可落地的调优动作，包括网络拓扑感知、显存池预分配和芯片亲和性分组。
阅读全文
开发者生态
从CUDA迁到昇腾910C的第三个月，三个性能坑才露出来
团队把基座模型微调从英伟达A100迁到8卡昇腾910C的Atlas 800。三个月后，最耗时的不是改接口，而是复合算子、显存碎片和跨机AllReduce。附内部实测与九项检查清单。
阅读全文
开发者生态
从 910B 迁移到 910C：那些被忽略的算子兼容性坑位清单
一线团队踩坑实录：从昇腾910B迁移到910C，处理万亿参数MoE模型时最常见的六大算子兼容性陷阱，包括FlashAttention跨die变慢、TopK精度隐雷、显存碎片等，附2026版国产算力集群调优Checklis
阅读全文
前沿研究
MoE 架构跑通万亿参数了，但显存碎片正在拖垮推理速度
MoE 模型的万亿参数竞赛并未带来推理端的红利，反而因专家权重全量驻留引发的显存碎片化和访存瓶颈，让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题，并结合昇腾等厂商的最新无损优化方案，探讨从算子调度到底层
阅读全文
开发者生态
昇腾910C千卡集群排雷：分布式通信瓶颈与显存优化实录
基于8000P园区实战，拆解昇腾910C在万卡规模下的高频报错。从HCCS通信死锁到显存碎片化，提供可复用的调试脚本与CANN参数调优方案，直击国产算力大模型训练的工程深水区。
阅读全文
前沿研究
昇腾910C训练频繁OOM，问题可能出在显存碎片
一次1024卡昇腾910C训练中，单卡峰值占用82GB，却在第437步集体OOM。排查发现，14GB空闲显存被切成最大仅3GB的连续块。通过定期紧凑和内存池预分配，项目将单步时间从4.7秒降至3.8秒，MFU由31%升至
阅读全文8000P算力中心闲置潮：从拼建集群到拼调度算法的转折点
2026年上半年，多地8000P智算中心空置率超40%，传统K8s调度导致MFU仅45%。实测显示，引入显存池化与拓扑感知算法后，异构集群MFU可从45%跃升至58%。算力运营正从拼硬件转向拼算法，解决显存碎片与跨架构通
阅读全文
开发者生态
国产AI芯片集群调度：避开跨架构迁移的隐藏暗礁
2026年各地8000P智算中心密集交付，但混合部署昇腾与海光时，算力利用率普遍低于60%。本文直击异构集群的真实运维痛点：跨架构算力分配不均、显存碎片化、通信拓扑不匹配。提供代码级实操方案，包括华为CANN与海光DTK
阅读全文