昇腾910C推理提速43%？这组数据还缺关键条件
公开材料确认，昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练；但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降，仍需补齐模型分片、精度、并行方式与测试日
阅读全文
Search
站内搜索
关键词：CANN 8.0
找到 6 篇相关文章
昇腾910D显存溢出怎么救？实测三种轻量化量化方案的精度损失
针对国产算力集群部署中的显存瓶颈，本文实测了FP8、INT4及混合精度三种轻量化量化方案在昇腾910D上的显存节省效果与实际精度损失，并提供了一套可复用的调优Checklist，助力大模型无损落地。
阅读全文昇腾 910C 适配实录：从 PyTorch 到 CANN 的断舍离
迁移 PyTorch 模型到昇腾 910C，不是一键替换 device，而是算子对齐、精度调试、图编译和通信适配的硬仗。本文记录一个 7B 模型在 CANN 8.0/8.1 环境下的真实适配过程，给出可落地的断舍离清单。
阅读全文
前沿研究
CUDA 模型迁到昇腾，先过这几道坎
把 PyTorch 模型迁到昇腾 910C 和 CANN 8.0 环境，难点常落在算子支持、显存分配、分布式通信和调试链路上。迁移不只是替换设备名，更要重新检查算子、内存和 HCCL 配置。
阅读全文
前沿研究
昇腾910D集群调优实录：从HCCL通信到算子适配的避坑指南
基于昆山8000P算力园区运行数据，拆解Llama 3.3与DeepSeek V4迁移至昇腾910D的工程细节。重点解决HCCL通信延迟、Ascend C算子适配及MindIE显存碎片问题，提供国产算力落地实录。
阅读全文
开发者生态
昇腾910D跑Llama 3.3：算子缺失与显存墙怎么破？
昇腾910D跑Llama 3.3，直接加载权重常遇算子报错。结合CANN 8.0与MindIE框架，用Ascend C自定义算子和MindQuantize量化工具可解决显存瓶颈。梳理了从环境配置到算子适配的工程避坑点。
阅读全文