昇腾910C推理提速43%？这组数据还缺关键条件
公开材料确认，昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练；但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降，仍需补齐模型分片、精度、并行方式与测试日
阅读全文
Search
站内搜索
关键词：算子优化
找到 12 篇相关文章
开发者生态
昇腾 910C 算子调优：先把数据搬运压下来，再谈自定义算子
长上下文推理变慢，不一定是算力不足，数据搬运、临时张量和算子下发也可能占大头。围绕昇腾 910C，梳理如何用 profiling 判断是否值得写 Ascend C 自定义算子，并处理 32 字节对齐、Tiling、融合和
阅读全文
AI 工具箱
昇腾910D算子别急着手调，先让编译器跑一轮
在昇腾910D部署中，自定义算子变慢时，先用CANN 8 profiling查清耗时、通信、内存和下发问题，再判断是否融合与自动搜索。以RMSNorm和Gated-SiLU为例，说明Auto-Kernel与手写Trito
阅读全文
AI 工具箱
模型迁到国产芯片后，算子调优怎么交给 Auto-Kernel
国产芯片适配真正耗时的往往不是模型迁移，而是算子融合、分块和访存。文章以 RMSNorm + Gated-SiLU 为例，说明 2026 版 Auto-Kernel 如何为昇腾 910D 生成并调优算子，也交代 240
阅读全文
开发者生态
从CUDA迁到昇腾910C的第三个月，三个性能坑才露出来
团队把基座模型微调从英伟达A100迁到8卡昇腾910C的Atlas 800。三个月后，最耗时的不是改接口，而是复合算子、显存碎片和跨机AllReduce。附内部实测与九项检查清单。
阅读全文
前沿研究
CUDA 模型迁到昇腾，先过这几道坎
把 PyTorch 模型迁到昇腾 910C 和 CANN 8.0 环境，难点常落在算子支持、显存分配、分布式通信和调试链路上。迁移不只是替换设备名，更要重新检查算子、内存和 HCCL 配置。
阅读全文
前沿研究
昇腾910D集群调优实录：从HCCL通信到算子适配的避坑指南
基于昆山8000P算力园区运行数据，拆解Llama 3.3与DeepSeek V4迁移至昇腾910D的工程细节。重点解决HCCL通信延迟、Ascend C算子适配及MindIE显存碎片问题，提供国产算力落地实录。
阅读全文
开发者生态
昇腾910D跑Llama 3.3：算子缺失与显存墙怎么破？
昇腾910D跑Llama 3.3，直接加载权重常遇算子报错。结合CANN 8.0与MindIE框架，用Ascend C自定义算子和MindQuantize量化工具可解决显存瓶颈。梳理了从环境配置到算子适配的工程避坑点。
阅读全文A100换910C实录：重写算子与调优HCCL的四个月
深圳星图智能历时四个月，将推理服务从A100迁移至昇腾910C。团队直面CANN 7.0动态Shape Bug及HCCL拓扑差异，通过Ascend C重写关键算子并优化通信，最终实现推理成本降低45%，自定义算子损耗控制
阅读全文银行反欺诈迁移昇腾910D：从120毫秒延迟到18毫秒的工程实战
2025年中，某股份制银行将GNN反欺诈系统迁移至昇腾910D时遭遇严重延迟问题。通过Ascend C定制算子优化内存访问，并利用盘古大模型生成合成数据进行量化感知训练，团队历时两个月将平均延迟压至18毫秒，同时保持高精
阅读全文H20禁令一年后：国产芯片参数亮眼，但迁移才是真门槛
英伟达H20被禁一年，国产芯片迅速补位。华为昇腾单卡推理吞吐2300 Tokens/s超越H100，平头哥真武810E性能对标H20，寒武纪思元590达A100级。但纸面参数不等于落地效果，算子支持与迁移适配才是真正的门
阅读全文900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文