迁移昇腾 910C/910D,先查算子、显存和 HCCL
把 CUDA/PyTorch 项目迁到昇腾 910C/910D,常见卡点集中在自定义算子与动态 Shape、显存碎片、HCCL 多卡通信。文章按排查顺序给出配置示例,并说明哪些参数只能用于定位,不能代替根因分析。
阅读全文关键词:国产算力适配
把 CUDA/PyTorch 项目迁到昇腾 910C/910D,常见卡点集中在自定义算子与动态 Shape、显存碎片、HCCL 多卡通信。文章按排查顺序给出配置示例,并说明哪些参数只能用于定位,不能代替根因分析。
阅读全文海淀这座园区以8000P算力和空间为抓手,背后是全区超8万P绿色算力网络及2023年公共算力政策。规模已经摆上台面,能否成为AGI孵化器,还要看算力可用性、国产算力适配和可核验的研发产出。
阅读全文从H200/H800的CUDA环境迁到昇腾910C,费时的往往是算子兼容、HCCL通信和内存稳定性。纸面参数只划出边界,项目仍要按迁移分析、适配、精度调试和性能调优逐项验证。
阅读全文H20供应收紧后,昇腾910C和寒武纪成了更多团队的备选项。真正麻烦的地方不在改几行代码,而在Attention算子、HCCL通信、调试工具和推理吞吐的连续磨损。
阅读全文2026年6月底,DeepSeek开源DSpark框架,NVIDIA披露EAGLE-3方案,投机解码正式从学术概念跨入生产深水区。本文拆解vLLM与TensorRT-LLM的工程实现细节,对比显存优化、国产算力适配与硬件
阅读全文昇腾910D跑Llama 3.3,直接加载权重常遇算子报错。结合CANN 8.0与MindIE框架,用Ascend C自定义算子和MindQuantize量化工具可解决显存瓶颈。梳理了从环境配置到算子适配的工程避坑点。
阅读全文