A100换910C实录:重写算子与调优HCCL的四个月
深圳星图智能历时四个月,将推理服务从A100迁移至昇腾910C。团队直面CANN 7.0动态Shape Bug及HCCL拓扑差异,通过Ascend C重写关键算子并优化通信,最终实现推理成本降低45%,自定义算子损耗控制
阅读全文关键词:算力国产化
深圳星图智能历时四个月,将推理服务从A100迁移至昇腾910C。团队直面CANN 7.0动态Shape Bug及HCCL拓扑差异,通过Ascend C重写关键算子并优化通信,最终实现推理成本降低45%,自定义算子损耗控制
阅读全文