昇腾910C推理提速43%?这组数据还缺关键条件
公开材料确认,昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练;但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降,仍需补齐模型分片、精度、并行方式与测试日
阅读全文关键词:CANN 8.0.RC2
公开材料确认,昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练;但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降,仍需补齐模型分片、精度、并行方式与测试日
阅读全文