H20受限后,国产开源模型的算账逻辑变了
2026年上半年,Qwen、Yi、GLM等模型借MoE架构将70B级推理成本压至每千Token 0.003元。配合昇腾910C与寒武纪思元590的适配,精度损失控制在1%左右,整体推理成本较H100降低约60%。实测数据
阅读全文关键词:910C
2026年上半年,Qwen、Yi、GLM等模型借MoE架构将70B级推理成本压至每千Token 0.003元。配合昇腾910C与寒武纪思元590的适配,精度损失控制在1%左右,整体推理成本较H100降低约60%。实测数据
阅读全文华为昇腾910C与寒武纪思元590跑Llama 3.3和Qwen 2.5实测:精度损失1%内,速度慢9%-18%,但单卡采购价仅为H100的三成多。标准化微调可替代,自定义CUDA算子仍需转译填坑。
阅读全文