2026年2月，中国AI模型Token调用量达到5.16万亿，首次超过美国的2.7万亿。在全球前五的大模型榜单中，中国占据了四席。支撑这些调用的底层硬件，格局已经生变。2022年，英伟达在中国AI芯片市场份额高达95%，到2025年上半年，这个数字降到了54%。
当大模型应用进入深水区，训练只是第一步，长期烧钱的是推理。围绕推理侧的性价比，昇腾910C、英伟达H20以及一批国产新锐，正在展开一场错位较量。
昇腾910C的硬件指标有亮点。它的FP16算力达到800 TFLOPs，HBM容量96GB，单卡推理实测吞吐达到6,688 tok/s/NPU。在推理场景下，上一代昇腾910B的Token吞吐效率已经是英伟达H20的1.8倍。如果只看吞吐，910C确实能打。
但高吞吐不等于低总拥有成本。910C的显存带宽为1.8 TB/s，相比H100落后了46%。在端到端LLM训练和推理中，实际性能约为H100的60%到80%。更棘手的是软件栈。CANN的学习曲线陡峭，算子适配需要投入大量工程精力。对于没有专职AI基础设施团队的公司来说，隐性的人力成本可能比硬件差价更贵。
英伟达H20的优势依然是CUDA生态。模型可以直接部署，省去了二次开发。但这种“省心”越来越像一种昂贵的妥协。在算力受限的情况下，H20的单位Token成本优势正在流失，加上随时可能收紧的出口管制，不少企业开始把目光转向其他国产芯片。
除了昇腾，天数智芯和寒武纪等厂商正在特定场景里找机会。在DeepSeek-V3场景下，天数智芯的架构性能甚至超越了英伟达Hopper架构20%。寒武纪思元590的性能也达到了英伟达A100的82%。目前已有9家国产芯片企业出货量突破1万片，其中华为昇腾累计出货超过10万片。
算力选型没有万能解。团队如果有较强的算法工程能力，能搞定算子适配，昇腾910C在千亿参数模型的实时响应中优势明显。如果项目周期短、缺乏异构计算经验，H20依然是降低开发维护成本的妥协之选。而对成本极度敏感、且模型相对固定的场景，天数智芯和寒武纪等针对特定模型深度优化过的芯片，反而可能带来更好的性价比。
