2026年4月，36氪援引媒体报道称，字节跳动正与天数智芯洽谈采购至少5万颗AI芯片，主要用于推理任务。这个消息之所以引人关注，不只是因为数量大，更因为字节跳动本身就是国内AI算力的重要买家。
国产AI芯片正在进入更真实的需求场景。问题也随之变得具体：从NVIDIA迁出去，到底省不省钱？性能差多少？软件要改到什么程度？
只看财报和订单，很容易得到一个过于顺滑的答案。但企业真正做迁移时，账本通常没这么简单。
国产芯片不再只是备选项
科技日报援引相关数据称，2025年国产AI芯片出货约165万张，占市场41%。这个数字说明，国产AI芯片已经不是小规模试水。
厂商端的增长也很直接。钛媒体梳理称，寒武纪、摩尔线程、沐曦在2026年一季度财报中，营收分别同比增长160%、155%和75%。需求确实在往上走。
但出货和营收只能说明“有人买”，不能直接说明“迁移顺”。尤其是在AI算力从训练向推理扩散之后，企业买卡的理由变复杂了：有供应安全，有成本压力，也有推理业务本身的增长。
科技日报的报道提到，AI Agent的普及正在带来算力需求变化，单次Agent调用可能触发数十次模型推理。对互联网公司来说，这类推理负载如果持续放大，算力来源就不能只押在一种平台上。
这也是字节跳动与天数智芯洽谈采购消息的关键背景。国产AI芯片正在从“能不能替”走向“哪些场景必须替、哪些场景值得替”。
性能差距不能只看峰值
迁移最容易被低估的一点，是性能口径。
在PPT里，单卡峰值、显存容量、带宽都很清楚；到业务里，模型结构、算子支持、并行策略、调度效率都会影响最终表现。企业真正关心的也不是某个参数漂亮，而是同样的模型、同样的吞吐目标下，要用多少卡、多少电、多少人来维护。
以华为昇腾910C为例，公开素材中提到，其算力功耗比为1.13 TOPS/W，但仍落后NVIDIA H100约40%。这意味着在部分场景里，国产芯片可能需要通过更多卡数、集群优化或软件调优来补齐差距。
推理侧的产品也在快速推进。钛媒体报道称，华为在3月发布昇腾950PR处理器，这是昇腾系列首款针对推理场景深度优化的芯片，单卡FP4精度算力达到1.56PFlops，搭载112GB自研HBM显存，带宽1.4TB/s。
这类产品说明，国产芯片厂商正在把重点放到推理场景。但推理并不等于简单。不同模型的算子、上下文长度、批处理方式、延迟要求都不一样。一个平台在某类模型上表现不错，不代表换到另一个业务就能直接复用经验。
所以，企业评估国产AI芯片时，不能只问“对标哪张NVIDIA卡”，更要问：自己的模型能不能稳定跑，吞吐和延迟能不能达标，集群规模上去后效率会不会掉。
真正费时间的是软件适配
硬件采购成本通常最显眼，但迁移里最难算的是工程成本。
NVIDIA的CUDA体系已经形成了很强的路径依赖。大量模型、算子库、调试工具、训练框架和工程经验，默认围绕CUDA展开。换到国产AI芯片平台，企业面对的不只是“改几行代码”，而是一整套工具链和运行方式的变化。
华为有CANN，国内也有飞桨等自主框架。问题在于，企业已有的模型和工程流程未必天然适配。尤其是已经在NVIDIA平台上跑了很久的训练或推理系统，迁移时常见工作包括算子适配、性能调优、分布式策略调整、部署链路改造。
这些工作不会直接写在芯片报价单里，却会消耗工程团队的时间。对头部公司来说，可以投入专门团队，把迁移过程拆成多个阶段；对中小团队来说，工程资源往往更紧，试错空间也更小。
这就是为什么有些成功案例看起来很鼓舞人，但不能简单外推。能跑通，和低成本跑通，是两回事。
“幸存者偏差”在哪里
现在市场上更容易被看见的，是头部客户、重点项目和适配效果较好的场景。这些案例有价值，但它们天然带着筛选结果。
头部公司有更强的模型工程能力，也更容易获得芯片厂商支持。它们能把迁移中的问题拆开解决：算子不匹配就联合优化，性能不稳定就长期调参，部署链路不顺就改平台工具。
但这并不代表所有企业都能承受同样的过程。
国产AI芯片的“可用性”，要分场景讨论。推理、训练不一样；大模型、小模型不一样；云端集群、边缘部署也不一样。某个互联网大厂能在推理任务上导入国产芯片，不等于一家普通AI公司也能把训练集群平滑迁过去。
更现实的判断是：国产AI芯片正在变得可用，而且在部分推理场景里会越来越有吸引力；但从NVIDIA体系迁移出来，仍然是一项工程项目，不是一笔单纯的采购替换。
企业该怎么做这笔账
如果企业已经决定评估昇腾、寒武纪或其他国产AI芯片，第一步不该是直接比较单卡价格，而是拿自己的模型做小规模验证。
至少要看几件事：目标模型能否完整跑通；关键算子是否需要额外适配；吞吐、延迟、稳定性是否满足业务要求；工程团队能否掌握新的调试和部署工具；供应商能提供多少实际支持。
国产AI芯片的机会是真实的。2025年约165万张出货、41%的市场占比，以及寒武纪、摩尔线程、沐曦在2026年一季度的营收增长，都说明需求正在释放。
但迁移成本也是真实的。性能差距、软件工具链、工程经验、调试效率，都会进入最终账本。
对企业来说，最稳妥的态度不是唱衰，也不是盲目切换，而是把“国产替代”拆成具体场景：哪些业务先迁，哪些模型值得迁，哪些环节暂时不动。这样算出来的账，才接近真实成本。
参考来源：
[1] 科技日报：《2025年国产AI芯片出货约165万张占市场41%》，2026-04-16。
[2] 钛媒体：《160%、155%、75%，国产AI芯片集体向上》。
[3] 36氪：《华为、寒武纪带头，国产芯片玩家加速抢夺英伟达的蛋糕》。
[4] 《国产AI芯片产业深度研究报告（2025年度）》公开素材。
