一块卡跑得快，和一座智算中心跑得顺，是两回事。
一篇2025年度国产AI芯片研究文章提到，国产AI芯片已在7nm制程节点实现规模化量产，部分产品的FP16算力突破500 TOPS。这些数字适合做初筛。到了项目现场，采购方还得继续问：同一模型扩到更多节点后，吞吐能否保持？作业中断后怎么恢复？框架、算子和调试工具要改多少？电力、散热、备件和现场服务怎么计价？
单卡峰值只能回答其中很小一部分。
规模上来后，短板都藏不住
国际算力项目已经把集群规模拉到很直观的量级。网易订阅转述的行业研报显示，OpenAI、软银、甲骨文与MGX联合发起的“星际之门”项目计划投资5000亿美元，建设超大规模AI算力集群。
IT之家数据则显示，xAI的Colossus在2024年7月启动时配备了10万块英伟达H100，到2025年2月增至20万块。该摘要同时援引Tom's Hardware 5月8日的报道，称xAI孟菲斯超级集群第一阶段已经投入使用。
到了这个规模，芯片只是系统中的一层。互联带宽、通信库、调度策略、节点故障和任务续跑，任何一项卡住，峰值算力都难以兑现。
验收口径也得跟着变。训练项目应固定模型、精度、数据和并行策略，记录端到端吞吐、模型算力利用率（MFU）、异常重启和长时间运行情况；推理项目则要统一上下文长度、并发量和时延口径。缺少统一测试条件，性价比很容易被某个漂亮指标带偏。
国产采购加快，推理评测得另开一张表
山西证券2025年5月27日研报中，方闻千、邹昕宸判断，互联网和智算中心两大下游的AI算力需求仍在延续，国产化采购快速推进。
报告提到，2024年以来，互联网大厂继续投入基础模型训练，并在2025年开始布局推理大模型。随着DeepSeek降低应用端门槛、Agent技术和产品逐步成熟，推理侧需求有望成为AI算力支出的主要驱动力。报告同时称，各地智算中心项目招投标数量仍在增加，多个全国产化标杆项目已经跑通。
这会直接改变芯片评测方式。训练和推理不能共用一张笼统的成绩单。训练更看重集群扩展、通信效率和连续运行；推理任务则要区分模型、量化方式、KV Cache、批处理和并发条件。同一块芯片换一套业务负载，吞吐和时延表现就可能不同。
采购方应先写清业务，再选芯片。否则，实验室里的高分未必能变成生产环境中的有效算力。
软件迁移，决定设备什么时候能上线
硬件到货只是开始。如果候选清单里有昇腾910C、寒武纪等国产方案，CANN、Cambricon Neuware等配套软件栈也应和硬件一起验收：支持哪些框架和版本，常用算子是否齐全，自定义算子需要改多少，精度问题如何定位，升级后能否回滚。
不少团队原有的代码、算子和调试流程围绕CUDA建立。换到新平台后，迁移成本会落在编译、算子适配、性能分析和问题定位等具体环节。厂商演示只能提供参考，实际使用团队最好带着自己的模型和代码进场测试。
财联社2026年7月9日对上海张江企业的走访提到，市场关注点正在转向算力系统、互联架构和产业协同能力。报道走访的企业包括沐曦股份、曦智科技以及张江高科895孵化器。
对采购方来说，这类协同能力可以落成几个朴素的问题：芯片、服务器、网络和框架能否作为一套方案交付？出了问题由谁定位？软件版本和硬件批次不一致时，谁负责解决？
把运维账提前写进合同
电力和散热看得见，备件、版本维护、升级停机和服务响应更容易被漏掉。采购文件至少应写清几件事：
- PUE采用什么测量边界，验收时如何取值；
- 节点或网络故障后，作业能否恢复，平均修复时间（MTTR）如何统计；
- 关键备件如何储备，现场支持由谁提供；
- 软件版本由谁维护，升级失败后能否回滚。
芯片单价也不能直接等同于算力性价比。更有用的口径，是完成同一项业务任务需要付出的整套成本，包括服务器、网络、电力、机房改造、迁移人力和后续运维。
国产化采购正在加快，峰值参数仍然有用，只适合承担第一轮筛选。到了集群阶段，能否稳定扩展、顺利迁移、快速恢复，决定了这批设备最终是账面算力，还是业务可以持续调用的算力。
