8000P落地两月,利用率不到三成
2026年7月,华东某8000P算力园区招商落地刚满两个月。运营方在内部会议上晒出成绩单:已上架4000P算力,但实际利用率徘徊在30%以下。两个月电力支出860万元,平均每P每月电费超3000元;原本按风冷设计的机房被要求追加液冷改造,预算直接增加1500万元,工期还需一个月。
这不是孤例。据行业媒体统计,2026年上半年全国新投产的智算中心平均利用率只有47%,聚焦视频生成业务的园区更是普遍低于40%。2024年2月新华网曾报道,Sora的问世将推动算力需求再次爆发。但两年过去,这种需求并未完全消化,反而出现了结构性错配。
电费与液冷:固定支出吃掉利润
8000P园区按年用电量估算,每年电费可能突破5000万元,而租用方按算力价格(目前训练算力约15万元/P/年,推理更低)只能覆盖部分成本。更关键的是,电力消耗峰值与谷值差距极大——大模型训练通常24小时满负载,而推理任务白天高峰、夜间几乎为零,但园区变压器容量是按最大负荷设计的,导致基础电费居高不下。
液冷改造更是从“可选项”变成“必选项”。2026年视频大模型迭代后,Sora 3.5、Runway Gen-4等模型对单卡功耗要求突破700W,风冷完全压不住温升。改液冷不仅要换机柜、加管道、接水泵,还要留出空间做冗余——仅定制液冷管路和购买冷却液就让每P算力成本再增加8000元。更头疼的是,液冷运维需要专业团队。参考《昇腾万卡集群上线一个月,运维团队崩溃实录》,液冷连锁故障的排查路径远比想象复杂,冷却液“下游”过热往往导致整机架停机。
训练与推理:一张卡不能通吃
现阶段矛盾在于:园区手上大部分是训练算力,但视频生成公司更需要推理算力。Sora 2026年4月关停后,国内Video Ocean、智谱等平台将生成成本压到每分钟1美元以下,推理需求爆发。但推理对时延敏感,单任务算力要求低但并发量高,传统训练集群的网络架构(如HCCL通信)并不适合转发推理流量。
另一边,训练客户抱怨算力不足:要训练60秒长视频的高质量模型,需要至少128张A100以上的集群,但园区为了高利用率把碎片化算力打包卖,租户往往拿不到完整集群。最终结果是:训练客户嫌贵且集群不完整,推理客户嫌配置不匹配且单价高。
这种错位在账本上体现得淋漓尽致。月度运营报表显示,训练集群的机柜满负荷运行,而隔壁的推理A100集群空转率超过40%。电力和液冷维护成本照付,来自推理租户的租金却严重不足。
软件鸿沟:比硬件更贵的隐形成本
硬件错位只是表象,软件层面的差距才是“运不拉满”的根因。
调度与兼容性。训练任务可以排队,推理要求毫秒级响应。园区原有的基于Slurm的HPC调度系统,难以应对突发、短时的API调用。不同视频模型对CUDA版本、PyTorch版本、特定算子的依赖各不相同,维护多套环境对运维团队是巨大考验。
运维人才断层。管理万卡训练集群需要懂高性能计算和网络的工程师,而运营推理集群需要熟悉vLLM、TensorRT-LLM、能快速响应API错误的专家。后者是2026年的稀缺人才,招聘成本极高。
账单不透明。对于中小视频团队,一次视频生成失败可能导致反复重试,消耗大量Token和GPU时间,最终账单却只有一个总额。如果园区无法提供基于Trace的精细化计量,租户就无法评估成本。这让人想起《AI Agent账单越查越乱,先把执行链摊开》中提到的执行链级用量报告,算力租赁同样需要这种透明化。
给园区和租用者的真实建议
对运营方:
- 分时电力规划:与电力公司协商按需容量计费,引入储能设备削峰填谷,或者租用光伏资产降低电费波动。
- 液冷分期改造:不必一次性改完,先在一两列机柜部署冷板式液冷,积累经验后再扩展。可以租用预置液冷机柜降低前期投入。
- 训练/推理分区:将园区划分为“训练专区”和“弹性推理区”,后者按秒或分钟计费,部署推理专用软件栈。国内厂商如华为昇腾已推出推理优化模块,可考虑引入。
- 透明化计量:投资建设细粒度FinOps工具,让租户看清每一笔Token、每一次重试的成本,这也是建立商业信任的基础。
对租用者:
- 按需采购:不要一次性租用过多算力。视频生成具有脉冲特征,核心训练可以长租,推理任务按需调用弹性资源。
- 关注全链路成本:除了GPU单价,还要评估存储、带宽和运维支持成本。参考《Sora 3流水线化之后:视频初创团队的七笔糊涂账》中提到的算力平摊与重试循环成本,全链条算清再下单。
- 验证SLA:在合同中明确API可用性、响应延迟上限和故障恢复时间,并保留进行第三方性能基准测试的权利。
结论
Sora点燃的浪潮没有消失,只是从训练变成了推理。算力园区如果继续用卖训练资源的思路去填推理需求,必然出现一边建新机房一边空置的怪象。算清电费、液改和人力成本,把运营从“跑马圈地”拉到“精细化管控”,才是2026年算力运营的正解。对下游客户而言,没有最优算力,只有最匹配的算力——在签约之前,先拿小规模跑一个月的真实负载,比任何参数都有说服力。