深圳河套学院的数据中心园区,运维工程师老张盯着6月电费单沉默了几秒——8000P的昇腾集群刚跑满两个月,单月电费就飙到了380万元。这还不算冷却塔的水耗和液冷系统的维护人工。“每度电都像刀片在割肉。”老张说。
这个园区是2026年5月上线的,搭载了近1500张昇腾910C,总算力8000P,专门承担国产大模型的训练推理任务。两个月后,真正的难题从“能不能跑通”变成了“怎么交得起电费”。
PUE的“蜜月期”结束,热管理进入硬仗
集群上线前两周,得益于全新的冷板式液冷系统,PUE一度压到1.15。但进入6月,环境温度升高,算力任务从集中训练转向混合负载,散热系统压力陡增,PUE悄然爬升到1.22-1.25。老张算了笔账:对于一个年耗电量上亿度、电费按0.85元/度计算的8000P集群,PUE每上升0.01,每年就多出近100万电费。
按照昇腾910C的典型功耗——单卡约310W(FP16满载),加上服务器、交换机和散热系统,整个集群满载功率接近2.5MW。但实际峰值达到2.9MW,日耗电6.5万度,月均电费超过380万元。如果后续部署FP8混合精度训练,功耗可能降15%,但推理负载更不可控。
液冷不是“装上就行”,全生命周期成本才见真章
该集群采用冷板式液冷,这是目前国产算力园区的主流方案。根据华鲲振宇最新发布的液冷解决方案,冷板式相比浸没式改造难度低,但初始投资不菲:折算到每P算力大约增加1.2-1.8万元。8000P集群液冷基础设施投入在1亿元左右。如果纯风冷,这笔钱可以省下,但风冷要达到同等PUE需要更大机房和更密集空调,电费会多出20-25%。
老张算了笔账:液冷初始投资1亿元,按5年折旧,每年摊销2000万元;而风冷每年多耗电约570万元,加上水费和空调维护,液冷在3-4年回收增量投资。但实际运维中,液冷系统需要定期检测冷却液浓度、防泄漏,每年维护成本约150万元。泄漏风险是最大的雷——“去年隔壁机房冷板泄漏,烧了两台服务器,损失超过80万。”
更隐性的是,液冷系统对冷却液纯度、流速控制要求极高。运行两个月后,首次计划外的管路清洗和冷却液补充已提上日程,这是一笔写在采购方案里但常被忽略的持续性支出。
工程侧的隐形天花板:电力容量与合规成本
集群落地前,园区就完成了电力扩容,增建110kV变电站,容量从12MW提升到20MW,花费近3000万元。但实际运营后,市电稳定性和UPS后备时间也是成本。老张团队遭遇过两次闪断,发电机自动切入但集群需要30分钟重新拉起负载,两小时相当于损失了约60000GPU·小时的算力。
噪声和热排放同样有合规风险。液冷虽然减少了风扇噪音,但冷却塔和循环泵的噪声在夜间可能超标。园区加装隔音罩,又增加200万元预算。从工程角度看,8000P集群已接近单一园区的供电和散热极限。如果未来扩展到万P级别,液冷方案复杂度会指数级上升,可能需要浸没式液冷甚至直接冷却,这些都是额外成本。
中型企业决策:算力不是越猛越好
对于预算有限的中型企业,直接复刻8000P模式不现实。结合老张团队的运营数据,可以从三个维度评估:
- 功耗密度:昇腾910C在FP16下单卡功耗310W,但散热系统会额外增加40-60%的能耗。如果机房电力容量有限,每P算力的实际占地面积可能比理论值大20%。
- 冷却方式:低于500P的集群,风冷在经济性上更优;高于1000P且要求PUE≤1.2,液冷是必经之路。新建机房采用冷板液冷每P约1.5万元,改造则更高。
- 运维人力:液冷系统需要专门人员,每月成本约3-5万元;风冷相对常规,但高密度风冷同样需要频繁巡检。
参考《B300量产交付后,中小厂如何低成本搭建私有知识库?》的经验,中小团队与其追求万卡集群,不如用FP8混合精度+量化技术,在100-200P的昇腾集群上跑通业务。风冷即可满足,PUE控制在1.5以内,电费成本大幅下降。
另一种路径是使用云服务。华为云昇腾AI云服务提供按需租用算力,将运维和能源管理成本转移给云服务商,但长期总账仍需根据自身使用模式精细测算。
生态与隐形成本:极客的算力焦虑仍未消除
大型集群的能源账单只是显性成本。钛媒体报道提到,不少2024-2025年创业的极客开发者吐槽“有限的算力优先流向大厂,生态不够完善,团队要花费大量时间写算子、填充生态缺口”。即使集群规模上去了,利用率能不能达标仍是未知数。老张透露,目前集群平均利用率只有55%,低峰时段GPU空闲率高,但电费不会因此打折。
在《910C迁移后,推理延迟卡在这几层》中,许多迁移团队在训练跑通后才发现推理延迟问题;而能源成本则是另一个投产后才暴露的“延迟”。
谁在买单?最终都会算进ROI
8000P集群的落地证明国产芯片能撑起大规模训练,但运营两个月后,能源和散热账单告诉我们:算力不只有芯片成本。围绕国产芯片的配套工程、运维体系和生态软件,都需要真金白银的投入。高文在深圳通用人工智能论坛上指出,AGI竞争的重心已转向数据和工程——而工程的第一道坎,就是能源账。
展望下半年,随着更多万P级集群投产,液冷技术及其运维成本将成为焦点。企业做算力规划时,先把PUE目标、电力合同、冷却方式和备件供应写进可行性报告。毕竟,账单不会撒谎,散热难题也不会因为芯片国产化自动消失。
(文中老张为化名,数据来源于公开资料及采访估算,仅供参考。)