一夜算出来的"闲时"与"急时"
凌晨两点,亦庄某智算中心B3机柜,200多张H200的灯光整齐亮着,但监控屏上的 GPU 占用率只有 31%。这一边是任务列表里排到明晚的预训练作业,另一边是白天进来、跑两小时就走的客服语音识别推理——双方原本挤在一个调度池里,谁先把显存吃满,谁就要等下一轮。
这不是个别现象。据财联社 2025 年 9 月的调研,部分已建成的智算中心实际利用率长期低于 40%(来源:财联社一线调研,cls.cn/detail/2156687)。运营商一边在算力大会上对外宣传"满负荷运转",一边在内部系统里看着大量节点在闲时段空转——这中间是十几亿元人民币的折旧和电费。
从"挂在墙上"到"挂在日历上"
北京这家运营方在 2025 年做了一件事:把 8000P 级别的集群拆成了三个逻辑池——训练池(高优作业长租)、推理池(中小企业时租)、以及一个过渡池(夜间闲置窗口)。
配合调度的不是更花哨的算法,而是一份固定的"日历":每个机柜每星期的可用时段写到 API 上,推理客户按 30 分钟颗粒下单,自动避让训练任务。运行一年后,这家中心把空闲节点出租率从 40% 拉到了 70%(详见 AI 纪元此前刊出的现场拆解《8000P算力到账后,智算中心怎么把闲置节点租出去》)。
听起来顺,做起来卡在三件事上:定价、防套利、稳定性。
削峰填谷的三个真问题
1. 定价不能一刀切。 训练任务怕中断,一中断要么从头跑,要么付违约金;推理任务容错高,但晚到一秒就被客户投诉。两类资源如果都用统一价,要么训练任务挤满全天,要么推理客户被价格劝退。这家中心的做法是把单价拆成三段:闲时(夜间 8 小时)按市场价 3 折,半忙时段按 6 折,训练占用时段不卖。
2. 防"二房东"比想象中难。 真正消耗算力的客户可以被识别,但中间商拿到低价资源后转手卖给最终用户,差价部分运营商完全看不到。更何况二房东手中的卡会再被刷一波任务,违反当初"推理专用"的约定。一家中心采用的方法是绑定推理框架版本、白名单模型与黑名单 IP 段,"如果你拿我这里 3 折的卡再去跑 Llama-4 微调,我直接封号"。
3. 稳定性是推理客户最在意的事。 训练作业占住显存可以接受抢占,推理不行——客服系统卡 200 毫秒用户就挂电话。这要求调度器为推理任务保留"显存下限",一旦训练任务膨胀到临界,宁可杀掉训练也不打断推理。这条策略写下去容易,真到了客户投诉电话里,能不能守住才是真考验。
中小公司能拿到的便宜算力,长什么样
真正落到中小企业手里,便宜算力有几个共同的特征:
第一,颗粒度细。 一张卡按小时租、一台 8 卡节点按天租、一组 64 卡机柜按周租。Atom Computing 这种级别的小客户很少直接锁一个机柜,更多是"今天晚上我要 12 张 A100 跑个 embedding"。
第二,预付费。 不支持先跑后付。运营商吃过亏:先跑后付遇到 LLM 公司一夜烧完额度,月底账单拖着不付。这把风险前置到了客户身上——小公司可能要先充几千块,跑不完也不退。
第三,配套有限。 没有 RDMA 集群、没有专用上传带宽,没有专业运维。一出问题要么自己看监控,要么买付费支持。这对一些使用全托管 API 的公司来说等于"退回到自建"。
第四,模型版本绑定。 很多便宜算力是定向给特定推理框架(如 vLLM、TGI)的,模型权重只能跑运营商白名单里的几个。换模型需要重新走一遍审核。
换句话说,便宜算力不是白拿的——你买的不是 H100 本身,而是"我可以忍受这种灵活度"。
哪些坑值得专门躲开
坑一:报价只报"卡时",不报"网络时"。 推理任务看着是单卡,跨卡走 NCCL 时延一上来,整体 P99 退化三倍。看价前必须问清卡间带宽、机柜内 RDMA 状态。
坑二:承诺"99.9% SLA",但覆盖范围写的模糊。 是单卡 SLA、节点 SLA 还是机柜 SLA?做了训练抢占后还能不能保住?建议要求对方在合同里写明"推理任务不得被抢占"。
坑三:给的卡是翻新或拆机件。 这家用便宜的卡很多是上一批次退下来的,算力没事但功耗偏高、温度敏感。问清楚卡的 SN 码、批次与注册时间。
坑四:流量或数据被抽成。 有些运营方会在出口流量上加 30% 的"调度服务费"。签订前看清单。
从园区到全国:可复制的部分
不止北京一家在做这件事。截至 2024 年底,全国已形成超 100 个以人工智能为核心的园区,重点分布于长三角、珠三角、京津冀(来源:新华网相关报道)。这些园区里,不是所有园区都配得起 8000P 级的集群,但都面对同一个问题:白天是训练用户跑满机柜,夜里是推理需求没地方去。
地方的智算中心更依赖共享调度——因为训练客户有限,必须靠推理业务把机柜填起来。共享经济模型能不能走出北京,靠的不是更复杂的调度算法,而是更清晰的"闲时段"披露:让客户能在 30 分钟颗粒度上看到这个机柜下一秒是空的还是满的。
中国电子信息产业发展研究院(赛迪顾问)预测,到 2025 年底中国人工智能核心产业规模将逼近 4000 亿元,算力核心产业规模有望突破 1.5 万亿元(来源:新华网/赛迪顾问预期)。算力不是稀缺,但"找得到、谈得下、用得稳"的算力,在 2026 年仍然是稀缺品。
写在最后:算力租赁的本质,是约束交换
便宜没有白拿的。算力共享让运营商把折旧打散,也让中小公司拿到本不属于自己的算力——两者的交换物是"灵活度"。运营商让出了训练任务的时间窗,中小公司让出了 SLA、灵活性与一揽子支持。
清楚了自己愿意让出哪些约束,再去谈价——这是 2026 年中小企业上算力最该做的事。
相关阅读:《算力租赁价格又降了,但买卡还是租卡?2026年企业的真实算力账本》拆解了不同部署方式的真实回收周期,可作为本文的算账补充。