酒仙桥8000P共享实验满月,闲时利用率升至48.3%
北京酒仙桥8000P集群完成30天共享调度试验。按园区运营方披露,闲时利用率由22%升至48.3%,新增负荷主要来自实时推理和长尾微调。利用率上升后,散热、带宽和并发限制开始成为新问题。
阅读全文关键词:算力共享
北京酒仙桥8000P集群完成30天共享调度试验。按园区运营方披露,闲时利用率由22%升至48.3%,新增负荷主要来自实时推理和长尾微调。利用率上升后,散热、带宽和并发限制开始成为新问题。
阅读全文北京酒仙桥、亦庄等算力园区用一年的时间,把一台8000P集群的空闲率从六成压到了三成。本文进入调度现场,拆解推理任务从训练集群"挤"出来的真实路径,以及中小企业如何用推理时段的便宜算力,避开"资源被套利"的二房东。
阅读全文