AI 纪元 追踪人工智能最新进展,深度解读前沿技术

8000P智算园区落地:中小团队用国产算力还要跨几道坎

北京亦庄AGI园区打出8000P算力招牌,全国超100个AI园区已落地。万卡集群是大模型竞赛入场券,但中小团队真正需要的是算力池化、软件适配和驻场支持。国产算力从能用到好用,中间隔着实实在在的操作鸿沟。

0 次阅读 约 1122 字 2 分钟 AI 生成
A complex server rack interior with tangled cables and a single focused light beam
A complex server rack interior with tangled cables and a single focused light beam

北京亦庄的AGI园区打出了8000P算力的招牌。这个数字听起来很猛,但赛迪顾问的另一组预测更值得琢磨:到2025年底,中国算力核心产业规模有望突破1.5万亿元。宏观数字一路飙升,中小团队真正关心的却很具体——这些算力,我怎么用得上?

截至2024年底,全国已形成超100个以人工智能为核心的园区,重点分布在长三角、珠三角、京津冀等经济活跃区域。上海浦东人工智能岛聚焦"AI+金融",吸引了达闼科技、商汤科技等60余家企业入驻;武汉光谷人工智能产业园则围绕"AI+光电子"做垂直方向。不同园区的定位差异很大,算力配置也各不相同。有的园区堆的是同构集群,有的则混搭了不同厂商的芯片。后者听起来灵活,但调度器要解决的第一个麻烦就是算子兼容和通信协议差异——不同架构的卡放在同一个集群里,不是插上就能跑的。

大模型参数量从千亿迈向万亿,万卡集群应运而生。所谓万卡集群,是由一万张及以上加速卡组成的高性能计算系统,把底层基础设施整合成一台"超级计算机",支持千亿甚至万亿级参数的大模型训练。从业者形容它是这一轮大模型竞赛的入场券。但对资金有限的中小团队来说,动辄万卡的规模并不现实。他们更依赖园区把闲置算力池化,通过混部策略把部分算力用于轻量级推理,腾出资源跑高强度训练。这中间的调度逻辑,比单纯堆硬件复杂得多。

软件适配是另一道坎。从英伟达体系迁移到国产芯片,版本升级、算子缺失、通信库适配,每个环节都可能拖慢进度。一些园区开始提供预置主流框架的标准化镜像库,引入自动算子翻译工具,把常见的算子映射到国产芯片上,原本需要两周的迁移工作有望缩短到几天。但遇到自定义算子,开发者仍然得深入底层优化,没有捷径。

规模涨得快,问题也跟着浮出来。截至2024年6月,中国在用算力中心超过830万标准机架,算力规模达246 EFLOPS,智能算力年增速达65%。但2024中国算力大会上,与会专家明确提到,智算中心面临供需匹配不平衡、节能降碳、商业落地等现实问题。算力建起来了,不等于有人用、用得好。

算力与网络的融合也在加速。新华三集团高级副总裁、网络产品线总裁曾富贵认为,算力生态多元化已成必然,网络需要具备标准开放的能力来解决算力扩张问题,让成千上万张计算卡化零为整。换句话说,光有卡不够,联接技术跟不上,集群效率就上不去。

对中小团队来说,国产算力正在从"能用"转向"好用",但这个转折不会自动发生。接受混合架构、准备应对生态磨合,是基本前提。园区如果能提供驻场工程师,解决框架文档没覆盖到的边缘问题,比单纯拼硬件规格有用得多。算力像水电一样即取即用还需要时间,但至少现在,中小团队已经拿到了进场的票。至于能不能跑完比赛,还得看园区的软件服务跟不跟得上。

相关阅读