AI 纪元 追踪人工智能最新进展,深度解读前沿技术

玄铁C950端侧跑千亿大模型,RISC-V算力账怎么算?

阿里平头哥发布玄铁C950,主频3.2GHz,试图在端侧跑通千亿参数大模型。面对云端API成本高企与7月合规新规落地,企业被迫转向本地部署。但内存墙与软件栈短板,仍是RISC-V亟待跨越的门槛。

0 次阅读 约 1245 字 2 分钟 AI 生成
Conceptual editorial image showing a high-performance processor chip connected to memory modules, symbolizing the bottleneck between compute and bandwidth.
Conceptual editorial image showing a high-performance processor chip connected to memory modules, symbolizing the bottleneck between compute and bandwidth.

3月24日,阿里平头哥发布玄铁C950处理器。这颗芯片主频3.2GHz,SPECint2006跑分突破70。官方宣称原生支持Qwen3、DeepSeek V3等千亿参数大模型。

过去,RISC-V多用在智能家居或IoT传感器里,大家默认它的算力上限就是微控制器。千亿参数模型通常需要云端A100或H100集群,或者本地工作站数TB显存。现在一个RISC-V芯片要扛下大模型推理,听起来像PPT神话。但结合目前的业务场景,这个技术突破其实是被逼出来的。

云端API的隐性税

企业正面临双重挤压:云端API费用通胀,合规监管收紧。

此前调研发现,某跨境电商在客服场景下,四小时消耗52万Token,费用远超预期。高频推理场景的API成本正在吞噬利润。更麻烦的是数据出境风险。7月15日多部门联合发布的《拟人化交互与算法备案红线》正式施行,涉及用户画像和深度交互的场景必须接受严格算法备案。企业不敢再把核心数据扔进公共云端API。

本地化部署成了刚需。但给一万台终端设备各塞一块NVIDIA显卡显然不现实。RISC-V的低功耗、可定制优势此时显现。玄铁C950试图回答的问题是:能不能用更廉价的芯片在边缘端完成部分大模型推理?

跨越内存墙与软件阵痛

现实比实验室Benchmark残酷。玄铁C950引入了矩阵乘法专用加速单元,但运行千亿参数模型时,内存带宽是最大瓶颈。大模型推理是典型的Memory-Bound任务,需要外部高带宽内存(HBM)或LPDDR5X维持吞吐。如果不解决内存墙,3.2GHz的单核性能会被等待时间抵消。通过无剑600平台实现的内存扩展方案,目前仍在工程验证阶段。

软件栈同样是个麻烦。NVIDIA有成熟的CUDA生态,迁移模型依然要面对算子适配问题。RISC-V缺乏像cuDNN那样经过长期优化的底层库。要让玄铁C950跑通Qwen3,开发者可能要花几周编译优化。这对中小型企业是道工程鸿沟。多核协同方面,RISC-V能通过片上网络集成大量核心,但在实时性要求高的生成式AI场景里,如何高效调度注意力机制、避免上下文切换延迟,尚未完全攻克。

边缘侧的算力突围

据《科创板日报》2025年7月报道,业内普遍认为多核异构有望带来AI计算能力跃升。中科院计算所副所长包云岗也指出,RISC-V灵活性若被充分发挥,有望重塑AI算力版图。这种重塑并非取代云端GPU训练,而是抢占“云端训练、边缘推理”架构中的边缘侧主导权。

英伟达推出Blackwell Ultra专攻推理,但高成本注定只能服务头部大厂。海量端侧市场需要性价比方案。算能等厂商已在云部署层面实现初步商业闭环。未来的形态大概率是“CPU+NPU+ISP”的异构SoC,RISC-V作为控制中枢调度协处理器分担推理负载。

玄铁C950释放了一个信号:端侧算力正在觉醒。虽然目前还在从“能跑”向“跑得好”过渡,但随着无剑600等平台完善,RISC-V有望成为边缘AI的底座。把算力下沉到边缘,是技术突围,也是商业必然。

相关阅读