2024年，全球基于RISC-V指令集的芯片出货量突破百亿颗。据《科创板日报》援引RISC-V国际基金会的数据，其中30%直接应用于AI加速场景。对于长期被ARM垄断的嵌入式和IoT市场，RISC-V正在成为端侧AI推理的强力竞争者。
一个具体的案例是阿里平头哥发布的玄铁C950。在主频3.2GHz的情况下，它的SPECint2006得分突破70分，并且原生支持千亿参数大模型的端侧推理。这标志着RISC-V不再只停留在低功耗微控制器领域，而是开始涉足高性能AI计算。
模块化设计打破功耗瓶颈
端侧设备运行AI模型，最大的制约是功耗和算力密度。通用指令集架构在面对Transformer等大模型时，往往因为冗余指令导致能效比下降。
RISC-V的核心优势在于模块化和定制化。厂商可以根据特定应用场景自由增减指令。在AI推理中，通过自定义向量扩展指令，RISC-V芯片能针对矩阵乘法进行硬件级优化。这种“量体裁衣”的方式，使得同样的算力下，芯片能实现更低的功耗。玄铁C950结合无剑600平台，就是一个集成了NPU的异构计算平台，能够快速构建针对特定AI任务的加速流水线。
智能手表与AR眼镜的新算力
目前，RISC-V在AI推理端的应用主要集中在智能手表和AR眼镜等可穿戴设备上。这类设备电池容量有限，但需要处理大量传感器数据和轻量级AI任务，如语音识别、手势控制。
传统方案要么依赖主控MCU加蓝牙连接手机，要么采用功耗较高的独立SoC。RISC-V架构可以通过精简指令集，将待机功耗控制在极低水平，唤醒时迅速启动AI推理模块，实现毫秒级响应。对于算力密度要求更高的AR眼镜，RISC-V的定制化优势能针对图形渲染和AI推理任务优化，在同等电池容量下提供更长续航。
绕不开的多核同步与生态短板
尽管增长迅速，RISC-V在端侧AI的逆袭并非没有阻力。中国科学院计算技术研究所副所长包云岗曾指出，RISC-V架构的多核同步性能仍有待完善，与ARM的LSE（大型系统扩展）等技术相比存在差距。
软件生态同样是短板。虽然GCC、LLVM等编译器已支持RISC-V，但在AI推理框架的优化上，ARM的TensorFlow Lite和CoreML已积累了大量成熟案例。RISC-V厂商仍需投入更多资源，构建针对AI推理的优化工具链。随着阿里等巨头的持续投入，RISC-V在端侧AI推理的份额有望继续扩大，但要在高端市场全面替代ARM，还需要跨过软硬件生态的多道门槛。
