前沿研究
RISC-V 芯片跑通 LLM：从边缘传感器到车载座舱的实时响应
分析 RISC-V 架构如何通过自定义指令集和向量扩展（RVV）优化量化 LLM 部署，探讨其在车载座舱和工业传感器场景中解决功耗发热痛点、实现毫秒级响应的工程路径。
阅读全文
Search
站内搜索
关键词：LLM 部署
找到 2 篇相关文章
前沿研究
AI 工具箱
Arm 端侧跑 7B，三款框架实测怎么选
同跑 Qwen2.5-7B-Instruct INT4，骁龙 X Elite 上 ExecuTorch 首 token 更快，天玑 9400 上 MNN 吞吐反超，llama.cpp 胜在内存稳定。框架选择要跟芯片、任务
阅读全文