AI 实操指南
RISC-V开发板跑通7B模型：4.4 token/s怎么来的
玄铁 C950-AI 上的 Llama-3.2 7B 经 Q4_K_M 量化后约 3.8GB，MNN 实测生成速度 4.4 token/s、平均功耗 10.5W。长文本会被 KV Cache 拖慢，持续运行还会遇到 85
阅读全文
Search
站内搜索
关键词：开发板
找到 5 篇相关文章
AI 实操指南
前沿研究
RISC-V边缘AI芯片实测：功耗压到1W还能跑多大模型
把主流轻量模型丢进最新的RISC-V开发板，贴着1W功耗天花板跑实测。本文给出具体帧率、能效比和崩溃点，并对比ARM方案，给物联网开发者一份能用的选型参考。
阅读全文RISC-V 芯片在边缘计算端的能效比实测：告别英伟达依赖
实测三款RISC-V开发板在视觉模型下能效比领先ARM竞品30%-80%（YOLOv8n，K230 FPS/W 12.2 vs Orin Nano 5.7），5美元级芯片替代百美元方案，为IoT网关、摄像头选型提供硬核参
阅读全文900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文三颗车芯跑7B大模型实测：骁龙、天玑、麒麟在座舱里拼什么？
我们将骁龙8 Gen4、天玑9400和麒麟9100的开发板置于25度恒温箱，跑同一套7B模型，测试语音助手、多模态理解和离线导航三个场景。纸面算力和实际体验之间，隔着一片工程沼泽。
阅读全文