RISC-V开发板跑通7B模型:4.4 token/s怎么来的
玄铁 C950-AI 上的 Llama-3.2 7B 经 Q4_K_M 量化后约 3.8GB,MNN 实测生成速度 4.4 token/s、平均功耗 10.5W。长文本会被 KV Cache 拖慢,持续运行还会遇到 85
阅读全文关键词:实测
玄铁 C950-AI 上的 Llama-3.2 7B 经 Q4_K_M 量化后约 3.8GB,MNN 实测生成速度 4.4 token/s、平均功耗 10.5W。长文本会被 KV Cache 拖慢,持续运行还会遇到 85
阅读全文实测Sora 3.5默认嵌入的C2PA数字水印与可见水印,发现技术溯源在社媒平台与灰产操作下存在薄弱环节。广告主需正视元数据易丢失、水印可被3元“洗白”的现实,建议通过合同约定责任、内部流程加入溯源检查,以弥补纯技术方案
阅读全文华南某电子元器件厂在5条SMT产线上连续测试72小时:昇腾910D平均推理延迟11.2毫秒,缺陷检出率99.4%。真正影响落地预算的,还有365W峰值功耗、整机配套和CANN算子迁移。
阅读全文把主流轻量模型丢进最新的RISC-V开发板,贴着1W功耗天花板跑实测。本文给出具体帧率、能效比和崩溃点,并对比ARM方案,给物联网开发者一份能用的选型参考。
阅读全文2026年中,北京协和医院“协和·太初”罕见病大模型深入门诊预问诊一线。实测发现,在面对17种罕见药名时,标准输入下F1值可达0.96,但方言和错别字会导致准确率显著下滑。在DeepRare等竞品入局的背景下,医疗AI正
阅读全文华为《智能世界2035》报告预测2035年全球算力增长10万倍,但AI可能进入漫长的平台期。自动驾驶L4试商用时间表依赖AGI突破,WAIC 2026机器人实测仅9款撑过3小时。算力基础设施隐性成本、具身智能物理闭环挑战
阅读全文WAIC 2026现场测试了42款具备自主移动和操作能力的人形及仿生机器人,只有9款在无外部补能下稳定运行3小时。多数样机停在过热降频、通信抖动和推理功耗上,离产线所需的长时间作业仍有距离。
阅读全文医疗大模型正从概念走向三甲门诊,但一线医生反馈最关注的不是参数大小,而是模型能不能准确识别罕见药名。本文从新华网2026年6月的一线观察出发,结合多家医院内测数据,拆解医疗大模型在药名识别上的命中率、误识率与人工复核流程
阅读全文Qwen3.5发布资料给出Qwen3-Max显存占用降低60%、最大吞吐量提升至19倍,但这两组数字不能直接证明单张4090可跑,也不能推出成本减半。部署前要分清模型规模、量化权重、KV Cache和并发口径,再用vLL
阅读全文夏季企业 Agent 调用量激增,上下文堆叠让计费账单失控。本文实测三套开源脚本——TELOS SDK、AgentMemory 与上下文卸载压缩方案,本地抓取 Token 流向、截断冗余上下文,给出可直接落地的部署与避坑
阅读全文2026年夏季,随着国内部分城市开启全无人驾驶测试,特斯拉FSD V13与国内头部方案的路线之争进入深水区。本文通过对比端到端神经网络与激光雷达冗余方案的优劣,解析FSD在极端天气和人车混行场景下的真实表现,探讨自动驾驶
阅读全文2026年6月《脑机接口研究伦理指引》征求意见稿落地后,行业真正能交付的产品停留在哪里?本文拆解ALS辅助沟通、冥想反馈两类非侵入设备的实测数据,并给出科幻与可交付的边界。
阅读全文