RTX Spark亮出45—80W,Arm AI PC还卡在哪
RTX Spark给出20核Arm CPU、6144个CUDA核心、128GB统一内存和45—80W功耗,N1、N1X也在推进。规格表更漂亮了,但智能体常驻之后,CPU调度、内存带宽和持续散热仍会决定AI PC的续航与响
阅读全文关键词:功耗
RTX Spark给出20核Arm CPU、6144个CUDA核心、128GB统一内存和45—80W功耗,N1、N1X也在推进。规格表更漂亮了,但智能体常驻之后,CPU调度、内存带宽和持续散热仍会决定AI PC的续航与响
阅读全文24GB内存的骁龙8 Gen 5旗舰机,已经能本地运行INT4量化的Qwen-32B:首字2.1秒,起步约8 tokens/s。持续推理后,机身升至46°C、速度掉到3 tokens/s,12分钟耗电23%。30B上手机
阅读全文Arm v10工程样片测试中,SME2让Llama-3-3B 4-bit版Prefill速度较v9提升3.2倍,首字延迟由约1.2秒降至400毫秒以内;Decoding加速约1.4倍,10B模型持续运行仍受发热和功耗约束
阅读全文2026年7月实测显示,端侧3B模型日均待机耗电约1.5%-2%,重度Agent调用下续航减半。量化、剪枝等轻量化方案虽降低峰值功耗,但需配合NPU调度优化才能解决发热焦虑。本文拆解vivo蓝心、小米澎湃等主流模型的功耗
阅读全文公开素材尚不足以算出910D与B200的可信成本差值。采购价、实测吞吐、整机功耗和迁移工时缺一不可。更稳妥的办法,是把这些投入统一折算到每百万有效输出Token,再判断国产方案能否摊平适配成本。
阅读全文2026年7月实测表明,手机运行10B参数模型已从「不能跑」跨到「可以跑」,但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化,持续推理功耗降至4.8W,温度约45℃;但Agent场景连续调用仍会堆积热量。文章引
阅读全文高温、粉尘、密闭机箱和连续运行,会让风扇与功耗先于 TOPS 成为工业质检的瓶颈。RISC-V 并非天然比 GPU 省电,但配合定制 NPU、RVV 和量化模型,它有机会在任务固定的边缘节点上,用够用的算力换取更简单的散
阅读全文把三者放进同一张峰值算力榜,采购很容易算错。B200的门槛在CUDA迁移成本,昇腾910C要过算子与集群交付关,RISC-V则应在内存、功耗和散热受限的端侧设备上实测。
阅读全文在本站 Llama 3.2 7B 连续生成 512 tokens 的测试中,FP8 功耗较 INT4 高约 20%-30%。端侧助手要常驻,峰值 TOPS 还说明不了续航;原生加速、端云分工和散热更值得看。
阅读全文玄铁 C950-AI 上的 Llama-3.2 7B 经 Q4_K_M 量化后约 3.8GB,MNN 实测生成速度 4.4 token/s、平均功耗 10.5W。长文本会被 KV Cache 拖慢,持续运行还会遇到 85
阅读全文华南某电子元器件厂在5条SMT产线上连续测试72小时:昇腾910D平均推理延迟11.2毫秒,缺陷检出率99.4%。真正影响落地预算的,还有365W峰值功耗、整机配套和CANN算子迁移。
阅读全文分析 RISC-V 架构如何通过自定义指令集和向量扩展(RVV)优化量化 LLM 部署,探讨其在车载座舱和工业传感器场景中解决功耗发热痛点、实现毫秒级响应的工程路径。
阅读全文