20B模型塞进2026款AI PC，先算内存再看NPU
Core Ultra 7 258V轻薄本有64GB统一内存和48 TOPS NPU，加载20B模型仍然OOM。权重只是第一笔占用，KV cache、算子回退和持续散热更容易拖慢推理。实测可行的做法，是混合INT4、压缩K
阅读全文
Search
站内搜索
关键词：散热
找到 71 篇相关文章
Arm 看好 3D 堆叠，10B 模型能否撑一天仍待实测
Arm 将 3D 堆叠和芯粒集成列为 2026 年芯片创新方向，目标是提高集成密度与能效。但现有资料没有手机端 10B 模型的功耗、温升和续航实测。它能否撑过一天，仍取决于调用频率、内存压力、散热和系统调度。
阅读全文
技术应用
7B还是14B？端侧大模型选型先看功耗与散热
7B更容易在手机上落地，14B也不等于体验一定更好。面对骁龙8 Elite和天玑9400，选型要同时看内存占用、首字延迟、持续生成速度、整机功耗和降频情况。现有素材没有统一实测数据，因此不虚构芯片胜负，只给出可复现的比较
阅读全文
前沿研究
3B模型跑强化学习：为什么端侧慢思考比无脑堆参数更省电
分析2026年夏季端侧AI面临的算力与散热双重挑战，探讨如何利用GRPO算法与轻量级MCTS，让3B小模型通过“慢思考”机制在本地离线实现复杂逻辑推理，并深度量化其能效比。成本账表明：慢思考的3B模型相比于大参数直接输出
阅读全文
技术应用
端侧 AI 手机散热实测：高温降频对推理速度的真实影响评估
在 35℃ 恒温箱环境下，iPhone 16 Pro Max、Galaxy S25 Ultra 和小米 15 Pro 持续推理 20 分钟后，Token 生成速度分别跌至初始值的 58%、50% 和 72%。本文量化分析
阅读全文35℃连续推理36小时，三款车谁先降频
在35℃恒温模拟舱内，2026款理想L9、小鹏G9和问界M9连续运行36小时，循环执行多轮语音与导航规划。三款车都完成了测试，但热管理路径不同：M9波动较小，L9中后段降频明显，G9优先保住语音响应。
阅读全文
前沿研究
端侧AI手机降温危机：散热模组升级能否留住大模型体验？
7月15日7款手机端侧大模型备案通过，AI手机加速落地，但发热抱怨同步爆发。本文直指散热堆料已近物理极限，胜负手转向芯片调度策略，结合最新评测数据与硬件工程师观点，拆解'跑得快不如跑得稳'的逻辑，并预测主动散热、模型硬件
阅读全文
AI 工具箱
20B、1T都不等于快：端侧AI手机该怎么测
苹果的AFM 3 Core Advanced约200亿参数，小米MiMo-V2 Pro总参数超1万亿、激活420亿，Pixel 10则让Gemini Nano常驻端侧。数字越来越大，但公开资料仍不足以做统一跑分。选设备，
阅读全文
前沿研究
Arm AI PC散热升级：均热板之后，液冷还有多远
本地AI延长了笔记本的高负载时间，散热开始直接影响持续性能。VC均热板适合摊平热点，冷板液冷已用于AI服务器和HPC设备；对Arm AI PC而言，液冷仍要过体积、成本与可靠性几道关。
阅读全文
技术应用
端侧32B模型上车：手机散热与功耗的隐形天花板在哪？
骁龙8 Gen 5手机实测显示，INT4量化32B模型运行十分钟后，生成速度从8 token/s跌至3 token/s。本文对比RTX Spark的45—80W主动散热与手机的被动极限，剖析内存墙与NPU架构的真实瓶颈，
阅读全文
产业动态
RTX Spark亮出45—80W，Arm AI PC还卡在哪
RTX Spark给出20核Arm CPU、6144个CUDA核心、128GB统一内存和45—80W功耗，N1、N1X也在推进。规格表更漂亮了，但智能体常驻之后，CPU调度、内存带宽和持续散热仍会决定AI PC的续航与响
阅读全文
前沿研究
R1开源后，手机跑30B模型先撞上散热墙
24GB内存的骁龙8 Gen 5旗舰机，已经能本地运行INT4量化的Qwen-32B：首字2.1秒，起步约8 tokens/s。持续推理后，机身升至46°C、速度掉到3 tokens/s，12分钟耗电23%。30B上手机
阅读全文