端侧大模型功耗墙：手机厂商如何解决70B模型的发热难题
iPhone 19跑70B模型1.2秒响应却因过热降频，揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料，在NPU算力与续航之间寻找平衡点。
阅读全文
Search
站内搜索
关键词：NPU
找到 101 篇相关文章
iPhone 19跑70B模型只要1.2秒，但10分钟后它累了
iPhone 19凭借M5芯片实现70B大模型本地1.2秒首字响应，隐私性极佳，但持续运行超10分钟即因过热降频。三星S26 Ultra延迟稍高（1.5秒），却可稳定运行20分钟。两者分别代表了极致单点性能与长稳体验的不
阅读全文苹果端侧 Agent 2.0：本地跑 70B 模型，隐私审查靠什么过
iOS 20 推送后，Apple Intelligence 2.0 终于能让 Siri 真正干活。核心变化是 M5 芯片 NPU 跑到 100-200 TOPS，70B 参数模型首字延迟压到 1.2 秒，敏感任务在 Se
阅读全文M5芯片入局：iPhone 19的端侧AI，真的能省掉云端吗
Apple M5芯片NPU算力预计达100-200 TOPS，配合LPDDR6X内存，使70B参数模型在iPhone 19上的首字延迟降至1.2秒。虽然散热仍限制持续高负载，但苹果通过动态量化实现“端云协同”。这不仅关乎
阅读全文2026家长实测：当AI开始“追问”，作业边界在哪
初二学生小杰的平板不再直接给答案，而是像苏格拉底式导师。调研显示长三角12所中学部署RAG 2.0系统，拦截15%的“AI化”作文。端侧NPU限制联网，促使学生本地思考。政策要求“学术诚信水印”，家校协同正从“禁用”转向
阅读全文iPhone 18实测：3.8秒延迟背后的端侧算力真相
iPhone 18 Pro Max NPU算力突破100 TOPS，但Apple Intelligence 3.0在多步任务上仍比上代慢0.5秒。实测显示，端侧大模型的性能瓶颈不在芯片，而在内存带宽与散热。相比苹果的“隐
阅读全文iPhone 17 跑 AI 发烫？三款 2026 旗舰散热实测
2026 年旗舰机运行本地大模型时，散热成为体验分水岭。实测显示，iPhone 17 Pro 在持续推理 15 分钟后帧率骤降，Pixel 10 靠石墨均热板维持较稳输出，Galaxy S27 Ultra 则需开发者模式
阅读全文端侧模型省电了，但App开发者为什么还在抗拒接入NPU？
2026年端侧推理能效比已大幅提升，但开发者仍面临算子适配碎片化、量化精度丢失及内存带宽瓶颈。本文通过架构师访谈，揭示NPU落地背后的工程困境与真实成本。
阅读全文半年端侧实测下来，NPU的能效比到底卡在哪
跑了半年端侧模型，三星S26 Ultra通话翻译22分钟续航不崩，MacBook M5跑13B模型键盘飙到46℃。结论不浪漫：手机AI的瓶颈不在TOPS，而在内存带宽和散热。量化能救一半，手表那1W功耗墙基本无解。
阅读全文苹果深圳新实验室不招大模型，只盯硬件省电
2026年6月，苹果在深圳南山设立AI实验室，首批12个岗位避开大模型预训练，聚焦端侧推理与硬件协同。受M5 MacBook实测续航痛点驱动，苹果试图通过驻厂迭代解决功耗难题。此举不仅推高端侧AI工程师薪资至80-150
阅读全文Copilot 住进内核：Windows 12 要让电脑自己找活干
微软在Build 2026上发布Windows 12，将Copilot推理引擎直接嵌入系统内核。这意味着AI从独立应用升级为能调度硬件资源的系统服务。微软推荐NPU算力不低于40 TOPS，并引入新API让开发者直接调用
阅读全文端侧AI Agent 2026年下半年实战：在骁龙X Elite笔记本上本地部署与运行‘办公助手’全流程指南
本指南针对2026年主流的高通骁龙X Elite AI PC，详解如何从零开始本地部署一个具备邮件处理、日程管理及文档分析能力的端侧AI Agent。涵盖环境配置、模型选型、Agent框架构建、隐私保护与离线优化全流程，
阅读全文