苹果把AI推理搬上手机，英伟达的钱包还安全吗
WWDC 2026上，苹果宣布iOS 20将80%的AI推理任务默认在本地NPU执行，隐私数据不出设备。通过动态精度切换、智能内存交换和1x1卷积替换三个“野路子”，70B模型推理功耗降低30%，首字响应压至0.9秒。端
阅读全文
Search
站内搜索
关键词：功耗
找到 102 篇相关文章
把卷积层塞进iOS 20：端侧70B模型省电30%的三个野路子
iPhone 17 Pro 本地跑 70B 模型 10 分钟就烫到降频怎么办？本文实测三种非常规优化手段：动态精度切换（保持 95% 精度功耗降 25%）、iOS 20 智能内存交换（省带宽 20%）、以及用 1x1 卷
阅读全文MacBook实测13B模型：全精度烫手，INT8才是移动办公正解
MacBook Pro 14 M5芯片实测13B模型：全精度运行58分钟，键盘温度46℃，续航不足2小时。INT8量化后速度54 tokens/s，功耗13W，续航2小时1分，能流畅跑本地智能体工作流。量化是关键。
阅读全文iPhone 19跑70B模型烫手？散热才是真瓶颈
iPhone 19运行本地70B大模型频繁降频，并非NPU算力不足，而是高通X85基带功耗挤压了散热空间。实测显示，其持续负载能力远不如搭载VC均热板的安卓旗舰。苹果转而采用端云协同策略，以实用主义应对物理极限。
阅读全文2026半年复盘：LangChain边缘化，MCP成硬通货
2026年中，AI Agent开发从‘拼框架’转向‘拼标准’。LangChain因集成成本高、生态碎片化被开发者抛弃，MCP协议凭借上下文可移植性成为事实标准。本文梳理招行、建行落地案例及端侧功耗墙，揭示企业如何选型避坑
阅读全文液冷服务器功耗骤降30%：2026数据中心绿色转型的财务账本
2026年夏季高温叠加AI算力爆发，数据中心PUE成为生死线。本文拆解阿里云、腾讯云及AWS新一代浸没式液冷部署实测数据，对比风冷与液冷在电费、机柜密度上的ROI。结合昇腾910C等国产算力集群的适配成本，算清从“卖算力
阅读全文端侧大模型功耗墙：手机厂商如何解决70B模型的发热难题
iPhone 19跑70B模型1.2秒响应却因过热降频，揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料，在NPU算力与续航之间寻找平衡点。
阅读全文半年端侧实测下来，NPU的能效比到底卡在哪
跑了半年端侧模型，三星S26 Ultra通话翻译22分钟续航不崩，MacBook M5跑13B模型键盘飙到46℃。结论不浪漫：手机AI的瓶颈不在TOPS，而在内存带宽和散热。量化能救一半，手表那1W功耗墙基本无解。
阅读全文苹果深圳新实验室不招大模型，只盯硬件省电
2026年6月，苹果在深圳南山设立AI实验室，首批12个岗位避开大模型预训练，聚焦端侧推理与硬件协同。受M5 MacBook实测续航痛点驱动，苹果试图通过驻厂迭代解决功耗难题。此举不仅推高端侧AI工程师薪资至80-150
阅读全文端侧模型卷进智能手表：跑18小时AI，交了多少电税
3B模型在手机跑通后，更小的参数开始下沉到智能手表。实测发现，1.5B模型在手表上每次深度交互耗电超1%，5分钟升温触发降频。在1W功耗和内存带宽限制下，手表AI目前只能做端云折衷，专攻健康监测等窄场景才是出路。
阅读全文3B模型打赢70B的秘密：小模型在手机端的真实表现
我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现，覆盖推理速度、功耗、发热和多任务影响。测试发现，在特定任务上，3B模型已能提供媲美云端大模型的流畅
阅读全文实测国产AI芯片跑13B大模型：续航崩了，比玩游戏还烫
2026年6月，我们测试了三款搭载最新国产AI芯片的旗舰手机，在本地运行13B参数大模型。测试发现，持续对话功耗突破5W，续航仅约两小时，发热明显。软件优化和应用场景的缺失，让本地大模型目前更像技术演示，离实用还有距离。
阅读全文