前沿研究
国产智算中心8000P集群实测：除H800外，谁在真正支撑推理？
北京AGI园区8000P集群实测数据显示，推理算力正成为智算中心的核心消耗。对比华为昇腾、寒武纪及海光在大规模并发下的延迟、吞吐量与能耗，揭示除H800外真正支撑推理成本的“隐形冠军”。
阅读全文
Search
站内搜索
关键词：NPU
找到 101 篇相关文章
前沿研究
前沿研究
骁龙、天玑与苹果端侧量化怎么选
端侧大模型部署不能只看INT4压得更小。芯片的NPU支持、算子回退、内存带宽、发热和系统调度，都会改变真实体验。骁龙、天玑、苹果A系列各有取舍，工程上要先确定场景，再选INT4或INT8。
阅读全文
技术应用
苹果端侧AI，隐私牌怎么打
WWDC 2026后，Apple Intelligence 2.6把Siri、Gemini和端侧模型放进同一套架构里。它的重点不只是让Siri更聪明，而是把一部分数据处理留在设备上，降低企业在隐私和合规上的压力。
阅读全文
前沿研究
苹果端侧AI，NPU不是唯一答案
Apple Intelligence把AI拉回iPhone本地，但真正决定体验的，不只是一颗NPU。算力、内存、散热、云端协同和隐私边界，会一起决定它能做多远。
阅读全文端侧大模型隐私合规指南：如何在iPhone与Android上安全运行
2026年，端侧大模型从噱头变为标配，但数据泄露风险并未随“本地化”消失。本文结合TTAF 310-2025标准与工信部新规，实测苹果Private Cloud Compute与安卓各大厂的沙箱机制，揭秘如何在彻底断网下
阅读全文Arm架构拿下40% PC出货量后，端侧AI推理的算力账怎么算
Arm架构在PC和平板市场的份额突破40%，标志着AI算力从云端向边缘的重心转移。本文结合2025-2026年最新数据，拆解NPU在端侧大模型推理中的成本与延迟优势，探讨物理AI与边缘计算的落地现实。
阅读全文
产业动态
库克的最后一次WWDC：Siri重构背后的10亿美元账单与算力妥协
WWDC 2026上，库克迎来了作为CEO的最后一场开发者大会。Siri虽迎来十五年来最大升级，但核心推理仍依托谷歌Gemini，每年花费约10亿美元。标准版iPhone 17因端侧算力瓶颈被挡在完整Apple Inte
阅读全文
技术应用
端侧AI大考：iPhone 17与安卓旗舰的调度分歧
2025年手机AI竞争焦点从NPU跑分转向端云调度。苹果押注Core ML的“本地锁定”与断点续传，高通走“全速推理”路线，联发科侧重能效量化。在弱网和隐私合规面前，不同的卸载策略直接决定了发烫程度与续航底线。
阅读全文2026端侧AI转向：Arm预测与苹果AFM3背后的能效战
2026年，Arm发布20项技术预测，宣告计算重心从云端向端侧转移，3D堆叠取代晶体管微缩成为创新核心。与此同时，苹果WWDC2026推出AFM3系列与M5芯片，凭借稀疏架构实现200亿参数本地推理。深圳电商因云端API
阅读全文苹果M5芯片发布：iPhone 17将如何重塑端侧AI体验
M5芯片让GPU AI性能实现4倍跃升，为端侧运行70B大模型奠定硬件基础。iPhone 17 Pro将首发该体验，标准版无缘。本地推理不仅带来零边际成本的隐私安全，更是对抗云端API失控风险的终极防线。
阅读全文库克的最后一场WWDC：端侧算力与云端的博弈
2026年WWDC，库克主持最后一届大会。iOS 19重构Apple Intelligence 2.0，试图摆脱对谷歌Gemini的依赖，转向端侧NPU计算。然而，硬件算力的物理极限与开发者适配的成本，让这场隐私保卫战充
阅读全文关掉Wi-Fi跑70B模型：手机端侧算力的真实账本
DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配，展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能，但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文