前沿研究
别急着给BEVFormer分代，车端跑稳才是门槛
BEVFormer借助可变形注意力融合多视角与历史特征，但参数减少并不会自动换来车端稳定。算子能否落到NPU、时间戳是否对齐、CPU与NPU切换是否可控，都会改写实时推理表现。
阅读全文
Search
站内搜索
关键词：NPU
找到 101 篇相关文章
前沿研究
前沿研究
边缘AI芯片到了2026年，Arm为何仍占先手
Fortune Business Insights预计，2026年全球边缘AI市场规模为475.9亿美元，但这一口径并非芯片销售额。端侧选型也不能只看TOPS：内存、算子回退、CPU与NPU调度以及软件适配，都会改变实际
阅读全文
前沿研究
华为智算集群实测：昇腾910C在混合精度训练中的真实吞吐率
基于2026年6月千颗昇腾910C完成1.6万亿参数DeepSeek-V4-Pro训练的实测数据，分析FP8/FP16混合精度下的MFU和吞吐率，对比A100/H100的性价比，揭示国产算力的工程极限与选型真相。
阅读全文
前沿研究
端侧 Agent 怎么省电？关键是少让 CPU 介入调度
端侧 Agent 的耗电不只看推理速度，还要看任务切换时 CPU 被叫醒多少次。Arm 用 CPU、GPU、NPU 分工处理不同负载；“周易”X3 公布的最低 0.5% CPU 负载，指向的是调度开销，不是整机功耗。
阅读全文
前沿研究
端侧 Agent 先过电量关：手机系统为何必须重做调度
Agent 会连续感知、推理、调用工具并写回结果，耗电分散在唤醒、保活、温控和任务切换中。公开资料尚未显示手机厂商已有统一方案，但只谈 NPU 峰值算力，解释不了端侧 Agent 的真实续航。
阅读全文
前沿研究
Arm高管眼中的AGI：低功耗芯片如何重塑端侧AI代理
2026年，AI代理从云端走向端侧，功耗成为关键瓶颈。Arm高管频频发声，强调能效是下一阶段竞争焦点。从Arm AGI CPU的发布到20项技术预测，本文梳理Arm的低功耗设计哲学如何影响手机与PC芯片的本地推理性能，并
阅读全文
前沿研究
手机端 7B 模型跑通后，厂商为什么还在压缩 1.8B 小钢炮
2026年中端手机集体押注1.8B参数级模型，vivo、OPPO、荣耀先后推出相关机型。从内存占用、首字延迟、电池发热三个维度对比7B，1.8B在算力受限场景下实现了更优能效比。产业原因在于模型压缩技术成熟、芯片NPU专
阅读全文
AI 实操指南
旧手机跑端侧大模型，量化和调度怎么选
把 Qwen2.5-3B-Instruct 或 Llama-3.1-8B 放进 iPhone 13、Redmi Note 12 Pro+，卡点通常落在内存、算子支持和持续发热。旧设备可先用 INT8 建立基线，再按内存压
阅读全文
前沿研究
端侧7B大模型跑通后，手机厂商不敢说的内存与发热账单
2026年夏天，7B大模型在旗舰机上跑通已成常态，但内存占用和发热问题远比宣传复杂。实测三款旗舰机在连续对话下的内存与掉电数据，拆解手机厂商为了保住轻薄设计，在NPU调度策略上做的妥协。端侧AI的真实代价，才刚刚浮出水面
阅读全文
前沿研究
Arm 更新移动 AI IP 后，手机厂开始重算端侧模型能跑多大
Arm 在 2026 年 6 月更新移动 AI 架构路线图后，旗舰手机端侧大模型的参数竞赛被按下暂停键。厂商宣传的“百亿参数端侧运行”在功耗墙、内存带宽和实际可用容量面前，需要重新算账。本文拆解 2026 年下半年旗舰
阅读全文
产业动态
Arm更新移动AI思路，手机端侧模型该重算哪些账
苹果把AFM 3 Core Advanced做到约200亿参数，却通过稀疏架构控制单次推理的激活规模。结合Arm对CPU、GPU、NPU协同的强调，手机端侧选型需要重新评估实际计算量、部署适配和任务调度。
阅读全文
前沿研究
端侧AI不只看跑分，还要过相册和输入法这关
荣耀用低bit量化缩小模型、提高推理速度，Nexa AI则试图降低跨芯片部署成本。端侧AI能否真正进入手机日常，还要看相册搜索、输入法和离线翻译是否够快、够稳，也不能太耗电。
阅读全文