产业动态
Arm新能源架构发布：端侧Agent跑50亿参数不掉电的底气
针对2026年端侧Agent的能效瓶颈，本文拆解Arm最新AGI CPU与新能源架构如何通过内存带宽优化与微架构升级，支撑50亿参数模型在手机端实现低功耗常驻，并为开发者分析下半年端侧模型的容量上限。
阅读全文
Search
站内搜索
关键词：端侧模型
找到 19 篇相关文章
产业动态
3B模型也能有“思考过程”？拆解2026年端侧推理的慢思考机制
分析 VibeThinker 等 3B 规模端侧模型如何通过 GRPO 强化学习实现类似 o1 的慢思考（CoT）能力，探讨在内存与功耗约束下，端侧模型如何通过牺牲推理时间换取逻辑能力的跃迁，并为开发者提供端侧推理优化的
阅读全文3B模型在端侧能跑多少个Agent？实测不同量化方案的推理损耗
针对2026年主流的3B级端侧模型（如商汤Sage、vivo蓝心3B），实测在Arm v10架构设备上运行3-5个垂直Agent时的内存占用与延迟。对比INT4与FP8量化方案，分析在多Agent协作场景下的精度掉点与资
阅读全文
前沿研究
端侧模型轻量化，正在从压参数转向省计算
手机能装下模型，不等于能长期跑好。苹果约200亿参数的AFM 3 Core Advanced选择稀疏激活，Gemini Nano沿用知识蒸馏。端侧轻量化的重点，正转向按需计算、能力压缩和分层精度。
阅读全文
前沿研究
Arm 更新移动 AI IP 后，手机厂开始重算端侧模型能跑多大
Arm 在 2026 年 6 月更新移动 AI 架构路线图后，旗舰手机端侧大模型的参数竞赛被按下暂停键。厂商宣传的“百亿参数端侧运行”在功耗墙、内存带宽和实际可用容量面前，需要重新算账。本文拆解 2026 年下半年旗舰
阅读全文
产业动态
Arm更新移动AI思路，手机端侧模型该重算哪些账
苹果把AFM 3 Core Advanced做到约200亿参数，却通过稀疏架构控制单次推理的激活规模。结合Arm对CPU、GPU、NPU协同的强调，手机端侧选型需要重新评估实际计算量、部署适配和任务调度。
阅读全文
AI 工具箱
AI手机别只盯着跑分看
OPPO在2025年世界人工智能大会展示了200 token/s端侧模型能力，也把AI手机的真实考题暴露出来：峰值速度之外，NPU调度、量化部署、发热控制和端云协同，才决定它能不能长期好用。
阅读全文
前沿研究
端侧大模型把手机主板烤熟了？拆解骁龙8 Gen5的温控盲区
骁龙8 Gen5在跑14B端侧模型时，摄像头区域温度飙至52°C以上。硬件工程师实测四款旗舰，发现问题不在散热面积，而在NPU热密度失控和摄像头支架造成的热传导死胡同。不同厂商的温控策略从激进降频到偷偷降精度，都在掩盖一
阅读全文
前沿研究
端侧模型功耗红线再收紧，14B参数如何塞进中端机
骁龙8 Gen5实测跑14B模型发热严重，但6月落地的混合精度量化与稀疏激活技术，已把内存压到5.8GB、推理功耗控在3.2W。两条算法路径叠加后，中端机本地跑大模型不再是噱头，只是加载那5秒的等待仍是工程上的最后一公里
阅读全文
技术应用
苹果端侧AI，隐私牌怎么打
WWDC 2026后，Apple Intelligence 2.6把Siri、Gemini和端侧模型放进同一套架构里。它的重点不只是让Siri更聪明，而是把一部分数据处理留在设备上，降低企业在隐私和合规上的压力。
阅读全文春招AI薪资两极：初级岗无人问津，架构师月薪8万仍缺人
2026年春招显示，AI人才市场结构性分化加剧。初级算法岗因端侧模型普及失去溢价，月薪2.5万仍难招；而掌握系统架构、懂FinOps及业务闭环的复合型人才月薪可达8万。头部企业如优必选、字节跳动仍在争夺顶尖科学家，但底层
阅读全文苹果 AI 2.0 实测：翻译快慢看电量，视觉智能离线认错包
iOS 26 实时翻译首次支持通话，满电延迟 1.2 秒，低于 20% 电量时增至 3.7 秒。视觉智能离线识别包出错。苹果用端侧模型保隐私，但性能波动和权限管理仍是用户要接受的代价。
阅读全文