前沿研究
端侧AI手机降温危机：散热模组升级能否留住大模型体验？
7月15日7款手机端侧大模型备案通过，AI手机加速落地，但发热抱怨同步爆发。本文直指散热堆料已近物理极限，胜负手转向芯片调度策略，结合最新评测数据与硬件工程师观点，拆解'跑得快不如跑得稳'的逻辑，并预测主动散热、模型硬件
阅读全文
Search
站内搜索
关键词：端侧AI
找到 151 篇相关文章
前沿研究
2026下半年端侧大模型评测：谁在真省电，谁在背刺续航
2026年旗舰手机端侧AI体验的差距已从跑分转向能效。本文对比苹果A19、骁龙8 Gen 4与天玑9400在运行3B-7B量化模型时的功耗、发热与延迟，通过架构与实测案例揭示谁的NPU真正兼顾续航，并附一套可复现的功耗测
阅读全文
AI 工具箱
2026 手机端侧 AI：速度之外，还得看温度和电量
一句跨 App 指令，可能让手机在几十秒内明显升温。结合 6 款旗舰方案的测试记录与公开资料，文章对比 Agent 执行、本地 PDF 检索、响应延迟和 10 组任务耗电，看看中兴、华为、苹果、OPPO 等方案各自适合什
阅读全文ARM架构之争背后，手机端AI开始比拼持续能效
端侧AI进入手机和智能眼镜后，峰值算力已不足以解释真实体验。现有材料能确认苹果等厂商持续推进端侧AI、国内至少50个团队布局AI眼镜；至于「ARM V3.1」及相关性能数据，缺少官方文档和测试条件，暂不宜写成定论。
阅读全文
AI 工具箱
20B、1T都不等于快：端侧AI手机该怎么测
苹果的AFM 3 Core Advanced约200亿参数，小米MiMo-V2 Pro总参数超1万亿、激活420亿，Pixel 10则让Gemini Nano常驻端侧。数字越来越大，但公开资料仍不足以做统一跑分。选设备，
阅读全文
技术应用
端侧32B模型上车：手机散热与功耗的隐形天花板在哪？
骁龙8 Gen 5手机实测显示，INT4量化32B模型运行十分钟后，生成速度从8 token/s跌至3 token/s。本文对比RTX Spark的45—80W主动散热与手机的被动极限，剖析内存墙与NPU架构的真实瓶颈，
阅读全文
前沿研究
手机能跑32B，但端侧推理更需要通专融合
一组实测里，24GB 内存的骁龙 8 Gen 5 手机运行 INT4 量化 32B 模型，十分钟后从每秒 8 token 降到 3 token。端侧部署该比的，不只是参数量，而是底座常驻、插件路由、内存搬运和芯片适配能否
阅读全文手机多模态推理压到200毫秒，先拆内存墙
拍照提问时，2秒等待足以打断操作，200毫秒才接近即时反馈。3B级模型要缩短首字延迟，得同时减少权重、视觉Token与KV Cache搬运，并让量化方案真正匹配Arm指令和手机NPU。
阅读全文
前沿研究
R1开源后，手机跑30B模型先撞上散热墙
24GB内存的骁龙8 Gen 5旗舰机，已经能本地运行INT4量化的Qwen-32B：首字2.1秒，起步约8 tokens/s。持续推理后，机身升至46°C、速度掉到3 tokens/s，12分钟耗电23%。30B上手机
阅读全文3B模型在端侧能跑多少个Agent？实测不同量化方案的推理损耗
针对2026年主流的3B级端侧模型（如商汤Sage、vivo蓝心3B），实测在Arm v10架构设备上运行3-5个垂直Agent时的内存占用与延迟。对比INT4与FP8量化方案，分析在多Agent协作场景下的精度掉点与资
阅读全文
前沿研究
Arm v10样片实测：SME2把Prefill提速3.2倍
Arm v10工程样片测试中，SME2让Llama-3-3B 4-bit版Prefill速度较v9提升3.2倍，首字延迟由约1.2秒降至400毫秒以内；Decoding加速约1.4倍，10B模型持续运行仍受发热和功耗约束
阅读全文3B小模型开始接活，万亿参数模型还值不值钱
3B小模型正进入摘要、分类、提取等边界清晰的任务，但“覆盖80%日常工作”没有统一证据。企业真正要算的是完成一次任务的总成本：调用、延迟、返工和审核。大模型不会失去价值，它更适合复杂请求、模型蒸馏和能力兜底。
阅读全文