搜索: 端侧大模型

Close-up of a smartphone overheating with steam rising, symbolizing thermal throttling during AI inference

技术应用

2026-07-15 06:11:50 0 阅读

端侧 7B 模型让手机发烫退掉单：功耗墙怎么破

手机烫得拿不住、推理超时退单，7B 模型塞进旗舰机后的真实翻车案例。本文拆解骁龙 8 Gen 4 机型的运行日志，分析功耗墙成因，给出推理框架量化、KV 缓存剪枝、动态频率调度等优化方案，并引用 vivo 蓝心部署、头豹

阅读全文

A conceptual editorial image showing three distinct, abstract geometric structures representing different chips, balanced on a scale against a backdrop of therm

技术应用

2026-07-14 23:43:00 0 阅读

7B—14B模型上手机，功耗不能只看100 TOPS

天玑9500已有100 TOPS等发布规格，骁龙8 Elite Gen5的同类数据来自发布前瞻，A19 Pro则缺少可直接对照的官方指标。现有素材没有统一模型、机型和环境下的功耗温度数据，能比较的是测试边界，不是“谁最凉

阅读全文

Close-up of a smart glasses temple interior, showing a tiny chip module and thin battery with thermal heat-map colors

前沿研究

2026-07-14 06:07:14 0 阅读

70B模型塞进智能眼镜：光波导散热之外的软硬件协同死结

2026年AI眼镜密集上新，70亿参数模型已在手机端跑通，但塞进眼镜远不只是把芯片换小。异步量化推理能压内存，光波导和电池却卡住了系统调度。本文从算法、芯片、光学和功耗四条线索，拆解为什么"能跑"离"好用"还差一套工程协

阅读全文

Three smartphones resting on a traditional Japanese izakaya table among menu sheets and tea

技术应用

2026-07-13 04:33:50 0 阅读

2026暑期AI手机横评：三款旗舰的端侧多模态谁更懂生活

2026年暑期，iPhone 18、华为Mate 80与小米15 Ultra的端侧AI实测揭示了不同的技术取舍。苹果凭借稀疏架构实现极致能效，华为在中文多轮对话中展现深度理解，小米则以万亿参数模型提供强大的本地创意能力。

阅读全文

A conceptual editorial image showing a split composition of a cool, minimalist stone sphere representing efficient sparse calculation on one side, and a warm, i

前沿研究

2026-07-13 00:12:15 0 阅读

端侧AI开始算功耗账，苹果与高通走了两条路

苹果把省电做进约200亿参数的稀疏模型，高通则用混合精度降低推理能耗，并称骁龙8 Gen 4端侧大模型功耗下降40%。两套方案暂时缺少统一实测，38TOPS也不能代替持续运行时的温度、降频和适配成本。

阅读全文

A close-up editorial shot of a smartphone chassis with visible internal heat dissipation components, emphasizing thermal engineering.

前沿研究

2026-07-12 23:08:11 0 阅读

端侧大模型进了手机，苹果和安卓先算散热账

苹果用约200亿参数的稀疏模型减少单次激活，Pixel 10让Gemini Nano常驻端侧，小米MiMo-V2 Pro总参数超过1万亿。公开资料尚无统一温度与降频测试，能效高低还得看持续负载。

阅读全文

A conceptual editorial shot of a sleek smartphone resting on a dark surface, partially obscured by a translucent, fragmented geometric shield, symbolizing the t

前沿研究

2026-07-12 16:06:44 0 阅读

苹果WWDC后，端侧大模型如何绕开隐私雷区

2026年WWDC上，Apple Intelligence通过混合架构在端侧与云端之间走钢丝。自研3B模型配合私有云计算和差分隐私技术，苹果试图在算力与隐私间寻找平衡，但其对外包谷歌Gemini的依赖也引发了关于AI主权

阅读全文

A conceptual editorial image showing a compact, efficient chip next to a larger, overheating component, symbolizing the choice between 1.8B and 7B models.

前沿研究

2026-07-12 03:35:08 0 阅读

手机端 7B 模型跑通后，厂商为什么还在压缩 1.8B 小钢炮

2026年中端手机集体押注1.8B参数级模型，vivo、OPPO、荣耀先后推出相关机型。从内存占用、首字延迟、电池发热三个维度对比7B，1.8B在算力受限场景下实现了更优能效比。产业原因在于模型压缩技术成熟、芯片NPU专

阅读全文

A minimalist editorial still life showing a sleek smartphone resting on a dark dashboard surface next to a small, disconnected potted plant, symbolizing local v

前沿研究

2026-07-12 02:54:23 0 阅读

SU7 Ultra交付半年，车里的小爱聪明在哪

判断车机语音助手是否变聪明，关键看三件事：断网时能否完成车控、连续对话能否接住上下文、跨应用操作是否可靠。小米正把小爱推向智能座舱和“人车家”联动，但现阶段最稳的能力仍是车内高频操作，复杂代办还不能高估。

阅读全文

An older smartphone resting on a clean desk surface, next to neatly stacked metal blocks symbolizing compressed model weights.

AI 实操指南

2026-07-11 22:59:33 0 阅读

旧手机跑端侧大模型，量化和调度怎么选

把 Qwen2.5-3B-Instruct 或 Llama-3.1-8B 放进 iPhone 13、Redmi Note 12 Pro+，卡点通常落在内存、算子支持和持续发热。旧设备可先用 INT8 建立基线，再按内存压

阅读全文

Editorial photo of a slim smartphone on a dark surface with a melting ice cube beneath it, symbolizing hidden thermal costs of on-device AI.

前沿研究

2026-07-11 18:00:23 0 阅读

端侧7B大模型跑通后，手机厂商不敢说的内存与发热账单

2026年夏天，7B大模型在旗舰机上跑通已成常态，但内存占用和发热问题远比宣传复杂。实测三款旗舰机在连续对话下的内存与掉电数据，拆解手机厂商为了保住轻薄设计，在NPU调度策略上做的妥协。端侧AI的真实代价，才刚刚浮出水面

阅读全文

A miniature, highly detailed 3D-printed model of a complex city or circuit board is being carefully inserted into the open back of a smartphone, symbolizing the

前沿研究

2026-07-11 16:59:35 0 阅读

7B模型进手机，联发科和高通还差哪一步

Arm正推动移动AI从单点算力竞争转向整套计算栈协同。对联发科和高通来说，7B模型能否进入手机，关键还要看内存占用、软硬件适配和系统调度，现有公开材料尚不足以判断谁会率先落地。

阅读全文

站内搜索