Baseten调价后，昇腾910D和B200的账怎么比
Baseten披露，B200租赁单价将从2.63美元/卡/小时调至5.10美元，批量交付周期也被拉长。公开材料却没有给出昇腾910D的同口径报价、带宽和功耗，这笔TCO要先分清已知项、迁移费和待核数据。
阅读全文
Search
站内搜索
关键词：功耗
找到 102 篇相关文章
前沿研究
Arm押注代理式AI，手机常驻Agent仍卡在功耗上
Arm在Computex 2026上因Agent AI崛起推出首款AGI CPU，但手机端常驻Agent仍面临锁屏功耗、内存访问和异构调度三重功耗墙。中金预测2027年AI手机渗透率40%，但常驻Agent尚无明确时间表
阅读全文
前沿研究
端侧AI开始算功耗账，苹果与高通走了两条路
苹果把省电做进约200亿参数的稀疏模型，高通则用混合精度降低推理能耗，并称骁龙8 Gen 4端侧大模型功耗下降40%。两套方案暂时缺少统一实测，38TOPS也不能代替持续运行时的温度、降频和适配成本。
阅读全文
前沿研究
端侧 Agent 怎么省电？关键是少让 CPU 介入调度
端侧 Agent 的耗电不只看推理速度，还要看任务切换时 CPU 被叫醒多少次。Arm 用 CPU、GPU、NPU 分工处理不同负载；“周易”X3 公布的最低 0.5% CPU 负载，指向的是调度开销，不是整机功耗。
阅读全文
前沿研究
端侧 Agent 先过电量关：手机系统为何必须重做调度
Agent 会连续感知、推理、调用工具并写回结果，耗电分散在唤醒、保活、温控和任务切换中。公开资料尚未显示手机厂商已有统一方案，但只谈 NPU 峰值算力，解释不了端侧 Agent 的真实续航。
阅读全文
前沿研究
Arm高管眼中的AGI：低功耗芯片如何重塑端侧AI代理
2026年，AI代理从云端走向端侧，功耗成为关键瓶颈。Arm高管频频发声，强调能效是下一阶段竞争焦点。从Arm AGI CPU的发布到20项技术预测，本文梳理Arm的低功耗设计哲学如何影响手机与PC芯片的本地推理性能，并
阅读全文
前沿研究
从蒸馏到结构化剪枝，2026年模型压缩怎么选
模型文件变小，不等于端侧推理更快。量化压低位宽，蒸馏训练更小的学生模型，结构化剪枝直接改变网络形状。面向2026年的部署，算子支持、内存访问和持续功耗比单看压缩率更有参考价值。
阅读全文
前沿研究
端侧7B大模型跑通后，手机厂商不敢说的内存与发热账单
2026年夏天，7B大模型在旗舰机上跑通已成常态，但内存占用和发热问题远比宣传复杂。实测三款旗舰机在连续对话下的内存与掉电数据，拆解手机厂商为了保住轻薄设计，在NPU调度策略上做的妥协。端侧AI的真实代价，才刚刚浮出水面
阅读全文
前沿研究
Arm 更新移动 AI IP 后，手机厂开始重算端侧模型能跑多大
Arm 在 2026 年 6 月更新移动 AI 架构路线图后，旗舰手机端侧大模型的参数竞赛被按下暂停键。厂商宣传的“百亿参数端侧运行”在功耗墙、内存带宽和实际可用容量面前，需要重新算账。本文拆解 2026 年下半年旗舰
阅读全文
技术应用
小米 SU8 端侧大模型首测：车机对话断网还能聊几轮
小米SU8搭载的端侧大模型在隧道、地下车库等断网场景下实测：连续对话续航超过40轮，响应延迟稳定在580毫秒以内，功耗增幅控制在8%以下。对比蔚来NOMI云端方案和理想Mind GPT混合架构，SU8的离线能力优势明显，
阅读全文
前沿研究
Arm加速端侧AI，手机推理延迟仍缺一个可靠数字
Arm正把SME2扩展到更多CPU平台，并强调内存、功耗和持续运行能力。但现有公开素材没有给出7B模型首Token延迟，也不足以证明手机端已达到150—300毫秒。
阅读全文
产业动态
Arm把端侧AI芯片的焦点拉回内存与系统设计
端侧大模型进入手机和PC后，芯片性能已不能只看TOPS。Arm推出Lumex CSS并引入SME2，试图从CPU、GPU、系统IP和数据搬运入手，缓解算力、内存与功耗之间的牵制。
阅读全文