Arm v10 架构在端侧AI的实测:手机运行 10B 模型还发烫吗
2026年7月实测表明,手机运行10B参数模型已从「不能跑」跨到「可以跑」,但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化,持续推理功耗降至4.8W,温度约45℃;但Agent场景连续调用仍会堆积热量。文章引
阅读全文关键词:架构
2026年7月实测表明,手机运行10B参数模型已从「不能跑」跨到「可以跑」,但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化,持续推理功耗降至4.8W,温度约45℃;但Agent场景连续调用仍会堆积热量。文章引
阅读全文“通通”2.0继续强调认知与推理,TongAgents则把任务拆解、执行反馈和动态改计划做成系统能力。现有公开资料能确认架构与榜单成绩,但无法证实华东仓储首次落地及相关效率数据。
阅读全文“香山”C950和报道所称的“25%”把RISC-V推到台前,但端侧AI的胜负不会只由指令集决定。Arm的优势在系统集成、安全隔离和成熟工具链,RISC-V则靠开放与定制切入AIoT、车载与工业场景。
阅读全文分析 RISC-V 架构如何通过自定义指令集和向量扩展(RVV)优化量化 LLM 部署,探讨其在车载座舱和工业传感器场景中解决功耗发热痛点、实现毫秒级响应的工程路径。
阅读全文2026年4月,腾讯云开发者社区发文称Prompt工程师薪资已较2024年高点下跌超40%,MCP协议普及让工具调用标准化,但复杂任务的自主规划成为新瓶颈。本文拆解ReAct、Plan-and-Execute等框架的架构
阅读全文2026年7月,MCP联合创始人dsp_在AI Dot Engineer Europe定调MCP为Agent生产落地的“胶水层”。本文从LangGraph、AutoGPT等框架对MCP的支持入手,直接演示如何将企业内部A
阅读全文2026年Q2起,AWS、Azure与阿里云等巨头密集下调AI算力价格。本文通过拆解数据中心PUE、GPU利用率曲线及Oracle等厂商的财报,揭示降价并非简单的市场竞争,而是液冷普及降低电力成本与推理架构优化提升利用率
阅读全文2026年端侧大模型进入规模化落地期,Arm高管指出移动芯片的真正瓶颈并非TOPS堆叠,而是总线与内存带宽。苹果AFM 3用稀疏架构规避访存,行业从拼算力转向拼架构命中率。
阅读全文实地探访华东某8000P算力园区,以运营工程师视角拆解一张高达860万的月度电费单。文章深度复盘高密机柜的功率约束,对比冷板式与浸没式液冷架构在不同IT负载下的真实PUE表现,并揭示算力闲置期因底座设备空转造成的结构性能
阅读全文MoE 模型的万亿参数竞赛并未带来推理端的红利,反而因专家权重全量驻留引发的显存碎片化和访存瓶颈,让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题,并结合昇腾等厂商的最新无损优化方案,探讨从算子调度到底层
阅读全文Arm官方把移动AI放在CPU、CSS和IP协同的整套平台中。现有素材不足以证明“能效提升40%”;手机端模型能否跑稳,主要看量化格式、内存占用、算子回退和持续功耗。
阅读全文把“大概做个类似淘宝”交给 Cursor、GitHub Copilot 和通义灵码,三款工具都没急着铺代码:Cursor 拆模块,Copilot 搭架构,通义灵码先问 C2C 还是 B2C。它们省下的不是思考,而是把含糊
阅读全文