M5芯片入局：iPhone 19的端侧AI，真的能省掉云端吗
Apple M5芯片NPU算力预计达100-200 TOPS，配合LPDDR6X内存，使70B参数模型在iPhone 19上的首字延迟降至1.2秒。虽然散热仍限制持续高负载，但苹果通过动态量化实现“端云协同”。这不仅关乎
阅读全文
Search
站内搜索
关键词：端侧AI
找到 151 篇相关文章
iPhone 17 跑 AI 发烫？三款 2026 旗舰散热实测
2026 年旗舰机运行本地大模型时，散热成为体验分水岭。实测显示，iPhone 17 Pro 在持续推理 15 分钟后帧率骤降，Pixel 10 靠石墨均热板维持较稳输出，Galaxy S27 Ultra 则需开发者模式
阅读全文苹果深圳新实验室不招大模型，只盯硬件省电
2026年6月，苹果在深圳南山设立AI实验室，首批12个岗位避开大模型预训练，聚焦端侧推理与硬件协同。受M5 MacBook实测续航痛点驱动，苹果试图通过驻厂迭代解决功耗难题。此举不仅推高端侧AI工程师薪资至80-150
阅读全文三星S26 Ultra的AI，打电话翻译和开会记笔记够用吗？
用S26 Ultra打了一通22分钟的中英商务电话，又开了63分钟团队会。端侧AI在隐私和速度上确实快，但翻译在对方语速快时容易出错，会议纪要也会把随口说的话当成行动项。它是个不错的隐私型速记员，但别指望它当万能助理。
阅读全文三款旗舰芯片跑7B大模型，谁最省电？实测数据来了
我们用同一套7B模型（Qwen3-7B量化版），在骁龙8 Gen4、天玑9400、麒麟9100三款旗舰机上测了连续对话的功耗、温度和速度。结果挺意外：麒麟最快但最费电，天玑最省电，骁龙比较均衡。下面直接上数据。
阅读全文900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文千元机跑大模型：Qwen3-Lite和Llama 4，实测谁更实用？
我们在一台骁龙7 Gen 3中端机上实测了Qwen3-Lite和Llama 4。结论很明确：对端侧AI来说，1秒内的响应、低于15%的小时耗电、不烫手的温度，比模型跑分重要得多。小模型在续航和发热上优势明显，这才是能否用
阅读全文把3B模型塞进树莓派5：延迟、内存和功耗，我们实测了一遍
一个1.5B的蒸馏模型，在骁龙8 Gen 3手机上推理128个token需要150毫秒，在树莓派5上处理256个token则要1.2秒。我们用VibeThinker-3B等模型，在安卓手机和树莓派上对比了ONNX Run
阅读全文端侧AI芯片怎么选：先想清功耗、模型和耐心
选型别只看TOPS算力。这篇文章从功耗约束、模型特性和开发工具链三个实际角度出发，结合寒武纪、地平线、瑞芯微等国产芯片案例，梳理出一套务实的选型框架，帮你避开纸面性能的坑。
阅读全文AI Agent元年过半：从技术狂热到务实落地，2026下半年关键挑战与机会分析
2026年上半年，AI Agent技术从概念验证快速进入企业级应用与个人助手探索期，但规模化落地面临成本、可靠性、合规及商业模式等核心挑战。本文基于最新行业数据与案例，深入剖析上半年发展态势，分析企业与个人场景下的现实瓶
阅读全文端侧AI Agent 2026年下半年实战：在骁龙X Elite笔记本上本地部署与运行‘办公助手’全流程指南
本指南针对2026年主流的高通骁龙X Elite AI PC，详解如何从零开始本地部署一个具备邮件处理、日程管理及文档分析能力的端侧AI Agent。涵盖环境配置、模型选型、Agent框架构建、隐私保护与离线优化全流程，
阅读全文2026年中AI人才市场震荡与重塑：超越算法，复合型人才与新兴岗位需求深度报告
2026年AI人才市场正经历结构性变革。传统算法岗需求萎缩，而具备业务理解、系统工程与合规能力的复合型人才成为刚需。报告深度剖析裁员潮背后的技术范式转移，解读AI Agent、具身智能、端侧AI等新兴领域催生的全新岗位图
阅读全文