前沿研究
Siri接入Gemini，苹果AI补上哪块短板
WWDC 2026上，苹果发布接入Google Gemini的新一代Siri，并把Apple Intelligence扩展到Safari、电话、照片、日历和捷径等系统服务。苹果没有把重点放在模型参数上，而是继续押注端侧处
阅读全文
Search
站内搜索
关键词：端侧推理
找到 39 篇相关文章
前沿研究
前沿研究
DeepSeek-R3之后，3B端侧小模型如何在一块手表上跑得飞快？
DeepSeek-R3等推理模型确立云端智能标杆后，3B参数小模型正借助TinyML、稀疏化和INT4量化技术，下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁，并探讨其对企业FinOps
阅读全文
开发者生态
玄铁C950跑通千亿大模型，RISC-V要抢x86和ARM的饭碗
3月24日，阿里达摩院发布玄铁C950，主频达3.2GHz，SPECint2006突破70，刷新RISC-V性能纪录。该芯片原生支持Qwen3、DeepSeek V3等千亿参数大模型，瞄准AI Agent场景，全志、瑞芯
阅读全文WWDC 2026：苹果把AI塞进芯片，Google来兜底
WWDC 2026上，苹果宣布新一代Apple Intelligence全面升级，核心策略是依托M系列芯片强化端侧推理，以减少对云端的依赖并保护隐私。为解决复杂任务算力不足的问题，苹果与Google深化合作。这一“混合智
阅读全文4小时烧掉52万：深圳电商促销Agent失控始末
2026年6月，深圳一家跨境电商因动态折扣Agent陷入死循环，4小时消耗52万元Token费。在Copilot转向Token计费与GPU利用率不足20%的背景下，企业亟需通过零信任隔离、多智能体仲裁等手段，解决Agen
阅读全文
前沿研究
手机端能效反超云端？Arm 2026新预测揭开端侧AI真相
2026年初，Arm发布20项技术预测，指出计算重心正从云端向边缘转移。随着Kleidi指令集优化异构计算，iPhone 19、小米16等机型在处理多模态任务时展现更高能效。相比云端GPU的高功耗与合规风险，端侧推理凭借
阅读全文iPhone 19 端侧跑 70B 模型：快、烫，且会算错数
在弱信号电梯里拆封即测iPhone 19 Pro Max的Apple Intelligence 2.0。70B模型首字1.2秒，离线全功能可用。但持续生成10分钟，手机发烫、降频至2.8秒，逻辑题答错两道。轻任务够用，复
阅读全文M5芯片跑128B模型：实测结果和未来展望
iPhone 19 Pro Max的M5芯片运行128B模型，首字延迟2.1秒，连续推理12分钟后速度腰斩，瓶颈在内存带宽，苹果的分层调度方案可能是最优解
阅读全文iPhone 19 运行 70B 模型实测：发热与延迟的妥协
实测显示，搭载 M5 芯片的 iPhone 19 在运行 70B 模型时，首字生成需 1.2 秒。但连续高负载 10 分钟后，因温度触及 65℃ 触发 NPU 降频，延迟飙升至 5 秒以上。Apple Intellige
阅读全文端侧模型省电了，但App开发者为什么还在抗拒接入NPU？
2026年端侧推理能效比已大幅提升，但开发者仍面临算子适配碎片化、量化精度丢失及内存带宽瓶颈。本文通过架构师访谈，揭示NPU落地背后的工程困境与真实成本。
阅读全文NPC学会撒谎和背叛后，游戏逻辑崩了，玩家却上头了
在《星渊回响》里骗过一个NPC后，我意识到游戏变了。NPC不再背诵台词，而是察言观色、博弈甚至撒谎。这种自主性带来了200毫秒内的自然交互和更高的留存率，但也让传统剧情逻辑随时面临崩塌。
阅读全文苹果深圳新实验室不招大模型，只盯硬件省电
2026年6月，苹果在深圳南山设立AI实验室，首批12个岗位避开大模型预训练，聚焦端侧推理与硬件协同。受M5 MacBook实测续航痛点驱动，苹果试图通过驻厂迭代解决功耗难题。此举不仅推高端侧AI工程师薪资至80-150
阅读全文