技术应用
iPhone 18跑13B模型：1.8秒延迟背后，A20的算力与妥协
在iPhone 18 Pro本地运行13B量化模型AFM3，首字延迟1.8秒，背部最高温达41.5℃。台积电2nm工艺与WMCM封装让端侧算力大增，但苹果仍用“混合智能”策略将重负载推向云端。
阅读全文
Search
站内搜索
关键词：大模型
找到 295 篇相关文章
技术应用
别只盯着iPhone 19：端侧大模型在旧设备上的真实生存指南
当iPhone 19的M5芯片与千亿参数成为头条时，数十亿存量旧设备正被遗忘。本文实测Gemma 2 2B在iPhone 15（A16芯片）上的表现，揭示4-bit量化与Core ML框架如何解决内存与算力瓶颈。结合深圳
阅读全文蚂蚁成立AGI部，何征宇挂帅：不做参数竞赛，只做“扫码级”AI
2025年4月，蚂蚁集团成立AGI部门，由CTO何征宇直管，标志着其从纯金融科技向通用AI延伸。蚂蚁摒弃参数规模竞赛，坚持“通用技术+垂直场景”路线，重点深耕风控语义理解、合规智能投顾及办事型客服三大高频场景。同时，公司
阅读全文苹果M5芯片发布：iPhone 17将如何重塑端侧AI体验
M5芯片让GPU AI性能实现4倍跃升，为端侧运行70B大模型奠定硬件基础。iPhone 17 Pro将首发该体验，标准版无缘。本地推理不仅带来零边际成本的隐私安全，更是对抗云端API失控风险的终极防线。
阅读全文银行反欺诈迁移昇腾910D：从120毫秒延迟到18毫秒的工程实战
2025年中，某股份制银行将GNN反欺诈系统迁移至昇腾910D时遭遇严重延迟问题。通过Ascend C定制算子优化内存访问，并利用盘古大模型生成合成数据进行量化感知训练，团队历时两个月将平均延迟压至18毫秒，同时保持高精
阅读全文库克的最后一场WWDC：端侧算力与云端的博弈
2026年WWDC，库克主持最后一届大会。iOS 19重构Apple Intelligence 2.0，试图摆脱对谷歌Gemini的依赖，转向端侧NPU计算。然而，硬件算力的物理极限与开发者适配的成本，让这场隐私保卫战充
阅读全文关掉Wi-Fi跑70B模型：手机端侧算力的真实账本
DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配，展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能，但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文车企智驾内卷2.0：端到端大模型上车后，接管率真的降了吗？
2026年，端到端模型在智驾领域成为标配，但“幽灵刹车”与异形障碍物识别依然是行业痛点。基于第三方路测数据，深度拆解特斯拉、华为、小鹏等主流车型的接管率真相，揭示自动驾驶从“拼算力”到“拼系统配合”的内卷下半场。
阅读全文端侧AI手机2.0：NPU算力翻倍后，哪些App真正跑起来了？
2026年，端侧AI进入实效期。本文实测iPhone 19、小米16、华为Mate 70，对比本地笔记摘要、实时翻译与私密相册分类体验。揭示NPU算力提升后，隐私计算与离线可用性带来的真实差异，以及端侧应用开发的能效陷阱
阅读全文AGI大会后的冷思考：医疗AI如何跨过“幻觉”这道坎
2026年6月上海AGI大会上，1000颗昇腾910C跑通万亿参数模型，展示了工程能力的极致。但在医疗诊断中，通用大模型的“幻觉”是致命伤。联影智能提出从“感知”到“专业”的进化路径，商汤林达华强调多模态是基石但需夯实。
阅读全文端侧大模型变了：从拼参数到拼系统配合
2026年，端侧AI竞争焦点从模型压缩转向软硬件协同。苹果WWDC2026发布AFM3系列，强调结构与芯片的配合；安卓阵营则在算力堆料与量化适配上寻找突破口。行业人才需求也从基础算法转向系统级优化。
阅读全文
前沿研究
实测A19 Pro：跑70B大模型，iPhone终于不烫了
iPhone 19 Pro Max搭载A19 Pro芯片，实测连续运行70B本地大模型15分钟背部温度稳定61℃，全程无降频。VC均热板和二级缓存翻倍是散热质变的关键。标准版仍有限制，重度AI用户建议Pro Max。
阅读全文