端侧大模型变了：从拼参数到拼系统配合
2026年，端侧AI竞争焦点从模型压缩转向软硬件协同。苹果WWDC2026发布AFM3系列，强调结构与芯片的配合；安卓阵营则在算力堆料与量化适配上寻找突破口。行业人才需求也从基础算法转向系统级优化。
阅读全文
Search
站内搜索
关键词：量化
找到 118 篇相关文章
库克最后一届WWDC：国行AI缺席，国产端侧突围
2026年6月9日，库克主持最后一届WWDC，Apple Intelligence 2.7发布。全新Siri引入Google大脑，但受限于数据合规，国行iPhone 19仍无法使用。与此同时，百度、阿里、科大讯飞等国内厂
阅读全文2026 医疗 AI 监管红线：FDA 新规下诊断辅助软件的审批实录
2026年6月6日FDA发布AI医疗器械生命周期管理新指南草案，确立PCCP和TPLC框架。本文以梅奥诊所REDMOD AI为例，拆解临床验证、偏差控制、可解释性与持续学习监控的具体量化要求，为医疗AI出海企业提供对标参
阅读全文iPhone 19实测：70B模型首字1.2秒，65℃后只剩妥协
实测iPhone 19 Pro Max搭载M5芯片，本地70B大模型首字响应仅1.2秒，数据不出端。但连续高负载10分钟即触65℃温控红线，延迟飙至5秒，远不及三星S26 Ultra的20分钟稳定。跨App多步任务因切换
阅读全文苹果M4 Ultra芯片实测：端侧运行300B参数模型真的可行吗
M4 Ultra凭借32核CPU和80核GPU及统一AI任务队列，理论上可加载300B量化模型，但内存带宽和散热仍是瓶颈。本文结合iPhone 19跑70B降频教训，分析M4 Ultra在超大规模模型部署中的真实能力与局
阅读全文把卷积层塞进iOS 20：端侧70B模型省电30%的三个野路子
iPhone 17 Pro 本地跑 70B 模型 10 分钟就烫到降频怎么办？本文实测三种非常规优化手段：动态精度切换（保持 95% 精度功耗降 25%）、iOS 20 智能内存交换（省带宽 20%）、以及用 1x1 卷
阅读全文M5 iPad Pro本地跑30B模型，文档摘要200毫秒
搭载M5芯片的iPad Pro首次在iPadOS 19上本地运行30B参数大模型，文档摘要延迟仅200毫秒，比云端快1.2-3秒。苹果通过INT4量化将模型压缩至15GB，配合16核神经网络引擎和翻倍的内存带宽实现这一突
阅读全文MacBook实测13B模型：全精度烫手，INT8才是移动办公正解
MacBook Pro 14 M5芯片实测13B模型：全精度运行58分钟，键盘温度46℃，续航不足2小时。INT8量化后速度54 tokens/s，功耗13W，续航2小时1分，能流畅跑本地智能体工作流。量化是关键。
阅读全文70B模型本地实测：iPhone 17 Pro的0.8秒与10分钟
在iOS 20开发者预览版中，iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行，首字延迟0.8秒。但连续复杂推理10分钟后，手机温度飙至65℃，性能大幅降频。苹果用三层意图分流机
阅读全文iPhone 17 Pro实测：本地Agent跑通了，但散热墙难破
我们在iPhone 17 Pro上实测了Apple Intelligence 2.0。A19 Pro芯片用INT4量化让大模型本地跑，日常指令没问题，但复杂任务偶尔会算错。连续跑跨App任务后，手机很烫，性能就掉下来。现
阅读全文iPhone 19 运行 70B 模型实测：发热与延迟的妥协
实测显示，搭载 M5 芯片的 iPhone 19 在运行 70B 模型时，首字生成需 1.2 秒。但连续高负载 10 分钟后，因温度触及 65℃ 触发 NPU 降频，延迟飙升至 5 秒以上。Apple Intellige
阅读全文液冷服务器功耗骤降30%：2026数据中心绿色转型的财务账本
2026年夏季高温叠加AI算力爆发，数据中心PUE成为生死线。本文拆解阿里云、腾讯云及AWS新一代浸没式液冷部署实测数据，对比风冷与液冷在电费、机柜密度上的ROI。结合昇腾910C等国产算力集群的适配成本，算清从“卖算力
阅读全文