技术应用
iPhone 18跑13B模型：1.8秒延迟背后，A20的算力与妥协
在iPhone 18 Pro本地运行13B量化模型AFM3，首字延迟1.8秒，背部最高温达41.5℃。台积电2nm工艺与WMCM封装让端侧算力大增，但苹果仍用“混合智能”策略将重负载推向云端。
阅读全文
Search
站内搜索
关键词：3B模型
找到 24 篇相关文章
技术应用
38位用户半年实测：骁龙8 Gen 5与天玑9500的AI表现
发布七个月后，38位用户实测数据揭晓：天玑9500在7B模型能效领先15%，但13B模型降频严重；骁龙8 Gen 5生态更成熟，AI Agent完成率达82% vs 64%。端侧AI选芯要看7B还是13B、轻AI还是重A
阅读全文MacBook实测13B模型：全精度烫手，INT8才是移动办公正解
MacBook Pro 14 M5芯片实测13B模型：全精度运行58分钟，键盘温度46℃，续航不足2小时。INT8量化后速度54 tokens/s，功耗13W，续航2小时1分，能流畅跑本地智能体工作流。量化是关键。
阅读全文半年端侧实测下来，NPU的能效比到底卡在哪
跑了半年端侧模型，三星S26 Ultra通话翻译22分钟续航不崩，MacBook M5跑13B模型键盘飙到46℃。结论不浪漫：手机AI的瓶颈不在TOPS，而在内存带宽和散热。量化能救一半，手表那1W功耗墙基本无解。
阅读全文端侧模型卷进智能手表：跑18小时AI，交了多少电税
3B模型在手机跑通后，更小的参数开始下沉到智能手表。实测发现，1.5B模型在手表上每次深度交互耗电超1%，5分钟升温触发降频。在1W功耗和内存带宽限制下，手表AI目前只能做端云折衷，专攻健康监测等窄场景才是出路。
阅读全文3B模型打赢70B的秘密：小模型在手机端的真实表现
我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现，覆盖推理速度、功耗、发热和多任务影响。测试发现，在特定任务上，3B模型已能提供媲美云端大模型的流畅
阅读全文3B模型打败70B，靠的是什么
2026年，VibeThinker-3B模型在基准测试上逼近甚至超越70B大模型，引发行业关注。文章聚焦小模型在端侧推理中的现实路径，对比蒸馏、量化、SFT和GRPO等技术，并探讨企业如何在成本、性能和特定场景间找到平衡
阅读全文实测：在8GB手机上跑7B大模型，后台应用直接被清空
我们用搭载骁龙8 Gen 4和A18 Pro的旗舰机，实测了本地运行7B-13B参数模型时的内存占用、发热和电池影响。iOS 18的“智能压缩”和Android 15的“动态优先级调度”各有侧重，但8GB内存机型运行13
阅读全文用二手3060显卡，我跑通了3B模型的微调
一张12GB显存的二手RTX 3060，能不能微调30亿参数的模型？我们用开源工具Unsloth、Axolotl和LLaMA-Factory，在杭州一个电商团队的客服场景里做了实测。结果发现，成本不到十块钱，耗时约一小时
阅读全文把3B模型塞进树莓派5：延迟、内存和功耗，我们实测了一遍
一个1.5B的蒸馏模型，在骁龙8 Gen 3手机上推理128个token需要150毫秒，在树莓派5上处理256个token则要1.2秒。我们用VibeThinker-3B等模型，在安卓手机和树莓派上对比了ONNX Run
阅读全文我在本地跑了一套开源流水线：会议结束，任务自动分配
用n8n、Whisper.cpp和本地运行的3B模型，在一张二手RTX 3060上搭了一条自动化线。会议录音自动生成待办，15分钟内分发给团队成员，全程数据不出本地。软件零成本，硬件约1500元。
阅读全文8GB显卡跑3B模型：2026年本地部署的硬件与软件配置清单
这是一份基于2026年开源工具链的实操配置。它告诉你如何在RTX 3060 12GB或同级显卡上，用llama.cpp和Q4_K_M量化稳定运行VibeThinker-3B等模型，并完成从微调到部署的全流程。
阅读全文