千元机跑大模型：Qwen3-Lite和Llama 4，实测谁更实用？
用一台1999元的手机，本地跑通一个70亿参数的模型——去年这还是技术极客的玩法，现在已经是厂商和AI公司的新战场。我们用一台2026年618期间销量靠前的中端机（型号保密），装上刚发布的Qwen3-Lite（3B）和Llama 4 Scout（16B的4-bit量化版），实际用了三天。
直接说结论：端侧大模型想让用户用起来，必须过三关——响应在1秒内、一小时耗电低于15%、发热不烫手。
我们怎么测的
测试机配置：骁龙7 Gen 3，12GB RAM，5100mAh电池，Android 16。推理框架用MLC-LLM的v0.1.103版本，量化工具是官方的AWQ。这个组合是目前中端机跑大模型的主流方案。
选这两个模型有原因：Qwen3-Lite是阿里云2026年Q1出的端侧专用模型，主打小尺寸、快响应。Llama 4 Scout是Meta在2026年4月开源的，参数更大但经过量化。它们代表了端侧的两条路：一个追求“足够小”，一个追求“能力全”。
三个场景实测
1. 实时翻译
播放一段3分钟的BBC新闻，让手机实时转写翻译。Qwen3-Lite平均首token延迟320毫秒，整段花了4分12秒，准确率约89%。Llama 4 Scout延迟到了1.2秒，整段5分50秒，但准确率有92%。发热差距明显：跑完后，Qwen3-Lite让手机背面从28°C升到39°C；Llama 4 Scout直接到45°C，手持已经不舒服。
2. 会议纪要
用了一段47分钟的会议录音。Qwen3-Lite生成结构化纪要耗时3分18秒，能提取80%的关键决策点。Llama 4 Scout耗时4分50秒，提取率88%，但中间有卡顿，内存占用一度接近11GB。对比云端的通义千问API（1分10秒，提取率95%），端侧模型处理长音频的优势不在速度，而在数据不出端的隐私需求。
3. 图像理解
拍一张办公桌照片，问“桌上有什么”。Qwen3-Lite在800毫秒内准确识别出三样物品。Llama 4 Scout用了1.5秒，但多给了一个细节（虽然不一定对）。两者差距没有语音场景大，瓶颈可能在图像编码器。
功耗和发热是硬指标
一小时综合测试下来：
- Qwen3-Lite耗电12%，温度稳定在38-40°C
- Llama 4 Scout耗电21%，温度在42-46°C
5100mAh电池，如果每天用端侧AI一小时，Qwen3-Lite能让手机撑到晚上；Llama 4 Scout下午就得找充电器。功耗，是端侧体验的生死线。
哪些场景可能先落地？
基于实测，我们认为不是“全能助手”，而是垂直、高频、对延迟容忍在1秒内的任务：
离线实时翻译：出国、开会时“无网络也能用”是真实需求。Qwen3-Lite的延迟已进入可用区间。
私密会议纪要：律师、高管等对数据敏感的用户，愿意为隐私多等一会儿。Llama 4 Scout提取率高，但功耗和发热是门槛。
即时图像问答：“这花叫什么？”“药盒上写的啥？”这类请求对响应速度要求高，Qwen3-Lite的800毫秒响应接近可用。
一个反直觉的结论：在端侧场景，模型“小”比“强”更重要。 用户不会拿着发烫的手机等3秒。Qwen3-Lite用一些准确率损失，换来了翻倍的续航和随时可用的温度，这笔账在中端机用户这里算得过来。
给开发者的提醒
量化不是万能药。 4-bit量化能让16B模型跑起来，但发热问题本质是计算量，量化解决不了。
内存管理是关键。 12GB RAM的手机，系统占掉一半，留给模型的只有6-7GB。3B-7B模型是目前中端机的安全区。
功耗预算要提前算。 别等用户投诉“手机烫”才反应。建议把“单次AI调用耗电不超过0.5%”作为硬指标，倒推模型选择。
端侧大模型的战场规则很清楚：不是比谁模型大，而是比谁能让用户忘记背后有个模型在跑。
