凌晨两点，用手机本地助手总结一份长文档。刚开始很顺，字一个接一个往外冒，响应也快。可过了一会儿，机身开始发热，输出慢下来，后台应用也变得迟钝。端侧AI手机真正难的，往往不是最开始那几十秒。
现在最容易被记住的指标，还是峰值速度。
投资界报道提到，2025年7月世界人工智能大会上，OPPO展示了端侧模型峰值出字速度达到200 token/s，并支持128K超长文本。放到实际场景里，单设备可以本地处理约300页书籍内容。
这个演示有分量。它说明手机本地跑大模型，已经不只是概念验证。但用户每天遇到的场景更碎，也更磨人：连续问答会不会越来越慢，长文总结会不会中途卡住，离线时能力会不会打折，发热以后还能不能稳住。
峰值速度只是开场
端侧AI这波热度，不是单一技术突然突破。
钛媒体在《AI芯片新战场：从拼算力到拼能效，端侧浪潮下的众生相》中提到，端侧AI芯片在2025年显露出资本与产业的双重热潮，背后有AI算法轻量化、专用NPU架构成熟，以及下游应用生态爆发。手机厂商、芯片厂商、应用开发者，都在往端侧投入资源。
但手机不是服务器。
一部手机里，屏幕、影像、通信、游戏、续航和AI推理要共享同一套空间和功耗预算。NPU算力再高，也要受内存带宽、缓存、温控和电池约束。发布会上的TOPS能说明芯片上限，却不能直接代表日常体验。
一句话摘要、长文生成、文档问答、多轮Agent任务，负载差别很大。短任务可以靠瞬时性能冲过去；长任务会持续占用计算和内存读写，时间一拉长，系统调度和功耗控制就会被放大。
所以端侧AI手机的评测，不能只看一次跑分。更值得看的，是持续推理：跑多久开始降速，降速后还能不能稳定输出，系统有没有悄悄把任务切到云端，用户会不会感到中断。
NPU算力高，还得会分活
端侧AI手机常被拿来比NPU算力。这个指标有用，但它只是入口。
大模型要部署到手机上，通常绕不开量化。模型被压到端侧能承受的体积，才可能进入产品。可模型变小，不代表执行过程就简单。NPU要在计算单元、内存访问和缓存之间安排任务；系统还要判断，哪些交给NPU，哪些交给CPU或GPU，哪些压根不适合在本地硬跑。
天玑9500这类旗舰平台会被放进端侧AI讨论里，原因也在这里。手机厂商需要的不是单纯更高峰值，还需要更细的调度能力。一个本地助手如果同时处理语音、文本、图片和系统指令，调度跟不上，用户看到的就是等待、卡顿、发热，甚至任务中断。
用户不会关心NPU怎么排队，也不会研究模型怎么量化。他们只会记得几件事：刚开始很快，后来变慢；短问题没压力，长问题吃力；联网时还行，离线时差一截。
端侧AI从演示走向量产手机后，这种落差会越来越明显。
发热会直接改写体验
端侧AI还有一个很硬的限制：热。
云端大模型可以依赖机房、服务器和完整散热系统，手机不行。手机内部空间有限，外壳又直接贴着手掌。只要持续高负载，系统就必须在性能、温度和续航之间取舍。
这也是“拼能效”变得关键的原因。钛媒体那篇产业深度把端侧AI芯片的新战场概括为从拼算力到拼能效，放在手机场景里很贴切。端侧AI不只是某一瞬间跑得快，还要在有限电量和有限散热空间里持续工作。
用户感受到的“前快后慢”，很多时候不是模型突然变差，而是系统开始控温。芯片降频、任务切换、输出变慢，都是手机保护硬件和手感后的结果。
看端侧AI手机，或许更应该借鉴游戏手机的长期帧率思路。峰值出字速度能证明上限，持续输出能力才更接近日常使用。
端侧和云端会长期共存
端侧AI受欢迎，理由很直接：低延迟、离线可用，隐私也更容易控制。
智东西在关于AI手机和联发科的文章中提到，云端AI虽强，但延迟、网络依赖和隐私风险会影响用户体验。放到手机上，这些问题很具体。地铁里网络不稳，出差时信号差，处理私人笔记或敏感文档时，用户都会希望一部分任务能在本地完成。
但手机也没必要把所有任务都揽下来。
更现实的做法是端云协同。简单、敏感、需要快速响应的任务优先在端侧处理；复杂、耗时、算力要求高的任务交给云端。难点不在概念，而在切换是否自然。
如果用户问一个问题，手机本地算到一半，突然弹出“正在连接云端”；或者云端返回后，本地上下文接不上，体验就会断掉。端云协同做得好，用户不该总是意识到任务在哪里计算，只会感觉它稳定、及时，也不会乱传不该传的数据。
买AI手机，别只看发布会指标
端侧AI手机正在进入一个更现实的阶段：可展示能力越来越强，产品细节也越来越难糊弄。
200 token/s、128K上下文、7B参数级模型，这些指标还会继续出现在发布会里。它们有参考价值，但不够。
真正影响日常使用的，是另一组问题：长时间推理稳不稳，离线时到底能做什么，发热后性能掉得明不明显，端云切换有没有清楚的隐私说明。
对厂商来说，继续堆算力当然有必要，但单靠峰值很难形成长期优势。NPU调度、模型量化、系统级功耗管理、端云策略，才是端侧AI体验的分水岭。
AI手机跑得快是好事。更难的是，连续跑、离线跑、发热后还跑得稳。只有过了这一关，端侧AI才会从发布会亮点变成用户每天愿意打开的功能。
