42 轮之后,SU8 的语音助手开始“忘事”。
不是完全宕机,而是上下文丢了。你在第 12 轮说“导航去刚才那个商场”,到第 28 轮它已经不知道“刚才”指什么。我们在地下车库三层、蜂窝和 WiFi 全关的条件下连续测了三组场景——导航改址、音乐点播、空调车窗组合指令——轮次上限在 42 到 48 之间浮动,但这不是固定值。
关键变量是对话内容的“信息密度”。短指令(“空调 23 度”“切到 FM 103.9”)能撑到 48 轮以上;一旦穿插“推荐附近评分 4.5 以上、人均 200 以内的粤菜馆”这类需要本地知识库检索的复杂查询,上限直接掉到 35 轮左右。原因出在端侧模型的动态 KV 缓存压缩机制——它会主动遗忘对话中不再被引用的信息段,节省本地内存。这在手机端够用,但车里你可能在第 20 轮突然提一句“上次那家川菜馆”,而“上次”的信息早在第 7 轮就被压掉了。
这和蔚来 NOMI 的云端方案(断网即失效)以及理想 Mind GPT 的混合架构(离线约 15-20 轮后降级为规则引擎)拉开了明显差距。SU8 的端侧推理是真正把主路径放在车机 SoC 上跑的,背后是小米从 2024 年 MiLM2 到 2025 年 MiMo、MiDashengLM-7B 这条轻量化路线(据 i 黑马 2026 年 3 月报道,小米正在推进“全模态模型”进入手机和车机,方向仍是把模型塞进设备里做能力底座)。
语音唤醒慢了 100 毫秒,但原因不在网络
首测里 580 毫秒的响应延迟指的是“从语音输入结束到给出回答”。车主日常更敏感的其实是唤醒环节。
SU8 的语音唤醒走两级检测:一级是始终在线的低功耗 DSP 关键词检测,二级是端侧模型加载后的意图识别。实测从说出“小爱同学”到系统开始推理,延迟在 320-480 毫秒之间,比云端方案(通常 200-350 毫秒)慢了约 100 毫秒。
这多出来的 100 毫秒不是网络问题,而是端侧模型每次唤醒需要从存储加载权重到内存——类似手机端侧 AI 在相册搜索时的“冷启动”。如果连续对话间隔超过 30 秒,模型自动休眠省电,下次唤醒就要重新加载。一个实际影响:快速打断和连续指令切换时,端侧比云端更容易“听错”。我们测试中发现,用户在模型加载期间(唤醒后前 200 毫秒内)说出指令,约 12% 的概率被截断或误识别。适应办法很简单——唤醒后停顿半秒再说话,成功率大幅提升。
离线唤醒成功率在地下车库约 92%,高速隧道约 88%。唤醒失败后自动降级到物理按键唤醒,不需要联网。这个冗余设计在断网场景下很实用。
本地缓存 72 小时,但“一键清除”还没做
隐私是端侧模型的核心卖点。SU8 的数据流路径我们在工程模式下确认了三件事:
- 语音原始音频不落盘,仅在内存中完成 ASR 转换后丢弃——这对隐私敏感用户是好消息。
- 对话文本保存在车机本地加密分区,路径
/data/local_cache/llm_session/,密钥与车辆 VIN 绑定,不随账号同步。 - 会话日志保留最近 72 小时,包括语音转文字原文、模型回复文本和部分中间推理 token。位置相关数据单独加密,调用需要车机解锁 PIN 码。
但有一个设计值得商榷:本地缓存没有“一键清除”入口。目前只能在系统设置→存储→应用数据中手动找到车机 AI 组件,逐项删除。对于共享车辆或代客泊车场景,这明显不够友好。
对比 Apple Intelligence 的做法——设备端处理与私有云计算之间有明确的会话销毁机制——SU8 的端侧隐私策略在透明度上还有提升空间。据 i 黑马报道,隐私沙箱机制据称会在下一版 HyperOS 更新中强化,但截至 2026 年 7 月,SU8 车主仍需手动管理缓存。
多意图指令会悄悄穿透到云端
SU8 的端侧大模型不是“全离线”。遇到复杂多意图指令时,会自动触发云端兜底,而且不主动提示车主。
纯端侧可处理的范围很明确:空调/车窗/座椅控制、导航改址、音乐/电台切换、单轮天气/路况查询、蓝牙电话指令。一旦出现“打开空调 23 度同时导航到公司并播放周杰伦”这类组合指令,或者“前方服务区还有几个空车位”这类需要实时数据的查询,系统会切到云端。触发瞬间车机屏幕右上角出现一个浅色“云端协同”标识,响应延迟从 580 毫秒跳到 1.1 秒左右。
断网时这类指令直接返回“当前网络不可用,请稍后再试”,不会降级为端侧部分执行。这一点和蚂蚁集团将 AI 风控塞进端侧的思路类似——端侧处理高频、简单、隐私敏感任务,云端处理复杂、需要实时数据的任务。但 SU8 当前的切换逻辑是“全有或全无”,不像理想 Mind GPT 那样可以做任务拆分、部分本地部分云端。
另一个容易被忽略的细节:云端兜底触发后,原始文本和响应结果都会在云端保留 30 天,用于模型迭代。如果对这一点敏感,可以在车机设置里关闭“云端协同”,代价是多意图指令的处理能力会显著下降。关闭路径藏得比较深:小爱同学 → 隐私管理 → 数据清除。
车主该注意的三个坑
综合两轮实测,给出最实用的判断:
靠谱场景:日常通勤中的空调、导航、音乐控制,断网无影响;地下车库、隧道、山区等弱网路段的连续语音交互;隐私敏感对话(如“导航去 XX 医院”),数据不经过云端。
三个最容易被忽略的坑:
- 长对话中“刚才说的那个地方”这类指代,超过 20 轮后可能失效,建议 30 轮左右主动说“重新开始”重置会话。
- 熄火后本地缓存 72 小时才自动清除,代客泊车或借车前最好手动清理,但目前没有一键清除入口。
- 多意图指令在断网时完全不可用,不会降级执行。复杂指令拆成两条说,可以避免触发云端。
雷军在 2023 年就明确了小米大模型的“轻量化和本地部署”方向,SU8 是这条路线在车机上的首次落地。从实测看,方向没错,但“端侧”不等于“完美离线”——缓存策略、唤醒延迟、云端兜底逻辑,都是车主需要适应的边界。
如果你对端侧 AI 在手机端的类似挑战感兴趣,可以回看《端侧AI不只看跑分,还要过相册和输入法这关》。如果关注企业微信集成 AI Agent 的隐私权限问题,《企业微信接上 AI Agent,先别急着放开审批权》也提供了类似的分析框架。