AI 纪元 追踪人工智能最新进展,深度解读前沿技术

20B、1T都不等于快:端侧AI手机该怎么测

苹果的AFM 3 Core Advanced约200亿参数,小米MiMo-V2 Pro总参数超1万亿、激活420亿,Pixel 10则让Gemini Nano常驻端侧。数字越来越大,但公开资料仍不足以做统一跑分。选设备,更该看断网能力、持续速度、内存和散热。

0 次阅读 约 2375 字 5 分钟 AI 生成
A minimalist editorial setup of a smartphone with professional testing tools.
A minimalist editorial setup of a smartphone with professional testing tools.

20B、1T、420亿。2026年的端侧AI发布里,最抢眼的往往是参数。

但用户拿到手机或平板后,真正感受到的是另一套问题:关掉网络,翻译和转录还能不能用;按下按钮,第一段结果要等多久;连续生成一段时间,速度会不会往下掉;机身温度和电量是否还能接受。

2月23日,东吴证券发布《2026年端侧AI产业深度》,报告标题把应用变化、终端重构和端侧SoC的价值放在了一起。可从行业判断落到购买建议,中间还缺一层可靠测试。

现有公开材料没有在同一模型、同一量化、同一上下文和同一环境下,把M4、骁龙8 Gen 5、Tensor G5、天玑9400+完整对比。也就无法诚实地给出一张精确到毫秒、token/s、温升和掉电率的排行榜。

先别把不同条件塞进一张表

同样标着7B或14B,模型版本、量化精度、上下文长度和推理框架只要有一项不同,结果就可能变化。测试设备也不能只写芯片名。手机和平板的散热空间不同,系统性能模式、可用内存、环境温度和测试时长同样会影响成绩。

首字快,不代表长时间输出稳定。一次短提示词跑得漂亮,也不能代替连续15分钟测试。

如果测试方法没有公开,数字越细,越不适合拿来排座次。

苹果的20B,先看每次激活多少

21经济网6月23日报道,苹果的端侧主力模型AFM 3 Core Advanced约有200亿参数,并采用稀疏架构,每次推理只激活其中一部分参数。

这意味着,20B不能直接与全量激活的20B模型比较,更不能直接换算成某款M4或A18设备的首字延迟、持续速度和温升。

讨论Apple Intelligence 2.0时,模型规模只能算一条结构信息。哪些功能完全在本地完成,第一次响应有多快,连续运行后是否降速,仍要逐台设备、逐项任务验证。

小米的1T,别漏看同一行里的420亿

钛媒体报道,小米MiMo-V2 Pro在3月上线,总参数超过1万亿,激活参数为420亿,AI文案生成用时2秒。

这三组数字不能拆开看。1T描述模型整体规模,420亿更接近单次推理实际调用的部分;2秒则对应报道中的文案生成任务。它不能代替长文档处理、长时间生成或连续15分钟后的稳定性测试。

即使知道激活参数,仍然缺少模型权重精度、缓存占用、内存带宽和系统调度等条件。只摘出1T,很容易让人误以为手机每次都在处理全部参数;只看420亿,也无法判断发热和续航。

Google给出的,是更具体的本地任务

同一篇21经济网报道提到,Gemini Nano由更大的Gemini模型蒸馏而来,目标是在设备端运行。蒸馏后的模型体量更小,更适合放进手机,但它保留了多少能力,仍要看具体任务。

钛媒体给出了Pixel 10的另一组信息:Tensor G5首次采用台积电3nm代工,TPU提升60%,Gemini Nano常驻端侧,实时翻译、屏幕理解和语音转录可以在本地执行。

60%不能顺手写成“应用快60%”。

TPU指标、模型推理速度和整机功耗不是同一套数据。本地执行也不等于几乎不耗电,功能开启后的续航和温度变化仍需要实机记录。

天玑发布了工具,但还没有统一成绩

5月13日,联发科举行MDDC 2026。DoNews次日报道,会上发布了天玑AI智能体化引擎2.0、天玑AI开发套件3.0、RTP和虚拟几何体渲染等技术与方案。

这次发布能确认的是工具和方案已经亮相。它没有给出天玑9400+运行14B模型时的统一测试条件,也没有告诉我们同一功能在不同零售机型上能够稳定运行多久。

具体机型是否接入、应用是否适配、系统怎样分配内存和算力,都会影响最终表现。发布会演示不能替代零售设备上的持续测试。

如果真要实测,至少把四件事写清楚

  • 先断网:关闭网络后,再测翻译、屏幕理解、语音转录和文档处理。功能还能正常工作,才能确认任务确实在端侧完成。
  • 把等待和吞吐分开记录:首字或首段延迟反映用户要等多久,持续token/s反映长内容处理速度。两项不能合成一个模糊的“很快”。
  • 连续运行15分钟:记录开始和结束时的生成速度、机身温度与电量变化。只写“有点热”或“掉电不多”,无法复现。
  • 公开模型和设备条件:模型版本、量化格式、上下文长度、推理框架、系统可用内存和性能模式都应写明。缺少这些条件,16GB或24GB都不该被当成通用门槛。

一条可信的实测结果,不该只有“某芯片跑到多少token/s”,还要让别人知道它跑的是什么、跑了多久、在什么状态下跑。

买哪一台,先看你要在本地做什么

在骁龙8 Gen 5、天玑9400+和Apple Silicon之间选设备,NPU的TOPS只能作为一项参考。内存容量与带宽、机身散热、系统调度和应用支持,都会决定模型能不能长时间运行。

如果需求是实时翻译、屏幕理解和语音转录,最直接的办法是关闭网络,测试系统自带功能。这里更重要的是功能是否可用、响应是否稳定,而不是设备能否装下一个14B模型。

如果要离线处理长文档或写代码,就要重点看上下文能力、可用内存和持续生成速度。手机与平板的散热条件不同,也不适合共用一张总分榜。

截至2026年6月,公开材料呈现了几条不同路线:苹果采用稀疏架构,Google把蒸馏后的Gemini Nano放进设备,小米用大规模模型配合部分参数激活,联发科继续推出引擎和开发工具。这些信息可以解释厂商在做什么,却还不能证明谁在统一实测中领先。

参数不是没用,单独拿出来才容易误导。看到7B、14B、20B或1T时,先问模型怎么跑、跑了多久,再看排名。

资料来源

相关阅读