AI 纪元 追踪人工智能最新进展,深度解读前沿技术

RTX Spark亮出45—80W,Arm AI PC还卡在哪

RTX Spark给出20核Arm CPU、6144个CUDA核心、128GB统一内存和45—80W功耗,N1、N1X也在推进。规格表更漂亮了,但智能体常驻之后,CPU调度、内存带宽和持续散热仍会决定AI PC的续航与响应。

0 次阅读 约 1913 字 4 分钟 AI 生成
Close-up of a premium laptop's internal cooling system with copper heat pipes and a matte black fan.
Close-up of a premium laptop's internal cooling system with copper heat pipes and a matte black fan.

先看规格表。

据AI趣闻站的Computex条目,英伟达RTX Spark采用20核Arm架构CPU、6144个CUDA核心和128GB统一内存,功耗区间为45—80W,由微软Surface Laptop Ultra首发。新浪新闻6月1日的行业动态汇总还提到,英伟达计划在2026年推出面向AI PC的N1、N1X系列Arm架构SoC。

英伟达正在把Arm CPU、CUDA和统一内存放进同一套PC方案。这组配置回答了“有限功耗里能装下多少算力”,却还没有回答另一个问题:高负载能稳定跑多久。45—80W只是功耗区间,无法直接换算成续航、机身温度或持续推理速度。

智能体常驻,CPU重新变忙

TechWalker的CPU专题摘要转述Arm Everywhere大会内容称,Arm CEO Rene Haas判断,Agentic AI正在把CPU重新推回舞台中央。7月15日,倍可亲科技前沿条目提到GPT-5.6上线,并称奥尔特曼披露智能体AI用量增长2.5倍。

单次生成图片或摘要时,NPU完成一轮计算就可以停下来。Agent的负载更碎,也更持久。它要反复完成感知、思考、工具调用、执行和反思,其中既有GPU、NPU擅长的矩阵运算,也有大量控制流、条件分支和系统API调用。

这部分工作离不开CPU。频繁在CPU和NPU之间切换,还会增加数据搬运与上下文切换的开销。Arm CPU的低待机功耗、单核响应以及与统一内存的配合,在这种负载下更受重视。

eetop 6月4日的一条内容用了更直白的说法:从堆硬件到拼协同,智能体AI正在重写CPU与GPU的分工。放到AI PC上,计算单元的数量只是起点,调度路径够不够短同样影响耗电。

卡住实时推理的,仍是内存和热

站内此前在《手机多模态推理压到200毫秒,先拆内存墙》中讨论过,把响应时间从2秒压到200毫秒,难点之一就是视觉Token与KV Cache的搬运速度。

多模态任务持续读取模型权重和缓存,内存总线长时间处于高负载,热量也会随之积累。RTX Spark的45W下限看起来克制,但在连续视频流、实时语音和Agent常驻场景中,带宽压力仍可能出现。目前可见材料主要是配置和发布信息,尚未给出这些负载下的续航、温度与性能曲线。

此前的《手机能跑32B,但端侧推理更需要通专融合》记录过一组测试:24GB内存的骁龙8 Gen 5设备运行INT4量化的32B模型,十分钟后因发热降频,速度从每秒8 token降到3 token。手机平台的结果不能直接套到RTX Spark上,但它至少提醒了一件事:短时峰值代替不了持续性能。

Arm新一代设计加强了对LPDDR5X、LPDDR6的支持,并让NPU共享最后一级缓存(SLC)。这些设计可以缩短部分数据路径,减少重复搬运。内存总线的持续活动和整机散热依然要靠实际设备解决。

45W能不能好用,软件要交作业

对15W—45W的超薄笔记本来说,让大模型长期驻留并不轻松。模型大小、量化方式和任务拆分,都会落到最终功耗上。站内此前讨论模型蒸馏时提到,3B甚至1.5B的小模型可以承担边界更明确的任务,为端侧设备留出更多功耗余量。

小模型也不会自动带来好体验。工具调用频繁、上下文不断增加时,CPU和内存照样会被拖住。3B—8B级垂直模型更适合处理范围收窄的本地任务,复杂工作仍要看软硬件如何分配。

在常见的Copilot或Cursor用法里,用户通常需要选中内容、按下快捷键,再等待结果。低功耗常驻的目标,是让AI提前维护上下文,例如写React组件卡在结算逻辑时给出提示。这个场景可以说明产品方向,却不能反过来证明RTX Spark已经实现了后台无感运行。

本地运行3B—8B级模型,也有机会减少敏感文档上传云端的需求。至于能否做到毫秒级反馈,同时让电量几乎没有波动,现有素材还不足以支持这样的结论。

功耗墙被推远了,还没有消失

端侧AI最终比的是单位电量能够完成多少有效工作。RTX Spark的规格显示,20核Arm CPU、6144个CUDA核心和128GB统一内存已经可以放进45—80W区间;N1、N1X则代表英伟达还要把这条路线推向更多AI PC。

真正值得看的,是Surface Laptop Ultra以及后续N1、N1X设备在长时间多模态任务中的表现:响应速度是否稳定,机身和风扇能否保持克制,Agent常驻会让续航付出多大代价。

现阶段能下的结论很窄。强单核Arm CPU、高带宽统一内存和模型蒸馏,确实把端侧算力的可用边界往外推了一截。只要内存带宽、散热和软件调度仍会造成降频与额外耗电,功耗墙就谈不上被彻底打破。

相关阅读