AI 纪元 追踪人工智能最新进展,深度解读前沿技术

70B模型塞进智能眼镜:光波导散热之外的软硬件协同死结

2026年AI眼镜密集上新,70亿参数模型已在手机端跑通,但塞进眼镜远不只是把芯片换小。异步量化推理能压内存,光波导和电池却卡住了系统调度。本文从算法、芯片、光学和功耗四条线索,拆解为什么"能跑"离"好用"还差一套工程协同。

0 次阅读 约 2206 字 4 分钟 AI 生成
Close-up of a smart glasses temple interior, showing a tiny chip module and thin battery with thermal heat-map colors
Close-up of a smart glasses temple interior, showing a tiny chip module and thin battery with thermal heat-map colors

手机端跑通了,眼镜端还没到

把70亿参数模型装进手机,骁龙8至尊版第五代已经演示过了。本站内测里,《六款手机端侧大模型实测:能跑不等于好用》记下的一组数字:首 token 延迟从1.2秒攀到4.1秒,长会话触发降频和发热,权限边界时不时卡住调用。手机有铜箔、有均热板、有4000mAh电池做缓冲,眼镜统统没有。

据财联社2026年5月24日报道,谷歌、阿里、华为、雷鸟创新相继推出新款AI眼镜,苹果也在入局,"百镜大战"把供应链彻底点燃。但同一条报道也点破了眼下最棘手的瓶颈——端侧AI能力、高算力场景下的散热与续航,仍然是"亟待突破的难题"。

这两个字——"亟待"——是2026年下半年所有穿戴式AI工程团队的题眼。

异步量化推理:内存账是可以做出来的

先说算法这一侧的情况,因为它是相对最干净的。

以近期端侧开源社区里讨论较多的异步分层量化(async tiered quantization)为例:把模型权重按调用频率分成三档,热段保留INT4在线、解码时按需把温段从INT8量化到INT4、冷段则直接以2-bit稀疏格式驻留闪存。配合独立的K/V缓存池和分块预取调度,70亿参数模型的常驻内存可以稳定压在3.5GB以下。

知乎专栏《从"手持"到"眼见"》把这个思路总结过:大模型轻量化和端侧-边缘协同,是当前AI眼镜工程的两条主线。前者负责"模型怎么塞下",后者负责"塞不下的部分去哪跑"。

听起来很美。但落到眼镜上,还有第二个变量:电池。

电池、光波导、热:这才是工程死结

智能眼镜的物理约束有三道硬墙。

首先是电池。眼镜镜腿里塞得下的一般只有150-200mAh的异形电池,部分厂商走外挂扩容方案把上限推到400mAh区间。在这个量级下做70B推理,全速运转撑不过30分钟,调到能用的体验更现实的问题是"能不能撑完一场发布会"。

其次是光波导。2025年芯原在上海的专题会上,几家主流方案商已经把话挑明:光波导本身功耗不高,但它对SoC周围的NCVM镀膜、可调焦透镜和图像传感器提出了极高的一致性要求。多出来的摄像头和显示驱动,同样在抢那点紧张的电池余量。

第三是热。手机上那套铜箔+均热板的方案,眼镜做不了——重量和体积都不允许。人脸皮肤局部温度超过41°C,戴十分钟就会触发不适感。这意味着SoC的实际运行功耗上限,被锁死在3W以下。

3W,做70亿参数端侧推理。手机端可以靠瞬时功率尖峰去搏,眼镜不行,它必须长时间稳定在温度墙以内。

端云协同:被念叨很多,落地很少

念得最多的解决方案叫端云协同。听说起来很直接:眼镜只跑感知和粗筛,大脑交给手机或云端。

但这里面有几个工程不愉快处。

第一是延迟。眼镜的交互是"看见-提问-接收"的闭环,时延预期在300毫秒以内。一旦把推理甩到云端,即便5G和Wi-Fi 7的覆盖够,把语音上行 + LLM推理 + TTS下行跑完,抖动根本压不住。

第二是隐私。摄像头对着你看到的每一帧画面,眼镜天然是隐私敏感的设备。把原始视频流上云,无论合规还是用户感知都过不去——这一点跟手机上"按按钮才调用"的逻辑完全不同。

第三是流量。一路1080p 30fps的视频上行,一个问答来回就是几十兆字节。端侧模型的吸引力正是把数据留在本地,但前提是它真的跑得动。

所以现实里走得最远的方案,是混合路由:感知、字幕、第一轮意图理解留在眼镜端,复杂推理、联网搜索、长上下文摘要甩给绑定的手机App或家庭算力盒。路由器怎么切,是工程师的日常。

算力调度和光学散热,两套时钟还没合上

如果盯一条时间轴,更能看出节奏错配的严重性。

光学这边,光波导、可调焦镜片、MicroLED显示的迭代周期是按硬件摩尔跑的,18到24个月一代。算力这边,70亿参数模型在端侧落地是按软件摩尔跑的,6到9个月就有一轮明显提升。

结果就是:眼科光学的BOM成本压力还没缓解,跑在眼镜上的模型已经换了三代。有了更聪明的算法,没有更宽裕的热预算;有了更大的参数规模,对应的还是那颗3W的SoC。这就是行业里被叫作"软件超前、硬件拖底"的工程死结。

本站在《昇腾910C扩到千卡,先把六本运维账算清》里记过国产集群扩容的类似问题——规模上去了,能跑得稳的集群是另一个工程。眼镜端同样如此:算法跑通是账单的第一行,整机协同才是后面那一长串。

接下来的半年,看哪些信号

对关注穿戴式AI的人来说,接下来半年有几个可追踪的判断点:

一、真正的"双SoC"架构会在什么时候现身。把感知和推理拆到两颗芯片上,各跑一条独立的电源和热预算,是眼下看得到的解法。代价是BOM成本和重量都会增加。

二、第一批量产机型搭载的端云协同套件,敢不敢公开功耗曲线。发布会上"跑70B"是结果,曲线形状才是真相。

三、配件化方向会不会加速。手机作算力中枢、眼镜做显示和感知,通过Wi-Fi 7或UWB做低时延链路——这是退一步的工程现实主义。

四、光学期件的成本下探节奏。MicroLED和光波导良率提升,是眼镜自己跑得动大模型的前提。

财联社的报道里已经提到,ODM/EMS代工、SoC/MCU/SiP封装、电池环节会率先吃到红利。但算法和光学合龙的那一步,还没有人交卷。

70B塞进智能眼镜的故事,2026年下半年还停在"能跑"边上。真正进入"好用",得等那套跨芯片、跨光学、跨电池的工程账本做完。这一步比任何一次模型升级都难。

相关阅读