DeepSeek-R3之后,3B端侧小模型如何在一块手表上跑得飞快?
DeepSeek-R3等推理模型确立云端智能标杆后,3B参数小模型正借助TinyML、稀疏化和INT4量化技术,下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁,并探讨其对企业FinOps
阅读全文关键词:智能手表
DeepSeek-R3等推理模型确立云端智能标杆后,3B参数小模型正借助TinyML、稀疏化和INT4量化技术,下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁,并探讨其对企业FinOps
阅读全文3B模型在手机跑通后,更小的参数开始下沉到智能手表。实测发现,1.5B模型在手表上每次深度交互耗电超1%,5分钟升温触发降频。在1W功耗和内存带宽限制下,手表AI目前只能做端云折衷,专攻健康监测等窄场景才是出路。
阅读全文