DeepSeek-R3之后,3B端侧小模型如何在一块手表上跑得飞快?
DeepSeek-R3等推理模型确立云端智能标杆后,3B参数小模型正借助TinyML、稀疏化和INT4量化技术,下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁,并探讨其对企业FinOps
阅读全文关键词:功耗
DeepSeek-R3等推理模型确立云端智能标杆后,3B参数小模型正借助TinyML、稀疏化和INT4量化技术,下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁,并探讨其对企业FinOps
阅读全文3月24日,阿里达摩院发布玄铁C950,主频达3.2GHz,SPECint2006突破70,刷新RISC-V性能纪录。该芯片原生支持Qwen3、DeepSeek V3等千亿参数大模型,瞄准AI Agent场景,全志、瑞芯
阅读全文手机端侧跑AI,算力和功耗一直难以平衡。RISC-V凭借开源可扩展的特性,正成为手机厂商的新选择。上海等地的政策推动,加上本土半导体IP市场的增长,让RISC-V在本地智能和隐私计算上有了更多落地空间。
阅读全文2024年全球RISC-V芯片出货超百亿颗,30%用于AI加速。凭借模块化设计和低功耗优势,阿里玄铁C950等芯片正将千亿参数大模型推理拉入端侧,打破ARM在嵌入式领域的垄断格局。
阅读全文2025年手机AI竞争焦点从NPU跑分转向端云调度。苹果押注Core ML的“本地锁定”与断点续传,高通走“全速推理”路线,联发科侧重能效量化。在弱网和隐私合规面前,不同的卸载策略直接决定了发烫程度与续航底线。
阅读全文6月3日,博通公布2026财年Q2财报,AI芯片销售额同比暴增143%至108亿美元,但股价反跌。这标志着资本市场不再盲目追求算力规模,而是开始算细账:单卡2000瓦功耗下的液冷成本、Copilot按Token计费带来的
阅读全文2026年初,Arm发布20项技术预测,指出计算重心正从云端向边缘转移。随着Kleidi指令集优化异构计算,iPhone 19、小米16等机型在处理多模态任务时展现更高能效。相比云端GPU的高功耗与合规风险,端侧推理凭借
阅读全文英伟达Vera Rubin单芯片功耗突破2000W,风冷物理极限显现。新华三S90000将PUE压至1.05以下。基于5MW规模数据中心,拆解冷板与浸没式方案的CAPEX/OPEX差异,分析在电价与政策双重压力下,液冷如
阅读全文2026年,随着英伟达B200芯片功耗突破1000W,风冷已成过去式。深圳河套学院集群通过液冷将PUE压至1.1,印证了散热是算力扩张的物理天花板。从浸没式液冷的量产到软硬协同调度,绿色计算正在重塑数据中心的底层逻辑。
阅读全文2026年6月,微软定义 Copilot+ PC 标配 40+ TOPS NPU。实测显示,骁龙 X Elite 在本地 7B 模型推理中功耗仅为 x86 竞品的一半,续航优势明显。但 Recall 功能的隐私争议、NP
阅读全文WWDC2026上,Apple Intelligence 2.7随iPhone 19系列发布。实测显示,Pro Max连续推理15分钟核心温度控制在65℃左右,得益于A19芯片能效优化与全新VC均热板。尽管第三方API依
阅读全文2026年本地LLM性能追平云端,但70B+模型硬件门槛不低。本文对比双RTX 4090、A6000等方案在70B-100B模型上的显存占用与延迟,分享外置水冷改装将温度从85°C降到55°C的实测经验,并提供功耗优化技
阅读全文