开发者生态
2026 手机端侧 3B 模型实测：内存压力与推理速度的真实平衡点
基于 2026 年主流旗舰机型（骁龙 8 Elite、天玑 9400、A18 Pro）的连续跑测数据，对比 Qwen2.5-3B、Llama-3.2-3B 与 Gemma-3-3B 在 4-bit 与 6-bit 量化下
阅读全文
Search
站内搜索
关键词：SLM
找到 4 篇相关文章
开发者生态
3B小模型进垂直业务：先测漏检，再谈平替
Nanbeige4-3B让3B级SLM进入企业候选清单，但现有材料还不足以证明它们普遍追平千亿、万亿参数模型。合同审查和医疗分诊能否上线，得看严重漏检、知识更新、真实硬件表现与人工兜底，而不是只看榜单。
阅读全文3B模型在端侧能跑多少个Agent？实测不同量化方案的推理损耗
针对2026年主流的3B级端侧模型（如商汤Sage、vivo蓝心3B），实测在Arm v10架构设备上运行3-5个垂直Agent时的内存占用与延迟。对比INT4与FP8量化方案，分析在多Agent协作场景下的精度掉点与资
阅读全文
前沿研究
端侧模型轻量化，正在从压参数转向省计算
手机能装下模型，不等于能长期跑好。苹果约200亿参数的AFM 3 Core Advanced选择稀疏激活，Gemini Nano沿用知识蒸馏。端侧轻量化的重点，正转向按需计算、能力压缩和分层精度。
阅读全文