AI 实操指南
用GRPO算法调教3B小模型：不走SFT弯路的企业专属微调方案
告别繁琐SFT与昂贵的Critic模型，利用GRPO（群组相对策略优化）在单卡RTX 4090上对3B参数模型进行强化学习微调。本文提供具体的奖励函数编写模板、显存控制参数及实战流程，帮助中小团队以最低成本实现垂直领域的
阅读全文
Search
站内搜索
关键词：小模型
找到 35 篇相关文章
AI 实操指南
3B模型的端侧“慢思考”，关键不只在思维链
3B—7B小模型想在手机上多想一步，需要任务路由、短步骤推理、检索、校验和云端兜底共同工作。Qwen3与vivo、面壁智能的公开信息，把端侧问题从“能不能跑”推进到“能不能稳定完成任务”。
阅读全文
AI 实操指南
2026年企业部署AI Agent的成本控制和账单审计实操
面对AI Agent从POC转向量产带来的账单激增，本文拆解了一套从Token计费转向AI FinOps的实操方案。涵盖利用3B小模型做路由分发、通过LangGraph状态机截断死循环、以及基于MCP协议的工具调用审计，
阅读全文
前沿研究
3B模型跑强化学习：为什么端侧慢思考比无脑堆参数更省电
分析2026年夏季端侧AI面临的算力与散热双重挑战，探讨如何利用GRPO算法与轻量级MCTS，让3B小模型通过“慢思考”机制在本地离线实现复杂逻辑推理，并深度量化其能效比。成本账表明：慢思考的3B模型相比于大参数直接输出
阅读全文
前沿研究
万亿模型继续变大，企业却在重算3B的账
Kimi K3把开源模型推到2.8万亿参数，企业部署端却在问：哪些请求真的需要旗舰模型？3B小模型的价值不在全面平替，而在任务清楚、调用频繁且有兜底的场景里，控制时延和持续成本。
阅读全文3B小模型进垂直业务：先测漏检，再谈平替
Nanbeige4-3B让3B级SLM进入企业候选清单，但现有材料还不足以证明它们普遍追平千亿、万亿参数模型。合同审查和医疗分诊能否上线，得看严重漏检、知识更新、真实硬件表现与人工兜底，而不是只看榜单。
阅读全文
产业动态
算力租金涨价后，小规模 AI 公司如何靠‘模型蒸馏’续命？
2026年算力租赁市场开启新一轮涨价潮，中小 AI 初创公司面临生死考验。本文拆解了如何通过“模型蒸馏”技术将万亿参数模型的能力压缩至 3B 小模型，从而在保障业务表现的同时将推理算力成本降低 90% 以上，帮助初创公司
阅读全文3B小模型开始接活，万亿参数模型还值不值钱
3B小模型正进入摘要、分类、提取等边界清晰的任务，但“覆盖80%日常工作”没有统一证据。企业真正要算的是完成一次任务的总成本：调用、延迟、返工和审核。大模型不会失去价值，它更适合复杂请求、模型蒸馏和能力兜底。
阅读全文Llama 与 Mistral 写代码，先别急着判胜负
现有资料没有给出可复现的 Llama 3.5 8B 与 Mistral Medium 12B 代码测试。比起照搬跑分，开发者更该分开检验函数生成、仓库修复和量化后的本地表现。
阅读全文
前沿研究
VibeThinker-3B的看点不只在30亿参数
30亿参数的 VibeThinker-3B，在数学、竞赛编程等可验证推理任务上进入多款前沿模型的性能区间。公开路线包含 SFT、多领域强化学习、离线自我蒸馏和最终 RL 指令微调；GRPO、训练卡时与复现成本仍缺少材料支
阅读全文
前沿研究
华为智能世界2035：AI走进物理世界前，先过工程关
华为把“走向物理世界”视为AGI形成的必由之路，也在报告中列出AI进入漫长平台期的可能。眼下更值得关注的，是北京8000P算力园区、液冷、光模块、边缘芯片和小模型怎样把稳定性、成本与实时响应逐项做实。
阅读全文
产业动态
8000P园区半年后，19家Agent公司靠什么留下
32家Agent公司入驻半年后，还有19家正常运营。它们缩窄业务范围，改造大小模型分流，对接ERP、HIS等现有系统，并用年框合同稳定现金流。园区也开始撮合闲置算力交易。
阅读全文