技术应用
三个月只攒100张缺陷图，怎么补到1万张
一家汽车供应链企业三个月只积累到100张微裂纹图。团队用CLIP变体、潜扩散模型和ControlNet补充样本，再经视觉大模型筛选和模型蒸馏，把漏检率从8%降至1.2%，边缘侧推理延迟压到42ms。
阅读全文
Search
站内搜索
关键词：蒸馏
找到 14 篇相关文章
技术应用
前沿研究
万亿模型继续变大，企业却在重算3B的账
Kimi K3把开源模型推到2.8万亿参数，企业部署端却在问：哪些请求真的需要旗舰模型？3B小模型的价值不在全面平替，而在任务清楚、调用频繁且有兜底的场景里，控制时延和持续成本。
阅读全文
产业动态
算力泡沫破裂后，2026年夏季 AI 创业公司转向“轻量化”生存模式
2026年Q2，AI融资逻辑发生根本逆转，资本从参数军备赛转向效率与落地。本文通过模型蒸馏、端侧部署和算子调优等轻量化技术案例，揭示算力成本高企下创业公司如何构建商业闭环，包括银行反欺诈、端侧推理、国产芯片等实战。
阅读全文
技术应用
AI在金融反欺诈：毫秒识别异常交易的真实边界
从某银行0.07秒拦截越南IP信用卡交易切入，结合慧安金科、IBM等实践，拆解AI反欺诈在实时检测、模型误判、数据隐私上的真实边界，并给出企业选型建议：蒸馏、算子调优、闭环反馈。
阅读全文
产业动态
算力租金涨价后，小规模 AI 公司如何靠‘模型蒸馏’续命？
2026年算力租赁市场开启新一轮涨价潮，中小 AI 初创公司面临生死考验。本文拆解了如何通过“模型蒸馏”技术将万亿参数模型的能力压缩至 3B 小模型，从而在保障业务表现的同时将推理算力成本降低 90% 以上，帮助初创公司
阅读全文3B小模型开始接活，万亿参数模型还值不值钱
3B小模型正进入摘要、分类、提取等边界清晰的任务，但“覆盖80%日常工作”没有统一证据。企业真正要算的是完成一次任务的总成本：调用、延迟、返工和审核。大模型不会失去价值，它更适合复杂请求、模型蒸馏和能力兜底。
阅读全文
前沿研究
端侧模型轻量化，正在从压参数转向省计算
手机能装下模型，不等于能长期跑好。苹果约200亿参数的AFM 3 Core Advanced选择稀疏激活，Gemini Nano沿用知识蒸馏。端侧轻量化的重点，正转向按需计算、能力压缩和分层精度。
阅读全文
前沿研究
VibeThinker-3B的看点不只在30亿参数
30亿参数的 VibeThinker-3B，在数学、竞赛编程等可验证推理任务上进入多款前沿模型的性能区间。公开路线包含 SFT、多领域强化学习、离线自我蒸馏和最终 RL 指令微调；GRPO、训练卡时与复现成本仍缺少材料支
阅读全文
前沿研究
从蒸馏到结构化剪枝，2026年模型压缩怎么选
模型文件变小，不等于端侧推理更快。量化压低位宽，蒸馏训练更小的学生模型，结构化剪枝直接改变网络形状。面向2026年的部署，算子支持、内存访问和持续功耗比单看压缩率更有参考价值。
阅读全文关掉Wi-Fi跑70B模型：手机端侧算力的真实账本
DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配，展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能，但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文3B模型打败70B，靠的是什么
2026年，VibeThinker-3B模型在基准测试上逼近甚至超越70B大模型，引发行业关注。文章聚焦小模型在端侧推理中的现实路径，对比蒸馏、量化、SFT和GRPO等技术，并探讨企业如何在成本、性能和特定场景间找到平衡
阅读全文把3B模型塞进树莓派5：延迟、内存和功耗，我们实测了一遍
一个1.5B的蒸馏模型，在骁龙8 Gen 3手机上推理128个token需要150毫秒，在树莓派5上处理256个token则要1.2秒。我们用VibeThinker-3B等模型，在安卓手机和树莓派上对比了ONNX Run
阅读全文