搜索: LoRA

2026-07-05 15:33:09 0 阅读

去年开源社区发布的LoRA-Mini框架，在RTX 5090上把Llama 6 8B微调显存压到8.3GB。但更贴近现实的是，在RTX 4090上同样可以8分钟跑完一个行业知识库微调流程。本文以法律文书问答为例，从数据预

2026-07-05 11:04:52 0 阅读

2026年7月5日开源框架LoRA-Mini在RTX 5090上微调Llama 6 8B，显存占用降至8.3GB，训练时间缩至8.5分钟，相比传统LoRA提升5.5倍。实测对比显示效果损失极小，为个人开发者提供了高性价比

2026-07-05 03:13:43 0 阅读

2026年7月，随着Llama 6和Qwen 3等开源模型的不断迭代，混合精度训练成为提高训练效率的关键。了解FP8/BF16混合精度在消费级显卡上的应用，能够让开发者在有限算力条件下，实现更高效的模型微调。

2026-07-04 01:06:45 0 阅读

DeepSeek V4 开源后，中小团队不必一上来押注全量微调。更稳的路径是先用量化推理版验证场景，再围绕 V4-Flash、LoRA/QLoRA 和高质量行业数据做小步试验。

2026-06-27 04:42:25 0 阅读

H20供货收紧后,昇腾910C和寒武纪MLU370成为国产替代的两条主线。我们用同配置16卡集群,跑满72小时,对比DeepSeek-V3千亿参数模型预训练、LoRA微调、多模态适配下的吞吐、稳定性与三年总成本,给出可落

2026-06-24 21:01:49 0 阅读

一张12GB显存的二手RTX 3060，能不能微调30亿参数的模型？我们用开源工具Unsloth、Axolotl和LLaMA-Factory，在杭州一个电商团队的客服场景里做了实测。结果发现，成本不到十块钱，耗时约一小时

2026-06-24 06:11:40 1 阅读

2026年，AI发展范式从‘堆参数’转向效率与性能平衡，小模型‘逆袭’成为主流趋势。本文深度评测当前（2026年中）开源社区最前沿的微调与蒸馏工具链，聚焦Hugging Face生态、新兴框架及社区最佳实践，为开发者提供

站内搜索