用Llama 6微调行业知识库,显存占用比你想象的少
去年开源社区发布的LoRA-Mini框架,在RTX 5090上把Llama 6 8B微调显存压到8.3GB。但更贴近现实的是,在RTX 4090上同样可以8分钟跑完一个行业知识库微调流程。本文以法律文书问答为例,从数据预
阅读全文关键词:数据预处理
去年开源社区发布的LoRA-Mini框架,在RTX 5090上把Llama 6 8B微调显存压到8.3GB。但更贴近现实的是,在RTX 4090上同样可以8分钟跑完一个行业知识库微调流程。本文以法律文书问答为例,从数据预
阅读全文我们用一个PCB缺陷检测任务,测试了Google Vertex AI、Azure、H2O.ai和两家国内平台。结论是:数据预处理自动化已相当成熟,但‘一键训练’的效果有天花板,通常需要手动优化才能提升2-3个百分点。成本
阅读全文