用Llama 4 Scout和RAG，半小时搭建本地文档问答
2026年4月Meta开源的Llama 4 Scout（16B参数）让本地知识库问答触手可及。本文实测在一张12GB显存的二手RTX 3060上，通过Ollama和LlamaIndex，半小时内搭建起一套数据完全不出本地
阅读全文
Search
站内搜索
关键词：RTX 3060
找到 4 篇相关文章
用二手3060显卡，我跑通了3B模型的微调
一张12GB显存的二手RTX 3060，能不能微调30亿参数的模型？我们用开源工具Unsloth、Axolotl和LLaMA-Factory，在杭州一个电商团队的客服场景里做了实测。结果发现，成本不到十块钱，耗时约一小时
阅读全文我在本地跑了一套开源流水线：会议结束，任务自动分配
用n8n、Whisper.cpp和本地运行的3B模型，在一张二手RTX 3060上搭了一条自动化线。会议录音自动生成待办，15分钟内分发给团队成员，全程数据不出本地。软件零成本，硬件约1500元。
阅读全文8GB显卡跑3B模型：2026年本地部署的硬件与软件配置清单
这是一份基于2026年开源工具链的实操配置。它告诉你如何在RTX 3060 12GB或同级显卡上，用llama.cpp和Q4_K_M量化稳定运行VibeThinker-3B等模型，并完成从微调到部署的全流程。
阅读全文