Llama和Mistral进欧盟前，技术文档该写哪四项
欧盟AI法案高风险条款8月2日生效，用Llama、Mistral做简历筛选这类应用，团队必须备好技术文档。核心是四块：系统描述、风险管理、技术细节、测试验证。开源模型的合规责任主要在应用开发者身上。
阅读全文
Search
站内搜索
关键词：Llama
找到 73 篇相关文章
Vision Pro上跑大模型：实测发热超40°C，交互比算力更头疼
我们在Vision Pro上实测部署了Qwen3-Lite和Llama 4，记录了发热、延迟和功耗数据。发现真正的瓶颈不只是芯片算力，还有散热、交互设计和系统API限制。对开发者来说，先在云端验证想法可能更现实。
阅读全文900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文千元机跑大模型：Qwen3-Lite和Llama 4，实测谁更实用？
我们在一台骁龙7 Gen 3中端机上实测了Qwen3-Lite和Llama 4。结论很明确：对端侧AI来说，1秒内的响应、低于15%的小时耗电、不烫手的温度，比模型跑分重要得多。小模型在续航和发热上优势明显，这才是能否用
阅读全文用Llama 4 Scout和RAG，半小时搭建本地文档问答
2026年4月Meta开源的Llama 4 Scout（16B参数）让本地知识库问答触手可及。本文实测在一张12GB显存的二手RTX 3060上，通过Ollama和LlamaIndex，半小时内搭建起一套数据完全不出本地
阅读全文用二手3060显卡，我跑通了3B模型的微调
一张12GB显存的二手RTX 3060，能不能微调30亿参数的模型？我们用开源工具Unsloth、Axolotl和LLaMA-Factory，在杭州一个电商团队的客服场景里做了实测。结果发现，成本不到十块钱，耗时约一小时
阅读全文三个AI改8万行Java，人月省了38个，预算怎么还超了15%？
上海一家金融科技公司用GitHub Copilot、CodeLlama和通义灵码重构了8万行Java信贷系统，代码环节省了35%工时。但合规审查、本地模型微调和流程改造等隐性成本，最终让项目预算超了15%。
阅读全文8GB显卡跑3B模型：2026年本地部署的硬件与软件配置清单
这是一份基于2026年开源工具链的实操配置。它告诉你如何在RTX 3060 12GB或同级显卡上，用llama.cpp和Q4_K_M量化稳定运行VibeThinker-3B等模型，并完成从微调到部署的全流程。
阅读全文开源AI‘后Llama时代’：2026年下半年新兴高效能模型（如Smaug-8B、Phi-4）的社区生态、微调工具链与部署实践
本文深入剖析2026年下半年开源AI模型新格局，聚焦Smaug-8B、Phi-4等高效能模型。文章对比其性能、数据与许可协议，并详解使用LLaMA Factory 2.0等最新工具进行高效微调与低成本部署的实践，为开发者
阅读全文GPT-5 Turbo发布后，全球开源大模型社区的应对与创新：以Llama 4、Smaug-8B为例
GPT-5 Turbo的发布为开源大模型社区带来新的挑战与机遇。本文深度分析其对开源生态的冲击，并聚焦Llama 4、Smaug-8B等最新开源模型的创新策略，探讨其在性能、效率与商业化路径上的应对之道。
阅读全文开源大模型‘许可证混战’2026：Apache 2.0 vs. 商业友好自定义协议，企业如何选？
2026年，开源大模型许可证格局愈发复杂，Llama 3、Qwen2.5、DeepSeek等主流模型均采用差异化的自定义协议，与Apache 2.0等传统开源许可形成混战。本文深度梳理当前主流开源模型的许可证条款，对比分
阅读全文RAG 2.0？2026年大模型增强生成技术的最新范式、开源框架与企业应用最佳实践
本文深度解析2026年检索增强生成（RAG）技术的范式演进，涵盖长上下文、多模态与精准检索的融合。系统评测LangChain、LlamaIndex等主流开源框架，并为企业级RAG应用部署提供从数据治理、架构设计到合规安全
阅读全文