开发者生态
2026 手机端侧 3B 模型实测：内存压力与推理速度的真实平衡点
基于 2026 年主流旗舰机型（骁龙 8 Elite、天玑 9400、A18 Pro）的连续跑测数据，对比 Qwen2.5-3B、Llama-3.2-3B 与 Gemma-3-3B 在 4-bit 与 6-bit 量化下
阅读全文
Search
站内搜索
关键词：Qwen2.5
找到 12 篇相关文章
开发者生态
从数据标注到模型上线：一个完整的NLP分类项目实战记录
以电商评论情感分类为例，深度拆解从原始数据清洗、多维度标注方案、模型微调选型到线上A/B测试的工程全链路，分享在 RTX 4090 等消费级硬件上实现工业级分类效果的踩坑经验。
阅读全文一张RTX 4090跑GRPO，风控模型怎么训、怎么测
这次风控模型升级没有先补齐海量人工标签。团队把10.3万条客服与信审对话整理成23类场景，用合规、流程和客户体验三类规则给模型打分，再以Qwen2.5-7B-Instruct配合LoRA，在单张RTX 4090上训练约3
阅读全文
前沿研究
128K合同实测：省下显存后，谁更少漏检
同一张 RTX 4090 上，128 份中文合同、最长 131K token。RWKV-6 显存最低、出首 token 最快，Qwen2.5 平均漏检最低，Mamba-3 居中。三种架构的取舍，最终落在推理成本与人工复核
阅读全文告别Prompt工程：2026年Agent自主规划能力的真实分水岭
2026年4月，腾讯云开发者社区发文称Prompt工程师薪资已较2024年高点下跌超40%，MCP协议普及让工具调用标准化，但复杂任务的自主规划成为新瓶颈。本文拆解ReAct、Plan-and-Execute等框架的架构
阅读全文
开发者生态
没换模型，两周把RAG召回率从78%做到92%
一套基于 Qwen2.5-7B 的金融知识库，初始召回率为 78%。两周里我们没换模型，只重做 PDF 清洗与分块，加入 BM25 和 Cross-Encoder 重排，最后稳定在 92%。能到 94% 的 Parent
阅读全文
AI 实操指南
旧手机跑端侧大模型，量化和调度怎么选
把 Qwen2.5-3B-Instruct 或 Llama-3.1-8B 放进 iPhone 13、Redmi Note 12 Pro+，卡点通常落在内存、算子支持和持续发热。旧设备可先用 INT8 建立基线，再按内存压
阅读全文
AI 工具箱
16GB 显存做客服模型，Qwen2.5 该怎么选
16GB 显存可以尝试 LoRA 微调 Qwen2.5-7B-Instruct，但客服 Agent 不能只靠微调。模型选择、训练数据、知识库和业务工具需要分开处理。
阅读全文
AI 工具箱
Arm 端侧跑 7B，三款框架实测怎么选
同跑 Qwen2.5-7B-Instruct INT4，骁龙 X Elite 上 ExecuTorch 首 token 更快，天玑 9400 上 MNN 吞吐反超，llama.cpp 胜在内存稳定。框架选择要跟芯片、任务
阅读全文实测昇腾910C与寒武纪MLU590迁移Llama-3的代价
2026年6月，我们实测了Llama-3-8B和Qwen2.5-72B从A100迁移到昇腾910C与寒武纪MLU590的过程。昇腾FlashAttention需重写，性能降22%；寒武纪滑动窗口注意力有bug，延迟增35
阅读全文900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文开源大模型‘许可证混战’2026：Apache 2.0 vs. 商业友好自定义协议，企业如何选？
2026年，开源大模型许可证格局愈发复杂，Llama 3、Qwen2.5、DeepSeek等主流模型均采用差异化的自定义协议，与Apache 2.0等传统开源许可形成混战。本文深度梳理当前主流开源模型的许可证条款，对比分
阅读全文