实测昇腾910C与思元590：推理成本砍六成，算子填坑要两周
华为昇腾910C与寒武纪思元590跑Llama 3.3和Qwen 2.5实测：精度损失1%内，速度慢9%-18%，但单卡采购价仅为H100的三成多。标准化微调可替代，自定义CUDA算子仍需转译填坑。
阅读全文
Search
站内搜索
关键词：Qwen
找到 43 篇相关文章
3B模型打赢70B的秘密：小模型在手机端的真实表现
我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现，覆盖推理速度、功耗、发热和多任务影响。测试发现，在特定任务上，3B模型已能提供媲美云端大模型的流畅
阅读全文三款旗舰芯片跑7B大模型，谁最省电？实测数据来了
我们用同一套7B模型（Qwen3-7B量化版），在骁龙8 Gen4、天玑9400、麒麟9100三款旗舰机上测了连续对话的功耗、温度和速度。结果挺意外：麒麟最快但最费电，天玑最省电，骁龙比较均衡。下面直接上数据。
阅读全文Vision Pro上跑大模型：实测发热超40°C，交互比算力更头疼
我们在Vision Pro上实测部署了Qwen3-Lite和Llama 4，记录了发热、延迟和功耗数据。发现真正的瓶颈不只是芯片算力，还有散热、交互设计和系统API限制。对开发者来说，先在云端验证想法可能更现实。
阅读全文900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文千元机跑大模型：Qwen3-Lite和Llama 4，实测谁更实用？
我们在一台骁龙7 Gen 3中端机上实测了Qwen3-Lite和Llama 4。结论很明确：对端侧AI来说，1秒内的响应、低于15%的小时耗电、不烫手的温度，比模型跑分重要得多。小模型在续航和发热上优势明显，这才是能否用
阅读全文开源大模型‘许可证混战’2026：Apache 2.0 vs. 商业友好自定义协议，企业如何选？
2026年，开源大模型许可证格局愈发复杂，Llama 3、Qwen2.5、DeepSeek等主流模型均采用差异化的自定义协议，与Apache 2.0等传统开源许可形成混战。本文深度梳理当前主流开源模型的许可证条款，对比分
阅读全文