搜索: 量化部署

2026-07-21 20:49:26 0 阅读

记录一家国内头部晶圆厂将光刻后道缺陷检测漏检率从 0.5% 压低至 0.1% 以下的实操过程。涵盖小样本标注困境、基于边缘设备的模型轻量化部署，以及如何通过与工艺工程师建立反馈闭环，将 AI 从“实验室玩具”变为“生产线

2026-07-18 05:33:13 0 阅读

针对 Llama 4 的 MoE 架构，本文详细拆解如何利用 LLaMA Factory 和 Unsloth 通过 LoRA 实现企业级客服模型的微调。涵盖从 SFT 数据清洗、Rank 参数调优到 GGUF 量化部署的

2026-07-10 00:50:23 0 阅读

OPPO在2025年世界人工智能大会展示了200 token/s端侧模型能力，也把AI手机的真实考题暴露出来：峰值速度之外，NPU调度、量化部署、发热控制和端云协同，才决定它能不能长期好用。

2026-06-27 04:29:26 0 阅读

一家深圳视频创业公司决定不再买二手 A100，单用户推理成本因此降了六成。2026 年 6 月，我们实测了两款国产主流推理加速卡，用 Llama-3.1 和国内自研 7B 模型跑了一遍，记录下吞吐量、显存占用、算子适配和

2026-06-26 19:02:17 0 阅读

我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现，覆盖推理速度、功耗、发热和多任务影响。测试发现，在特定任务上，3B模型已能提供媲美云端大模型的流畅

站内搜索