前沿研究
端侧AI不只看跑分，还要过相册和输入法这关
荣耀用低bit量化缩小模型、提高推理速度，Nexa AI则试图降低跨芯片部署成本。端侧AI能否真正进入手机日常，还要看相册搜索、输入法和离线翻译是否够快、够稳，也不能太耗电。
阅读全文
Search
站内搜索
关键词：小模型
找到 35 篇相关文章
前沿研究
产业动态
8000P交付潮撞上40%空置率：一场比谁先醒的算力竞赛
2026年上半年，多地8000P算力园区交付后实际租用率参差不齐，部分空置率超40%。本文拆解运维成本、客户获取难度和中小模型公司真实需求，揭示AGI基础设施正在经历的供需错配——建得起不代表填得满。
阅读全文
前沿研究
Hugging Face热闹背后，小模型更好算账
Hugging Face 2026春季报告显示，平台用户已突破1100万，公开模型超过200万个。企业关注开源模型，越来越少停留在“模型越大越好”，更多是在部署成本、数据出域和业务场景之间算账。
阅读全文
前沿研究
华为云盘古5.0上线，垂直行业大模型进入深水区
2024年发布的盘古5.0，以E/P/U全系列架构重构行业AI落地路径。从气象秒级预测到工业百亿级推理，华为云试图用“小模型大作用”解决算力与ROI的悖论。两年后的2026年，在昇腾算力和端侧硬件的双重约束下，垂直大模型
阅读全文
前沿研究
苹果把AI算力账单交给云端
Apple Intelligence 2.0把Siri推向更复杂的AI能力，也把端侧NPU的上限摆到台前。苹果选择本地小模型、私有云和Gemini协作，但硬件门槛、云端依赖和隐私边界都会影响用户体验。
阅读全文
前沿研究
DeepSeek-R3之后，3B端侧小模型如何在一块手表上跑得飞快？
DeepSeek-R3等推理模型确立云端智能标杆后，3B参数小模型正借助TinyML、稀疏化和INT4量化技术，下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁，并探讨其对企业FinOps
阅读全文
AI 实操指南
显存才是硬通货：2026年本地跑大模型要花多少钱
API按Token计费越来越贵，数据隐私攥在别人手里。2026年本地部署需求井喷，但RTX 5080工作站近2万，5090一卡难求。核心原则：显存决定能跑多大模型，9B量化版8G勉强16G舒服，27B要24GB。算清这笔
阅读全文AI生成内容（AIGC）在跨境电商与独立站的具体应用与工作流整合
告别参数狂欢，跨境卖家进入精算时代。本文拆解Shopify AI Agent在多语言生成、本地化合规及营销自动化中的真实工作流，结合深圳电商52万亏损案，揭示端侧小模型与熔断机制如何降本增效，提升独立站转化率。
阅读全文别只盯着iPhone 19：端侧大模型在旧设备上的真实生存指南
当iPhone 19的M5芯片与千亿参数成为头条时，数十亿存量旧设备正被遗忘。本文实测Gemma 2 2B在iPhone 15（A16芯片）上的表现，揭示4-bit量化与Core ML框架如何解决内存与算力瓶颈。结合深圳
阅读全文3B模型打赢70B的秘密：小模型在手机端的真实表现
我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现，覆盖推理速度、功耗、发热和多任务影响。测试发现，在特定任务上，3B模型已能提供媲美云端大模型的流畅
阅读全文3B模型打败70B，靠的是什么
2026年，VibeThinker-3B模型在基准测试上逼近甚至超越70B大模型，引发行业关注。文章聚焦小模型在端侧推理中的现实路径，对比蒸馏、量化、SFT和GRPO等技术，并探讨企业如何在成本、性能和特定场景间找到平衡
阅读全文千元机跑大模型：Qwen3-Lite和Llama 4，实测谁更实用？
我们在一台骁龙7 Gen 3中端机上实测了Qwen3-Lite和Llama 4。结论很明确：对端侧AI来说，1秒内的响应、低于15%的小时耗电、不烫手的温度，比模型跑分重要得多。小模型在续航和发热上优势明显，这才是能否用
阅读全文