70B大模型上车，高通8775和Thor先算内存账
70B模型用FP16存权重约140GB，压到INT4仍约35GB，还没算KV Cache和其他车载任务。Thor为跨域计算留出更大余量，8775更看重座舱部署。真正影响选型的，是持续散热、算子覆盖、量化和故障隔离。
阅读全文
Search
站内搜索
关键词：INT4
找到 25 篇相关文章
AI 实操指南
旧手机跑端侧大模型，量化和调度怎么选
把 Qwen2.5-3B-Instruct 或 Llama-3.1-8B 放进 iPhone 13、Redmi Note 12 Pro+，卡点通常落在内存、算子支持和持续发热。旧设备可先用 INT8 建立基线，再按内存压
阅读全文
AI 工具箱
Arm 端侧跑 7B，三款框架实测怎么选
同跑 Qwen2.5-7B-Instruct INT4，骁龙 X Elite 上 ExecuTorch 首 token 更快，天玑 9400 上 MNN 吞吐反超，llama.cpp 胜在内存稳定。框架选择要跟芯片、任务
阅读全文
前沿研究
端侧14B成标配？骁龙8 Gen5实测下的功耗与体验真相
骁龙8 Gen5发布半年后，14B模型手机端落地遭遇散热与调度双重拷问。实测显示，INT4量化+NPU-CPU混合调度是稳态运行的关键，单纯堆砌算力无法解决热节流导致的掉帧。
阅读全文
前沿研究
14B模型上手机，先看功耗这道坎
骁龙8 Gen 5让14B端侧AI推理成为可能，但热节流让算力大打折扣。实测数据显示，INT4量化、NPU-CPU混合调度与内存预分配，比单纯堆砌NPU算力更能实现可持续运行，这才是2026年端侧AI落地的关键。
阅读全文
前沿研究
骁龙8 Gen 5实测：端侧14B模型推理的散热瓶颈与调度优化
骁龙8 Gen 5让14B端侧大模型成为现实，但高负载引发的热节流是最大拦路虎。实测数据显示，INT4量化在维持稳定性上优于INT8。本文结合高通白皮书与最新工程实践，提供从量化选择、内存调度到动态降频的代码级优化方案，
阅读全文
技术应用
前沿研究
骁龙、天玑与苹果端侧量化怎么选
端侧大模型部署不能只看INT4压得更小。芯片的NPU支持、算子回退、内存带宽、发热和系统调度，都会改变真实体验。骁龙、天玑、苹果A系列各有取舍，工程上要先确定场景，再选INT4或INT8。
阅读全文
前沿研究
DeepSeek-R3之后，3B端侧小模型如何在一块手表上跑得飞快？
DeepSeek-R3等推理模型确立云端智能标杆后，3B参数小模型正借助TinyML、稀疏化和INT4量化技术，下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁，并探讨其对企业FinOps
阅读全文
开发者生态
大模型推理账单怎么算：别只盯着Token单价
GPT-5.2 Pro和Gemini 3.1 Pro的API报价让不少团队头疼，但单纯比价已经不够了。Gartner预测2030年推理成本将降90%，开发者需要盯紧TPOT和KV Cache，并在FP8与INT4量化中找
阅读全文M5 iPad Pro本地跑30B模型，文档摘要200毫秒
搭载M5芯片的iPad Pro首次在iPadOS 19上本地运行30B参数大模型，文档摘要延迟仅200毫秒，比云端快1.2-3秒。苹果通过INT4量化将模型压缩至15GB，配合16核神经网络引擎和翻倍的内存带宽实现这一突
阅读全文iPhone 17 Pro实测：本地Agent跑通了，但散热墙难破
我们在iPhone 17 Pro上实测了Apple Intelligence 2.0。A19 Pro芯片用INT4量化让大模型本地跑，日常指令没问题，但复杂任务偶尔会算错。连续跑跨App任务后，手机很烫，性能就掉下来。现
阅读全文