18.7秒后,M4 Max吐出第一个字
一台 16 英寸 M4 Max、64GB 统一内存的 MacBook Pro,本地跑 DeepSeek-R2 IQ4_XS 量化版:能跑,但不像云端那样轻松。首 token 延迟 18.7 秒,稳定生成 6.8 tok/
阅读全文关键词:Ollama
一台 16 英寸 M4 Max、64GB 统一内存的 MacBook Pro,本地跑 DeepSeek-R2 IQ4_XS 量化版:能跑,但不像云端那样轻松。首 token 延迟 18.7 秒,稳定生成 6.8 tok/
阅读全文2026年4月Meta开源的Llama 4 Scout(16B参数)让本地知识库问答触手可及。本文实测在一张12GB显存的二手RTX 3060上,通过Ollama和LlamaIndex,半小时内搭建起一套数据完全不出本地
阅读全文