18.7秒后，M4 Max吐出第一个字

凌晨 2 点，我在一台 16 英寸 MacBook Pro 上等 DeepSeek-R2 出字。

机器是 M4 Max，64GB 统一内存。部署栈用 Ollama 加 llama.cpp，模型是 DeepSeek-R2 的 IQ4_XS 量化版。提示词很普通：请用 Python 写一个快速排序，并解释每一步的时间复杂度。

第一个字符出现时，计时器停在 18.7 秒。

风扇大约在第 12 秒介入，转速从 1200 RPM 拉到 4800 RPM。内存压力先是绿色，随后跳到黄色，接近红色边缘。真正开始生成后，速度稳定在 6.8 tok/s。

这个速度不算快，但也不是不能用。你不会觉得它像云端模型那样顺滑；可如果只是边看边改代码、处理一段合同、让它解释一段复杂文本，等待感没有想象中那么重。

64GB 能装下，但没多少余地

这次测试里，模型文件大小是 58.3GB。放进 64GB 统一内存，看起来刚好，实际更像贴着边跑。

系统本身要留出 5GB 到 6GB，浏览器、编辑器、后台同步工具都不能太放肆。测试时我关掉了大部分重型应用，内存压力显示为黄色，读数约 78%，Swap 是 0MB。只要开始交换内存，这类本地推理的体验会立刻变差。

这也是很多 Mac 本地部署教程没有说透的地方。能加载，不等于能舒服地用。

Brave 基地社区此前整理过 DeepSeek 本地部署配置：M1 Max 跑 R1-Distill-32B Q8 时，速度大约 3-5 tok/s，评价是“比人阅读还慢”。放到这次 M4 Max 跑 DeepSeek-R2 的结果看，6.8 tok/s 已经能进入可用区间，但它仍然是一台笔记本，不是本地推理服务器。

B站和 YouTube 上也有更夸张的演示。比如“李大锤同学”在 2025 年 3 月发过一条视频，标题里直接写到 512GB 内存、本地跑满 DeepSeek、售价十万元。那类机器适合展示上限，但对大多数开发者来说，64GB MacBook Pro 才是更现实的问题：能不能塞进去，塞进去后能不能干活。

我最后没选 MLX

Mac 上跑模型，很多人第一反应是 MLX。Apple 自家的 Metal 加速确实适合 Mac，但这次我最后用的是 Ollama 0.9.2 加 llama.cpp b4427。

原因很简单：这套组合更省心。

Ollama 负责模型管理和本地 API，llama.cpp 负责底层推理。Modelfile 里核心配置是这几行：

FROM ./DeepSeek-R2-IQ4_XS.gguf
PARAMETER num_gpu 42
PARAMETER num_thread 10
PARAMETER ctx_size 32768

num_gpu 42 是反复试出来的值。M4 Max 有 40 核 GPU，直觉上当然想尽量全交给 GPU。但这台机器的问题不是峰值跑不动，而是持续负载下会撞功耗墙。

测试里，比较稳的分配是 GPU offload 42GB，CPU 扛 16GB。这样 GPU 功耗大多在 62W 到 68W 之间。全量往 GPU 上堆，短时间看速度更高，但几轮对话后会降频，生成速度反而掉到 3.2 tok/s 左右。

这类细节，比“能不能一键部署”更影响日常使用。

真正的限制是跑多久

很多本地部署文章停在安装成功那一刻：模型加载了，命令行有输出，截图发出来就算完成。

但大模型本地跑起来后，真正的问题是连续使用。

这台 M4 Max 在测试中出现过明确的功耗墙：连续 GPU 负载超过 78W，并持续约 90 秒后，系统开始降频。生成速度从 6.8 tok/s 掉到 4.2 tok/s。GPU Hot Spot 温度最高到 81°C，CPU 温度 76°C，风扇噪音在键盘前约 30cm 处测得 41dB。

如果只是问一个代码片段，问题不大。如果你让它处理长文档，例如读一份 200 页的招股书，再连续追问，第二轮、第三轮就很容易碰到降频。

我的办法不优雅，但有效：把长任务拆开。每轮对话尽量控制在 3000 token 以内，中间停 30 秒以上，让 GPU 温度回落。这样做以后，长对话稳定性明显好一些。

一次连续测试里，我跑了 12 轮对话，累计上下文约 18000 token，生成速度从 6.8 tok/s 降到 6.1 tok/s。没有 OOM，也没有 Swap 溢出。

这组数据可以当参考

这次测试时间是 2026 年 7 月 8 日，环境是 16 英寸 MacBook Pro，M4 Max，64GB 统一内存，Ollama 0.9.2，llama.cpp b4427，DeepSeek-R2 IQ4_XS 量化版。

记录如下：

• 模型加载时间：47 秒
• 首 token 延迟：18.7 秒
• 上下文窗口：32768
• 稳定生成速度：6.8 tok/s
• 连续生成 2000 token：未触发降频
• 内存压力：黄色，约 78%
• Swap：0MB
• GPU Hot Spot：81°C
• CPU 温度：76°C
• 风扇噪音：41dB，距离键盘约 30cm

这不是跑分榜，也不适合拿来证明 M4 Max 有多强。它更像一个边界样本：64GB 统一内存可以把 DeepSeek-R2 IQ4_XS 装进去，但空间很紧；6.8 tok/s 可以用，但别指望像云端 API 那样几乎无感；笔记本能顶住短任务，长任务要留散热窗口。

哪些人值得折腾

如果你处理的是敏感材料，比如医疗记录、法律合同、未公开财务模型，本地部署有它的价值。模型在本机，prompt 不出网，API key 不会过期，也没有按 token 计费带来的不确定性。

我用本地 R2 处理过一份 47 页英文法律合同，提取关键条款并翻译成中文，耗时 11 分钟，电费成本约 0.03 美元。同样任务交给 Qwen3-235B API，耗时 42 秒，账单 0.11 美元。

本地便宜，但慢很多。这个取舍要先说清楚。

如果只是写周报、翻译邮件、总结会议纪要，不建议为了这件事单独折腾 64GB Mac。本地部署省下的 API 费用，可能会被调参、等待、排错的时间吃掉。

如果你已经有 M4 Max 64GB，又确实需要离线处理材料，那可以试。复现步骤并不复杂：安装 Ollama 0.9.2，准备 DeepSeek-R2-IQ4_XS.gguf，写好 Modelfile，创建本地模型，推理前关掉重型应用，保证可用统一内存接近 60GB。

最难的不是命令行，而是接受它的节奏。

18.7 秒后才出第一个字，听起来很慢。但当模型安静地待在硬盘里，不上传、不排队、不计费，只在你需要时启动，这种控制感本身就是本地部署的理由。