站内搜索

拒绝被云厂商绑架：两台旧 Mac 本地跑通 14B 大模型实操指南

利用两台闲置Mac Studio（M2/M3 Max），通过llama.cpp RPC分布式推理运行14B开源模型，实测吞吐与云GPU成本对比，附完整部署步骤。