站内搜索

8 台 M4 Ultra 拼一起跑 70B 模型，到底卡在哪

M4 Ultra 单机跑 Llama-3-70B 体验不错，但用 Thunderbolt 5 串联 8 台反而更慢。实测多机延迟比单机高近 3 倍，电费每月逼近 4500 元，散热还得额外砸钱。除非数据绝不能出本地，否则