站内搜索

70B大模型上车，高通8775和Thor先算内存账

70B模型用FP16存权重约140GB，压到INT4仍约35GB，还没算KV Cache和其他车载任务。Thor为跨域计算留出更大余量，8775更看重座舱部署。真正影响选型的，是持续散热、算子覆盖、量化和故障隔离。