站内搜索

昇腾910C混部，先看显存和尾延迟

训练和推理共用昇腾910C集群，利用率变高只是表面。真正容易出问题的是连续显存、通信抖动、P99延迟和调度边界。上线前，压测要按生产负载跑，而不是只看单任务性能。