站内搜索

Transformer还没退场，工程账比架构更难改

MoR公开结果称可将KV缓存内存降低约50%，Mamba、RWKV也在争夺长序列场景。但从训练工具到推理框架，行业仍围绕Transformer运转。2026年的架构竞争，关键要看端到端成本能否真正下降。