前沿研究
Transformer还没退场，工程账比架构更难改
MoR公开结果称可将KV缓存内存降低约50%，Mamba、RWKV也在争夺长序列场景。但从训练工具到推理框架，行业仍围绕Transformer运转。2026年的架构竞争，关键要看端到端成本能否真正下降。
阅读全文
Search
站内搜索
关键词：RWKV
找到 2 篇相关文章
前沿研究
前沿研究
128K合同实测：省下显存后，谁更少漏检
同一张 RTX 4090 上，128 份中文合同、最长 131K token。RWKV-6 显存最低、出首 token 最快，Qwen2.5 平均漏检最低，Mamba-3 居中。三种架构的取舍，最终落在推理成本与人工复核
阅读全文