站内搜索

通专融合的第二跳：MoE究竟解决什么问题

2024年WAIC上，周伯文将“通专融合”概括为通往AGI的战略路径。MoE能用稀疏路由组织不同能力，却只覆盖基础模型层的一段问题。路由稳定性、负载均衡、通信成本和结果校验，才决定它能否真正落地。