MoE 架构跑通万亿参数了,但显存碎片正在拖垮推理速度
MoE 模型的万亿参数竞赛并未带来推理端的红利,反而因专家权重全量驻留引发的显存碎片化和访存瓶颈,让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题,并结合昇腾等厂商的最新无损优化方案,探讨从算子调度到底层
阅读全文关键词:参数竞赛
MoE 模型的万亿参数竞赛并未带来推理端的红利,反而因专家权重全量驻留引发的显存碎片化和访存瓶颈,让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题,并结合昇腾等厂商的最新无损优化方案,探讨从算子调度到底层
阅读全文虽然WAIC 2026正式开幕在即,但预热论坛和前期议程已密集释放信号:参数竞赛退烧,产业落地升温。本文梳理世界模型激辩、智能体论坛、算力成本等十场论坛的核心观点,结合具体案例与数字,呈现大会最冷的共识。
阅读全文Arm 在 2026 年 6 月更新移动 AI 架构路线图后,旗舰手机端侧大模型的参数竞赛被按下暂停键。厂商宣传的“百亿参数端侧运行”在功耗墙、内存带宽和实际可用容量面前,需要重新算账。本文拆解 2026 年下半年旗舰
阅读全文博通Q2财报显示AI芯片销量暴涨股价却跌,加上深圳电商52万Token亏损案,暴露了算力投入产出的失衡。鹏城实验室高文院士指出,AGI发展必须从“参数竞赛”转向算力、数据、算法的三角平衡,回归工程实效。
阅读全文2025年4月,蚂蚁集团成立AGI部门,由CTO何征宇直管,标志着其从纯金融科技向通用AI延伸。蚂蚁摒弃参数规模竞赛,坚持“通用技术+垂直场景”路线,重点深耕风控语义理解、合规智能投顾及办事型客服三大高频场景。同时,公司
阅读全文本文基于2026年上半年全球数据,复盘AI投融资市场。分析显示,资本正加速流向能创造明确商业价值的应用层(尤其是AI Agent)与底层硬科技,估值逻辑从“模型参数竞赛”转向“可验证的商业价值与规模化落地能力”。报告将深
阅读全文