先别急着看参数。这个标题里有两件事需要先钉死:Meta 是否真的发布了 Llama 4.1,以及所谓300B模型究竟以什么方式在消费级显卡上“跑通”。现有材料给不出这两个答案。
能确认的发布是 Llama 4
新华网2025年4月8日援引路透社报道称,Meta 于当地时间4月6日推出 Llama 4,当时公布的版本是 Scout 和 Maverick。
其中,Scout 配备170亿活跃参数、16个专家模型,总参数为1090亿。Llama 4采用混合专家架构,也就是把模型划分为多个处理不同任务的“专家”,执行推理时只调动其中一部分,以降低实际计算负担。
同一天发布的华鑫证券计算机行业周报,标题同样写的是“Llama 4多版本参数亮眼”,没有提到 Llama 4.1。给出的材料里,也找不到 Meta 关于 Llama 4.1 的发布说明、模型卡或下载页面。
更关键的是,素材中唯一直接讨论 Llama 4.1 的页面,反而不支持原标题。这篇标题标注“2026”的第三方比较博客把相关模型写成400B MoE,而不是300B;文章自己的判断是,400B MoE版本在任何量化方式下都无法塞进消费级硬件。它提到了24GB显存的4090D,却没有在摘要中给出可复现的运行配置。
一篇比较博客不能代替官方发布记录,更不能单独证明“300B已经跑通”。
170亿活跃参数,不等于只需装下170亿参数
混合专家模型最容易造成一种参数错觉:总参数很大,活跃参数较小,于是看起来像是用更少的硬件就能运行完整模型。
Scout 的数字很具体——1090亿总参数,170亿活跃参数。后者描述的是推理时参与计算的参数规模,并不意味着其余权重从模型中消失了。完整权重仍然需要存放,只是可以被安排在显存、系统内存或其他介质中,再由推理框架按需调用。
这也是“在消费级显卡上跑通”最含糊的地方。它可能指全部权重驻留显存,也可能是显卡配合大容量系统内存进行卸载;可能只是成功生成了第一个 token,也可能已经能稳定对话。几种情况的使用体验完全不同,却经常被压缩成同一句标题。
如果没有完整配置,“跑通”最多只能说明某条推理链路完成了输出,不能证明300B权重全部进入了消费级显存,更不能证明速度已经适合日常使用。
一次可信的本地部署,应该留下这些信息
判断超大模型是否真的能在消费级设备上使用,至少要知道模型的准确版本、量化格式、推理框架、显卡型号和数量、系统内存、是否使用CPU卸载、上下文长度以及实际生成速度。
这些信息缺一部分,结论就要相应收窄。只有一张输出截图,只能证明模型曾经“出过字”;没有速度和上下文记录,无法判断它能否持续工作;没有说明量化方式,也无法评估模型效果为节省内存付出了多少代价。
现有素材里唯一明确出现的消费级硬件是4090D,显存为24GB。但相关页面没有提供 Llama 4.1 或300B模型在这张卡上的完整测试过程,因此不能把它写成已经发生的部署案例。
“开放下载”和“开源”也不是一回事
新华网在报道中把 Llama 4称为开源人工智能模型。另一份素材中,Joseph Wang 在Facebook帖文中提醒,不要急着把 Llama 4称为“开源”,并把讨论重点放在授权条款上。
由于现有摘要没有提供完整条款,无法进一步判断具体限制。但对开发者来说,模型可以下载、可以本地部署,以及授权范围是否足够宽松,本来就是三件不同的事。
目前更稳妥的结论是:Llama 4借助混合专家架构,拉开了总参数与活跃参数之间的差距,也给本地推理优化留下了空间;但现有材料不足以证明 Llama 4.1 已经发布,更不足以证明300B模型已在消费级显卡上实现可用部署。真正值得讨论的突破,应当落在量化、卸载和推理框架的完整实测上,而不是只看参数标签。