AI 纪元 追踪人工智能最新进展,深度解读前沿技术

Llama 4发布:千万级上下文与开源倒退的争议

2025年4月Meta发布Llama 4,凭借1000万token上下文和MoE架构重夺开源关注度。然而智源社区实测指出其基准测试全面倒退。在DeepSeek等模型崛起、端侧算力受限的背景下,Llama 4的“参数减半、体验翻车”引发开源生态对模型评估体系与商业化落地的深刻反思。

0 次阅读 约 2241 字 4 分钟 AI 生成
A sleek, modern server rack with a cracked glass front panel revealing chaotic internal wiring
A sleek, modern server rack with a cracked glass front panel revealing chaotic internal wiring

4月6日晚,Meta AI 悄无声息地将 Llama 4 的三个版本推上了 Hugging Face。没有盛大的发布会,没有 CEO 的演讲,只有 Scout、Maverick 和尚未放出的 Behemoth 三个文件名。对于习惯了开源圈“造星运动”的开发者来说,这种低调反而透着一种紧迫感:Meta 需要重新抢回那个正在被 DeepSeek 和千问系列蚕食的“开源第一”头衔。

规格表确实华丽得令人眩晕。Scout 版本拥有 1090 亿总参数,但激活参数仅为 170 亿;Maverick 则是 4000 亿总参数搭配同样的 170 亿激活参数。两者均采用了混合专家(MoE)架构,这意味着在同等算力下,推理效率有望大幅提升。更吸睛的是,Meta 宣布原生支持 1000 万 token 的上下文窗口。在长文档处理、代码库全量分析成为刚需的 2025 年,这个数字几乎是当时闭源模型竞品的十倍。据新华网 4 月 8 日报道,Llama 4 被定位为 Meta “迄今最先进的模型”,特别是在多模态能力上,它原生支持图文输入,试图打通从文本到视觉理解的最后一块拼图。

然而,开源社区的欢呼声还没持续 24 小时,质疑声就如潮水般涌来。智源社区(BAAI)发布了一份详尽的评测报告,标题直白而刺耳:“Llama 4 是开源模型的全面倒退。”

这份报告的数据并不好看。在 MMLU、GSM8K 等主流基准测试中,Llama 4 Scout 的表现甚至不及 Llama 3.1 8B 版本。代码生成能力更是短板,尽管 Meta 宣称其代码能力与 DeepSeek 相当,但在实际的多轮代码调试场景中,Llama 4 的逻辑连贯性出现了明显的断裂。一位资深后端工程师在评论区留言:“我拿它重构了一段 Spring Boot 的微服务逻辑,结果它把事务注解加到了查询方法上,这种低级错误在 Llama 3 时代很少见。”

为什么会出现这种“纸面最强,实战最弱”的反差?核心矛盾在于 MoE 架构的训练难度与上下文窗口的稀释效应。为了塞进 1000 万 token 的上下文,模型必须处理海量的历史状态。智源社区的分析指出,Llama 4 在长上下文测试中出现了严重的“迷失中间”现象——即在长文档的中段,注意力机制会显著衰减,导致模型“忘记”前面的关键指令。相比之下,此前发布的 Gemini 3 虽然引入了昂贵的“慢思考”模式来提升推理深度(参见《Gemini 3 的慢思考模式:为什么变慢反而更贵》),但 Llama 4 似乎试图通过纯粹的参数堆叠来解决所有问题,却在训练数据的质量控制上失守。

这种失误在当时的行业背景下显得尤为致命。2025 年初,DeepSeek 凭借同等代码能力但减半的参数规模,迅速占据了开发者的心智。Llama 4 的发布本应是一场“参数复仇”,结果却变成了一次“口碑滑铁卢”。更糟糕的是,开源生态的竞争维度已经改变。过去拼的是谁能跑通更大的模型,现在拼的是谁能以更低的成本提供更高的可用性。

看看同期的其他玩家就知道局势有多严峻。就在 Llama 4 发布的前一个月,阿里平头哥推出了玄铁 C950 芯片,主频 3.2GHz,原生支持千亿参数大模型的端侧推理(参见《玄铁 C950 跑通千亿参数大模型,平头哥重注 RISC-V 端侧算力》)。而在算力端,华为昇腾 910C 集群刚刚跑通了 1.6 万亿参数的 DeepSeek-V4-Pro 后训练(参见《昇腾 910C 跑通 1.6 万亿参数:国产算力的硬账与门槛》)。这些进展表明,行业重心正在从“云端大模型的参数军备竞赛”转向“端云协同与算力效率的精算时代”。

Llama 4 的“倒退”不仅是技术层面的,更是战略层面的误判。它低估了开发者对“可用即正义”的渴望。当用户只需要 170 亿激活参数就能获得流畅的体验时,他们并不关心总参数是否达到了 1000 亿。如果为了追求 1000 万 token 的上下文,而牺牲了响应速度和逻辑准确性,那么这个特性在大多数商业场景中就成了累赘。

这也让开源微调(Fine-tuning)的难度陡然增加。对于许多中小企业而言,基于 Llama 3.1 的微调已经形成了成熟的产业链。突然切换到 Llama 4,意味着需要重新清洗数据、调整训练超参数,而换来的却是基准分数的下降。这种“升级成本”让很多团队望而却步。正如《AI 营销频频触红线》一文中提到的,企业在合规与技术选型上的容错率正在降低,任何一次技术栈的盲目切换都可能带来不可控的风险。

不过,Meta 并未因此退缩。Behemoth 版本的预告暗示了更大规模的野心。但在此之前,Llama 4 留给开源社区的教训是深刻的:在模型能力趋于饱和的今天,单纯的参数膨胀和上下文堆砌不再是护城河。真正的竞争力,来自于如何在有限的算力资源下,提供稳定、可解释且高效的推理服务。

与此同时,国内厂商则在另一条赛道上狂奔。从人形机器人在工厂场景的落地(参见《从工厂搬运到家庭客厅,人形机器人还要走多远》),到自动驾驶 L3 定责规则的细化(参见《深圳 L3 上路记:当智驾定责遇上车企兜底》),中国 AI 产业正在经历一场从“算法炫技”到“场景深耕”的硬仗。Llama 4 的争议,或许正是全球 AI 行业从狂热走向理性的一个缩影。当潮水退去,那些能够真正解决业务痛点、降低部署门槛的模型,才会被开发者长久地记住。

相关阅读