TellWorldAI 世界档案
问档案English
动态
模型
机构
人物
论文与概念
产品与智能体
芯片与机器人
编年史
专题
问档案English

首页›模型

模型

Llama 4 Maverick

Llama 4 Maverick 是 Meta 于 2025 年 4 月 5 日与 Scout 同时发布的混合专家模型，总参数 4000 亿，上下文窗口为 100 万个词元。它在 LMArena 上的排名之后受到质疑。

状态 可用模态 文本、图像开放权重 是上下文（千 token） 1000 时代 生成式 AI 普及

参数量
400B
许可
开放权重
访问方式
API、应用、下载
发布日期
开发方
Meta AI

是什么

Llama 4 Maverick 是一个原生多模态的混合专家模型，于 2025 年 4 月 5 日与 Llama 4 Scout 同时发布。它拥有 170 亿活跃参数、128 个可路由专家加一个共享专家，总参数为 4000 亿。它交替使用稠密层和混合专家层，可以放进一台 NVIDIA H100 DGX 主机。[1][2] 由于每个词元只调用部分专家，计算时真正起作用的是 170 亿活跃参数，而 4000 亿总参数指的是整个网络的规模。

Maverick 是从 Llama 4 Behemoth 蒸馏（codistillation）而来的。Behemoth 是 Meta 预览过、但并未发布的更大模型。共同蒸馏的意思是，小模型与一个更大的教师模型同时训练，并从教师模型的输出中学习。[1]

由来与训练

Llama 4 系列在超过 30 万亿个词元上训练，覆盖 200 种语言，是 Llama 3 训练数据混合量的两倍多。后训练阶段，团队修剪掉了约 50% 被判定为简单的监督微调数据。[1]

Maverick 本身在约 22 万亿个词元上训练，知识截止时间为 2024 年 8 月。训练使用了 238 万 GPU 小时。[2]

主要特点

上下文窗口。 Maverick 的上下文窗口为 100 万个词元。[2]

基准成绩。 在指令微调后的基准测试中，Maverick 在 MMLU Pro 上得分 80.5，GPQA Diamond 为 69.8，LiveCodeBench 为 43.4，MMMU 为 73.4，ChartQA 为 90.0，DocVQA 为 94.4，MathVista 为 73.7。[2]

Meta 的比较。 Meta 称，Maverick 在广泛的基准上超过了 GPT-4o 和 Gemini 2.0 Flash。它还称，Maverick 在推理和编程上可与 DeepSeek V3 相比，而激活参数不到后者的一半。[1]

聊天排名。 Meta 称，Maverick 的一个实验性聊天版本在 LMArena 上获得 1417 的 Elo 分数。LMArena 是一个按人类投票对模型排名的公开排行榜。[1] 该条目名为「Llama-4-Maverick-03-26-Experimental」，是一个针对对话做过优化的版本，并非公开发布的模型。LMArena 表示，Meta 本应更清楚地说明这一点。LMArena 还公布了超过 2000 条对战结果，并更新了政策。[3]

当未经修改的公开版本 Llama-4-Maverick-17B-128E-Instruct 被加入 LMArena 时，排名为第 32 位。[4]

训练数据。 整个 Llama 4 系列的训练数据超过 30 万亿个词元。Maverick 属于该系列，因此它的训练也基于同一数据组合。[1]

许可与获取。 Maverick 以 Llama 4 Community License Agreement 发布，可在 llama.com 和 Hugging Face 获取，并在 Llama API 预览中提供。2025 年 4 月 29 日的 LlamaCon 大会上，Meta 报告 Llama 的下载量已超过 10 亿次。[2][5]

在发展中的位置

2025 年 6 月的一份备忘录宣布成立 Meta Superintelligence Labs，其中提到了 Meta 计划中的后续模型 Llama 4.1 和 4.2。[6] Meta 此后公开发布的旗舰模型是 2026 年 4 月的 Muse Spark。[6][7]

Maverick 的案例说明，模型的公开排名可能取决于测试的是哪个版本。公布的结果来自一个对话变体，而开发者下载的公开模型排名更低。[3][4]

能力大语言模型多模态

技术路线基础模型

生态与地区开源

版本时间线

9
  1. 2023
    • 2023 年 2 月 24 日 LLaMA

      Meta AI 于 2023 年 2 月发布的一系列基础语言模型，有 7B 到 65B 四种规模，只用公开数据训练；其中 13B 版本在多数基准测试上被报告优于 GPT-3。

    • 2023 年 7 月 18 日 Llama 2

      Meta 于 2023 年 7 月发布的开源权重语言模型系列，有 7B、13B、70B 三种规模，各含对话微调版本 Llama 2-Chat，并以允许研究和商业使用的自定义许可证发行。

  2. 2024
    • 2024 年 4 月 18 日 Llama 3

      Llama 3 是 Meta 于 2024 年 4 月 18 日发布的开放模型系列，有 80 亿和 700 亿参数两种规格。它在超过 15 万亿个公开来源的词元上完成预训练。

    • 2024 年 7 月 23 日 Llama 3.1（含 405B）

      Llama 3.1 于 2024 年 7 月 23 日发布，在 Llama 3 系列中加入了 4050 亿参数的模型，并把上下文扩展到 12.8 万个词元。Meta 称，这是目前最强、可公开获取的基础模型。

    • 2024 年 9 月 25 日 Llama 3.2

      Llama 3.2 于 2024 年 9 月 25 日发布，新增 110 亿和 900 亿参数的视觉模型，以及面向边缘和移动设备的 10 亿和 30 亿参数纯文本小模型。

    • 2024 年 12 月 6 日 Llama 3.3 70B

      Llama 3.3 70B 是 Meta 于 2024 年 12 月 6 日发布的纯文本指令模型。Meta 称，它的表现接近 4050 亿参数的 Llama 3.1，成本却低得多，并可在普通开发者工作站上运行。

  3. 2025
    • 2025 年 4 月 5 日 Llama 4 Scout

      Llama 4 Scout 是 Meta 于 2025 年 4 月 5 日发布的混合专家模型，总参数 1090 亿，每个词元激活其中 170 亿，上下文窗口达 1000 万个词元。

    • 2025 年 4 月 5 日 Llama 4 Maverick · 本页

      Llama 4 Maverick 是 Meta 于 2025 年 4 月 5 日与 Scout 同时发布的混合专家模型，总参数 4000 亿，上下文窗口为 100 万个词元。它在 LMArena 上的排名之后受到质疑。

  4. 2026
    • 2026 年 4 月 8 日 Muse Spark

      Muse Spark 是 Meta Superintelligence Labs 于 2026 年 4 月 8 日推出的首个模型，最初闭源，驱动 Meta AI 应用和 meta.ai，后来推出了开放权重版本。

20252

  1. 发布Meta 推出独立的 Meta AI 应用

    2025 年 4 月 29 日，Meta 推出独立的 Meta AI 应用，基于 Llama 4，支持 iOS 和 Android。应用加入了分享提示词的动态、语音对话和个性化回答。

  2. 发布Meta 发布 Llama 4 Scout 和 Maverick

    2025 年 4 月 5 日，Meta 发布 Llama 4 Scout 和 Maverick，这是首批采用混合专家（MoE）架构、原生多模态的 Llama 模型，并预览了仍在训练中的 Behemoth。

开发方1

Meta AI

基于1

Llama 4 Behemoth

后继1

Muse Spark

前代1

Llama 3.3 70B

驱动1

Meta AI 助手

采用2

Transformer 架构混合专家（MoE）

注释与来源

  1. The Llama 4 herd: The beginning of a new era of natively multimodal AI innovationhttps://ai.meta.com/blog/llama-4-multimodal-intelligence/
  2. Llama 4 model cardhttps://github.com/meta-llama/llama-models/blob/main/models/llama4/MODEL_CARD.md
  3. LMArena tightens rules after Llama 4 incidenthttps://dig.watch/updates/lmarena-tightens-rules-after-llama-4-incident
  4. Unmodified Llama 4 Maverick ranks below rivals following Meta cheating allegationshttps://www.neowin.net/news/unmodified-llama-4-maverick-ranks-below-rivals-following-meta-cheating-allegations/
  5. Everything we announced at our first-ever LlamaConhttps://ai.meta.com/blog/llamacon-llama-news/
  6. Mark Zuckerberg announces creation of Meta Superintelligence Labs. Read the memohttps://www.cnbc.com/2025/06/30/mark-zuckerberg-creating-meta-superintelligence-labs-read-the-memo.html
  7. Meta debuts the Muse Spark model in a 'ground-up overhaul' of its AIhttps://techcrunch.com/2026/04/08/meta-debuts-the-muse-spark-model-in-a-ground-up-overhaul-of-its-ai/

引用本页: Llama 4 Maverick. TellWorld, https://www.tellworld.net/zh/models/llama-4-maverick. 更新于 2026-11-08