TellWorldAI 世界档案
问档案English
动态
模型
机构
人物
论文与概念
产品与智能体
芯片与机器人
编年史
专题
问档案English

首页›模型

模型

Llama 4 Scout

Llama 4 Scout 是 Meta 于 2025 年 4 月 5 日发布的混合专家模型，总参数 1090 亿，每个词元激活其中 170 亿，上下文窗口达 1000 万个词元。

状态 可用模态 文本、图像开放权重 是上下文（千 token） 10000 时代 生成式 AI 普及

参数量
109B
许可
开放权重
访问方式
API、应用、下载
发布日期
开发方
Meta AI

是什么

Llama 4 Scout 属于 Llama 4 系列，该系列由 Meta 于 2025 年 4 月 5 日发布。这一系列是 Meta 首批混合专家（mixture-of-experts）模型，也是首批原生多模态的 Llama 模型。原生多模态指文本和视觉从一开始就在同一个模型中处理，采用文本与视觉词元的早期融合（early fusion），而不是事后再接上一个视觉组件。[1]

混合专家模型把网络拆分为许多称为专家的专门子网络，并把每个词元分配给其中少数几个。处理一个词元时，只有激活的参数参与计算，因此大模型的运行成本可能低于其总参数量所显示的水平。

由来与训练

Scout 拥有 170 亿活跃参数、16 个专家和 1090 亿总参数。Meta 称，经过 Int4 量化后，它可以放进一块 NVIDIA H100 GPU。[1][2]

它在约 40 万亿个文本、图像和视频数据的词元上训练，知识截止时间为 2024 年 8 月。训练使用了 500 万 GPU 小时。[2]

主要特点

上下文窗口。 Scout 的上下文窗口为 1000 万个词元，Llama 3 为 128K。上下文窗口是模型一次能够同时考虑的文本量，以词元计算。Scout 在预训练和后训练阶段都使用了 256K 的上下文。[1][2]

结构。 Scout 采用 iRoPE 设计，即交错的注意力层，且这些层不使用位置嵌入。它的视觉编码器基于 MetaCLIP。[1]

基准成绩。 在指令微调后的基准测试中，Scout 在 MMLU Pro 上得分 74.3，GPQA Diamond 为 57.2，LiveCodeBench 为 32.8，MMMU 为 69.4，ChartQA 为 88.8，DocVQA 为 94.4，MathVista 为 70.7。[2] 基准是标准化的测试集，这些分数适合在同一任务上比较模型，但并不能预测所有实际用途的表现。

图像定位。 Meta 称 Scout 在图像定位（image grounding）方面同类最佳，即把请求中的词语与图像中对应的部分联系起来。[1]

语言。 Scout 官方支持 12 种语言：阿拉伯语、英语、法语、德语、印地语、印尼语、意大利语、葡萄牙语、西班牙语、他加禄语、泰语和越南语。[2]

许可与获取。 Scout 以 Llama 4 Community License Agreement 发布，可从 llama.com 和 Hugging Face 下载。[2][1] 它也在 Meta 的 Llama API 有限预览中提供，该预览于 2025 年 4 月 29 日的 LlamaCon 大会上宣布。[3]

Meta AI。 WhatsApp、Messenger、Instagram Direct 和 meta.ai 上的 Meta AI 已改为基于 Llama 4 构建。[1]

同系列模型。 Scout 与 Llama 4 Maverick 同时发布。Llama 4 Behemoth 仅作了预览，并未发布。[1]

在发展中的位置

Scout 与此前 Llama 模型的主要区别在于上下文长度。从 128K 提升到 1000 万个词元，意味着一次请求可以包含远多于以往的文本、图像或视频。

Scout 与 Maverick 一起，体现了 Meta 转向混合专家设计的做法。规模更大的 Maverick 属于同一系列，并在同一天发布。[1]

能力大语言模型多模态

技术路线基础模型

生态与地区开源

版本时间线

9
  1. 2023
    • 2023 年 2 月 24 日 LLaMA

      Meta AI 于 2023 年 2 月发布的一系列基础语言模型，有 7B 到 65B 四种规模，只用公开数据训练；其中 13B 版本在多数基准测试上被报告优于 GPT-3。

    • 2023 年 7 月 18 日 Llama 2

      Meta 于 2023 年 7 月发布的开源权重语言模型系列，有 7B、13B、70B 三种规模，各含对话微调版本 Llama 2-Chat，并以允许研究和商业使用的自定义许可证发行。

  2. 2024
    • 2024 年 4 月 18 日 Llama 3

      Llama 3 是 Meta 于 2024 年 4 月 18 日发布的开放模型系列，有 80 亿和 700 亿参数两种规格。它在超过 15 万亿个公开来源的词元上完成预训练。

    • 2024 年 7 月 23 日 Llama 3.1（含 405B）

      Llama 3.1 于 2024 年 7 月 23 日发布，在 Llama 3 系列中加入了 4050 亿参数的模型，并把上下文扩展到 12.8 万个词元。Meta 称，这是目前最强、可公开获取的基础模型。

    • 2024 年 9 月 25 日 Llama 3.2

      Llama 3.2 于 2024 年 9 月 25 日发布，新增 110 亿和 900 亿参数的视觉模型，以及面向边缘和移动设备的 10 亿和 30 亿参数纯文本小模型。

    • 2024 年 12 月 6 日 Llama 3.3 70B

      Llama 3.3 70B 是 Meta 于 2024 年 12 月 6 日发布的纯文本指令模型。Meta 称，它的表现接近 4050 亿参数的 Llama 3.1，成本却低得多，并可在普通开发者工作站上运行。

  3. 2025
    • 2025 年 4 月 5 日 Llama 4 Scout · 本页

      Llama 4 Scout 是 Meta 于 2025 年 4 月 5 日发布的混合专家模型，总参数 1090 亿，每个词元激活其中 170 亿，上下文窗口达 1000 万个词元。

    • 2025 年 4 月 5 日 Llama 4 Maverick

      Llama 4 Maverick 是 Meta 于 2025 年 4 月 5 日与 Scout 同时发布的混合专家模型，总参数 4000 亿，上下文窗口为 100 万个词元。它在 LMArena 上的排名之后受到质疑。

  4. 2026
    • 2026 年 4 月 8 日 Muse Spark

      Muse Spark 是 Meta Superintelligence Labs 于 2026 年 4 月 8 日推出的首个模型，最初闭源，驱动 Meta AI 应用和 meta.ai，后来推出了开放权重版本。

20251

  1. 发布Meta 发布 Llama 4 Scout 和 Maverick

    2025 年 4 月 5 日，Meta 发布 Llama 4 Scout 和 Maverick，这是首批采用混合专家（MoE）架构、原生多模态的 Llama 模型，并预览了仍在训练中的 Behemoth。

开发方1

Meta AI

前代1

Llama 3.3 70B

驱动1

Meta AI 助手

采用2

Transformer 架构混合专家（MoE）

注释与来源

  1. The Llama 4 herd: The beginning of a new era of natively multimodal AI innovationhttps://ai.meta.com/blog/llama-4-multimodal-intelligence/
  2. Llama 4 model cardhttps://github.com/meta-llama/llama-models/blob/main/models/llama4/MODEL_CARD.md
  3. Everything we announced at our first-ever LlamaConhttps://ai.meta.com/blog/llamacon-llama-news/

引用本页: Llama 4 Scout. TellWorld, https://www.tellworld.net/zh/models/llama-4-scout. 更新于 2026-11-08