苹果基础模型（2025）

它是什么

苹果基础模型（2025）是苹果用于 Apple 智能的语言模型的第二代。苹果于 2025 年 6 月 9 日在一年一度的开发者大会 WWDC 上发布，并于 7 月 17 日公布了技术报告^[1]。与第一代一样，它也包括两个主要模型：直接在苹果硬件上运行的端侧模型，以及运行在苹果云基础设施上的服务器模型。

语言模型是用大量文本训练出来、能够阅读和生成语言的软件。这一代模型新增的主要能力是理解图像。

由来

第一代模型是 Apple 智能上线时所用的模型，也是这一代的起点。2025 年的模型是在原有设计上的修订，而不是从头重做。苹果自己的报告介绍了架构、训练数据以及模型在设备上运行方式的变化^[1]。

主要特点

端侧模型约有 30 亿个参数，参数是训练中不断调整的网络内部数值。它的架构按 5:3 的深度比例分为两个块，第二个块复用第一个块的键值（KV）缓存。KV 缓存保存中间结果，使模型生成每个新词时无需重新计算，共享缓存使缓存所需的内存减少了 37.5%^[1]。这对内存有限的手机很重要。

端侧模型使用量化感知训练（quantization-aware training）压缩到每个权重 2 比特。这种方法在训练时就考虑压缩，使质量损失更小^[1]。

服务器模型采用了新的设计，称为并行轨道混合专家（Parallel-Track Mixture-of-Experts，PT-MoE）。在混合专家（MoE）模型中，每个输入只交给一小部分称为专家的子网络处理，而不是经过整个网络。在 PT-MoE 中，多条较小的 Transformer 轨道各自独立处理词元，只在边界处同步，每条轨道都有自己的 MoE 层^[1]。Transformer 是当前多数语言模型采用的神经网络结构。

对于长文档，苹果把预训练扩展到最多 65K 个词元，并交替使用滑动窗口注意力和全局注意力，使模型能处理较长的输入^[1]。

两个模型都支持 15 种语言，并增加了图像理解能力。服务器模型使用 10 亿参数的 ViT-g 图像编码器，端侧模型使用 3 亿参数的 ViTDet-L 编码器^[1]。图像编码器把图片转换为语言模型能够处理的数字。

训练数据包括 Applebot 抓取的网页数据、授权的出版商数据，以及超过 100 亿组图文对，另加超过 50 亿条合成图像说明。合成说明是由模型生成、而非人工撰写的图片描述^[1]。

苹果进行了人工评测，并与其他系统做了比较。在英语中，端侧模型的表现优于 Qwen-2.5-3B，与 Qwen-3-4B 和 Gemma-3-4B 不相上下。服务器模型优于 Llama 4 Scout，但落后于 Qwen-3-235B 和 GPT-4o^[1]。

面向开发者的开放

Foundation Models 框架允许开发者通过 Swift（苹果平台的编程语言）调用端侧模型。它支持以 @Generable 标记的引导式生成，即要求模型按固定结构返回结果；也支持工具调用，即让模型调用应用提供的函数。推理服务免费^[1]。该框架随 iOS 26 于 2025 年 9 月 15 日上线^[2]。

在发展中的位置

这一代是苹果最初的模型与下一代之间的衔接。苹果的第三代模型 AFM 3 于 2026 年 6 月 8 日发布，由五个模型组成，而不是两个^[3]。