Gemma 3n

是什么

Gemma 3n 是 Gemma 家族中一个以移动端为先的开放模型（open model），于 2025 年 6 月 26 日完整发布。^[1] Google 在 Gemma 3n 的模型页面上把它描述为面向手机、笔记本和平板这类日常设备优化的生成式 AI 模型。^[2] 这一定位几乎决定了它的全部设计取舍。要在手机上运行的模型，内存和算力都有硬上限，下面这些设计都是对这些上限的回应。

两个规格，两种内存占用

Gemma 3n 有 E2B 和 E4B 两个规格，原始参数量分别是 50 亿和 80 亿，但运行时分别只占用约 2 GB 和 3 GB 内存。^[1] 参数量和内存占用并不相等，这个差额是有意为之。Google 的 Gemma 3n 模型页面说明，运行 E2B 时会加载超过 50 亿个参数，而有效内存占用略低于 20 亿，具体为 19.1 亿。^[2] 对一台设备来说，后一个数字才决定模型装不装得下。

MatFormer 与逐层嵌入

两个机制造成了这种差额。第一个是 MatFormer，全称「Matryoshka Transformer」（套娃式 Transformer），这种架构把一个功能完整的小模型嵌套在一个更大的模型内部。^[1] 名字来自俄罗斯套娃，思路也一致：大模型里装着小模型，小模型可以单独使用。第二个是逐层嵌入（Per-Layer Embeddings），它让相当一部分参数可以加载到 CPU 上。^[1] 两者合起来，就是原始参数量和运行时内存占用会相差这么多的原因：模型承载的东西可以按需加载，而不必一次性全放在同一块内存里。

能接受什么输入

Gemma 3n 原生接受图像、音频、视频和文本输入，输出文本。^[1] 文本支持 140 种语言，多模态理解支持 35 种语言。^[1] 输出一侧只有文本，这一点值得说明：它读图、听声音、看视频，然后用文字回答。

成绩

Google 表示，E4B 是首个在 LMArena 上得分超过 1300 的 100 亿参数以下模型。^[1] 这是发布方就小模型之间的相对位置给出的说法。

怎么跑起来

Google 表示 Gemma 3n 提供多种部署方式，包括 Google GenAI API 和 Vertex AI。^[1] 开发者指南列出的运行时与部署工具包括 Ollama、MLX、llama.cpp、vLLM 和 SGLang。^[1] 对一个主打设备的模型来说，这种覆盖面有实际意义：同一套权重可以在不同的软件栈里运行，而不必绑定在某一种上。

在发展中的位置

在 Gemma 家族里，Gemma 3n 是围绕设备构建的那一个，它的规格表是按手机能腾出多少内存来写的。对关注小模型的人来说，它把一组取舍摆到了明面上：一个模型的大小，既可以用参数量来报，也可以用它在用户手边那台设备上需要多少内存来报，而 Gemma 3n 的设计正是让这两个数字拉开距离。