首页›模型
模型
模型
基础模型、生成模型、多模态和专用模型。
共 30 · 清除筛选
2025
-
2025 年 5 月 1 日
Falcon-H1（Transformer + Mamba 混合模型）
Falcon-H1 是 Falcon 系列的一组开放权重语言模型，把 Transformer 注意力与状态空间模型并行组合，参数规模从 0.5B 到 34B，权重以 Falcon-LLM Licence 发布。
2024
-
2024 年 10 月 22 日
Stable Diffusion 3.5
Stability AI 于 2024 年 10 月推出的文生图模型系列：81 亿参数的 Large、4 步出图的 Large Turbo 和 25 亿参数的 Medium，按社区许可发布。
-
2024 年 7 月 23 日
Llama 3.1（含 405B）
Llama 3.1 于 2024 年 7 月 23 日发布，在 Llama 3 系列中加入了 4050 亿参数的模型，并把上下文扩展到 12.8 万个词元。Meta 称，这是目前最强、可公开获取的基础模型。
-
2024 年 6 月 13 日
OpenVLA
OpenVLA 是一个 70 亿参数的开源视觉-语言-动作模型，在 97 万条真实机器人演示上训练，权重、代码与微调工具一并公开，让其他团队能在自己的机器人上微调和部署。
-
2024 年 4 月 18 日
Llama 3
Llama 3 是 Meta 于 2024 年 4 月 18 日发布的开放模型系列，有 80 亿和 700 亿参数两种规格。它在超过 15 万亿个公开来源的词元上完成预训练。
-
2024 年 2 月 22 日
Stable Diffusion 3
Stable Diffusion 3 由 Stability AI 于2024年2月22日预览发布，是一组参数从8亿到80亿不等的模型，结合了扩散 Transformer 与流匹配（flow matching）。
-
2024 年 2 月 21 日
Gemma
Gemma 是 Google DeepMind 于 2024 年 2 月发布的轻量级开放模型系列，有 2B 和 7B 两个规模，技术与 Gemini 同源，并按 Google 的使用条款开放商用。
2023
-
2023 年 11 月 3 日
Grok-1
Grok-1 是 xAI 的首个大语言模型，2023 年 11 月 3 日作为 Grok 聊天助手的引擎公布，其 3140 亿参数的权重于 2024 年 3 月开放。
-
2023 年 9 月 27 日
Mistral 7B
Mistral AI 的第一个模型：2023 年 9 月以 Apache 2.0 许可发布的 73 亿参数语言模型，主打用小体量对标大得多的模型。
-
2023 年 7 月 28 日
RT-2（机器人 Transformer 2）
RT-2 是 Google DeepMind 2023 年 7 月 28 日公布的视觉-语言-动作模型，把图像和文字指令转成机器人动作，陌生场景成功率从 32% 升至 62%。
-
2023 年 5 月 10 日
PaLM 2
PaLM 2 是 Google 于 2023 年 5 月 10 日发布的第二代 Pathways 语言模型，分为四个规模，被用于包括 Bard 在内的 25 个以上 Google 产品。
-
2023 年 4 月 19 日
Stable LM
Stable LM 是 Stability AI 于 2023 年 4 月发布的开源语言模型系列，首批为 30 亿和 70 亿参数的 alpha 版；基础模型允许商用，指令微调版本仅限研究。
2022
-
2022 年 12 月 13 日
RT-1 机器人变换器
RT-1 是一个控制真实机器人的变换器模型，用 13 台机器人历时 17 个月收集的超过 13 万个回合训练，在 700 多条指令上报告了 97% 的成功率。
-
2022 年 5 月 3 日
OPT-175B（开放预训练 Transformer）
OPT-175B 是 Meta AI 于 2022 年 5 月公布的 1750 亿参数语言模型。Meta 称，它是同等规模中首个连同预训练模型与训练、使用代码一起发布的模型。
-
2022 年 4 月 4 日
PaLM
PaLM 是 Google Research 于 2022 年 4 月发布的 5400 亿参数语言模型，在 6144 块 TPU v4 上训练，多项基准成绩优于此前模型。
-
2022 年 2 月 2 日
AlphaCode
AlphaCode 是 DeepMind 面向竞赛编程的代码生成系统，2022 年公布，在训练数据之后的 Codeforces 比赛上估计排名接近中位水平。
2021
-
2021 年 12 月 8 日
Gopher
Gopher 是 DeepMind 于 2021 年 12 月公布的 2800 亿参数大语言模型，同时被用来研究规模究竟能带来什么、不能带来什么。
-
2021 年 10 月 11 日
Megatron-Turing NLG 530B
NVIDIA 与微软 2021 年 10 月联合发布的 5300 亿参数语言模型，为当时最大的单体 Transformer 语言模型。
-
2021 年 7 月 5 日
文心 ERNIE 3.0
文心 ERNIE 3.0 是 2021 年公布的大规模预训练语言模型，参数量 100 亿，把纯文本与大规模知识图谱一起用于训练，并融合自回归与自编码两种网络，让同一个模型既能做语言理解也能做生成。
-
2021 年 5 月 18 日
LaMDA
LaMDA 是 Google 在 2021 年公布的一系列对话语言模型，2022 年的论文详述了它在安全性与事实依据方面的做法，后来其轻量版驱动了 Bard。
-
2021 年 1 月 5 日
CLIP（对比语言-图像预训练）
OpenAI 于 2021 年发布的图像-文本模型，用约 4 亿对图文数据训练，靠把图像与文字提示逐一比对来完成分类，不需要针对具体任务的训练。
-
2021 年 1 月 5 日
DALL·E（初代）
DALL·E 是 OpenAI 于 2021 年 1 月 5 日公布的文本生成图像模型，用 120 亿参数和 2.5 亿对图文数据训练，按文字描述逐个图像词元生成图片。
2020
2019
-
2019 年 10 月 23 日
T5（文本到文本迁移 Transformer）
T5 是 Google 的 Transformer 语言模型系列，把所有语言任务统一成「文本输入、文本输出」。其 110 亿参数版本在多项基准上取得当时最好成绩，代码、预训练模型与 C4 数据集均公开。
-
2019 年 7 月 29 日
文心 ERNIE 2.0
文心 ERNIE 2.0 是百度提出的预训练语言模型框架，以持续多任务学习的方式不断叠加预训练任务，并在中英文多项基准上报告了超过 BERT 与 XLNet 的成绩。
-
2019 年 3 月
文心 ERNIE 1.0
百度于 2019 年 3 月发布的第一代 ERNIE 预训练语言模型，在 BERT 的掩码预训练基础上加入实体级和短语级掩码，并在五项中文 NLP 任务上报告了当时最好的成绩。
-
2019 年 2 月 14 日
GPT-2
GPT-2 是 OpenAI 于2019年2月宣布的大型语言模型，最大版本有 15 亿参数。OpenAI 起初没有公开完整模型，随后分阶段发布，直到2019年11月才发布完整版本。