TellWorldAI 世界档案
问档案English
动态
模型
机构
人物
论文与概念
产品与智能体
芯片与机器人
编年史
专题
问档案English

首页›模型

模型

模型

基础模型、生成模型、多模态和专用模型。

共 548

2023

2022

  • 2022 年 12 月 26 日 Med-PaLM 与 Med-PaLM 2

    2022 年 12 月与 2023 年 5 月两篇 arXiv 论文提出的医学问答语言模型，第一篇同时提出 MultiMedQA 基准，Med-PaLM 2 在 MedQA 上最高达到 86.5%。

    大语言模型安全与治理科学发现

  • 2022 年 12 月 13 日 RT-1 机器人变换器

    RT-1 是一个控制真实机器人的变换器模型，用 13 台机器人历时 17 个月收集的超过 13 万个回合训练，在 700 多条指令上报告了 97% 的成功率。

    研究史基础模型多模态

  • 2022 年 11 月 24 日 Stable Diffusion 2

    Stable Diffusion 2 是 Stability AI 于 2022 年 11 月 24 日发布的开源文生图模型系列，采用新的 OpenCLIP 文本编码器，并附带超分辨率、深度引导与修复模型。

    开源生成式模型创意工具

  • 2022 年 11 月 15 日 Galactica（科学大模型）

    Galactica 是 Meta AI 与 Papers with Code 于 2022 年 11 月推出的科学大语言模型。上线约三天后，Meta 撤下了公开演示，但模型仍向研究者开放。

    大语言模型研究史开源

  • 2022 年 11 月 5 日 Midjourney V4

    Midjourney V4 是 Midjourney 于 2022 年 11 月 5 日以 alpha 形式发布的第四代图像生成模型，也是该公司首批在 Google TPU 上训练的模型，图像质量较 V3 有明显提升。

    消费级应用生成式模型创意工具

  • 2022 年 10 月 GLM-130B 双语大模型

    GLM-130B 是清华大学 KEG 实验室与智谱 AI 联合发布的 1300 亿参数开源中英双语稠密语言模型，目标是在千亿参数规模上做出一个不输 GPT-3 的开放模型。

    大语言模型研究史开源

  • 2022 年 9 月 21 日 Whisper（语音识别模型）

    Whisper 是 OpenAI 开源的语音识别系统，2022 年 9 月发布，训练数据达 68 万小时，可转写多语言语音并翻译成英文。

    开源深度学习多模态

  • 2022 年 8 月 22 日 Stable Diffusion（v1）

    Stability AI 于 2022 年 8 月 22 日公开发布的开放权重文生图模型，基于潜扩散，可在消费级显卡上运行，让本地生成图像变得容易获得。

    开源生成式模型创意工具

  • 2022 年 7 月 25 日 Midjourney V3

    Midjourney V3 是 Midjourney 的第三代模型，2022 年 7 月 25 日发布，靠基于用户行为的反馈回路大幅提升出图质量；赢得科罗拉多州博览会数字艺术奖的那幅作品就出自这一时期。

    消费级应用生成式模型创意工具

  • 2022 年 7 月 12 日 BLOOM

    BLOOM是BigScience项目于2022年7月12日发布的1760亿参数开放多语言大语言模型，权重依据负责任使用的RAIL许可证提供。

    大语言模型研究史开源

  • 2022 年 5 月 23 日 Imagen

    Imagen 是 Google Research 于 2022 年 5 月发布的文本到图像扩散模型，它把冻结的大语言模型与扩散模型结合，并提出了 DrawBench 基准；Google 未公开发布其代码或演示。

    研究史生成式模型创意工具

  • 2022 年 5 月 12 日 Gato

    Gato 是 DeepMind 于 2022 年 5 月公布的通用智能体。同一套网络权重可处理文本、图像、Atari 游戏和机器人控制，目标是覆盖多种任务与具身形态。

    研究史智能体与工具调用多模态

  • 2022 年 5 月 3 日 OPT-175B（开放预训练 Transformer）

    OPT-175B 是 Meta AI 于 2022 年 5 月公布的 1750 亿参数语言模型。Meta 称，它是同等规模中首个连同预训练模型与训练、使用代码一起发布的模型。

    大语言模型研究史开源

  • 2022 年 4 月 28 日 Flamingo

    Flamingo 是 DeepMind 于 2022 年 4 月公布的视觉语言模型：输入可以是图像、视频和文字交错混排的提示，输出相应的语言，并能只靠几个示例学会新任务。

    大语言模型研究史多模态

  • 2022 年 4 月 12 日 Midjourney V2

    Midjourney V2 是 Midjourney 图像生成模型的第二个版本，2022 年 4 月 12 日发布，并在当年 7 月 V3 到来之前担任默认模型。官方后来把它描述为色彩浓烈、绘画感强，但连贯性较低。

    消费级应用生成式模型创意工具

  • 2022 年 4 月 6 日 DALL·E 2

    DALL·E 2 是 OpenAI 于2022年4月宣布的图像生成模型，支持图像变体和语言引导的编辑。其 API 于2026年5月关停。

    消费级应用生成式模型创意工具

  • 2022 年 4 月 4 日 PaLM

    PaLM 是 Google Research 于 2022 年 4 月发布的 5400 亿参数语言模型，在 6144 块 TPU v4 上训练，多项基准成绩优于此前模型。

    大语言模型研究史推理

  • 2022 年 3 月 15 日 GPT-3.5（text-davinci-002/003）

    GPT-3.5 是 OpenAI 介于 GPT-3 与 GPT-4 之间的一代语言模型，以 text-davinci-002、text-davinci-003 等 API 模型的形式发布，也是第一版 ChatGPT 的基础。

    大语言模型基础模型产品史

  • 2022 年 2 月 9 日 GPT-NeoX-20B

    GPT-NeoX-20B 是 EleutherAI 于 2022 年 2 月发布的 200 亿参数开放语言模型，权重以 Apache 2.0 协议公开，训练与评测代码一并开源。

    大语言模型研究史开源

  • 2022 年 2 月 2 日 AlphaCode

    AlphaCode 是 DeepMind 面向竞赛编程的代码生成系统，2022 年公布，在训练数据之后的 Codeforces 比赛上估计排名接近中位水平。

    大语言模型研究史代码

  • 2022 年 2 月 Midjourney V1

    Midjourney V1 是 Midjourney 在 2022 年 2 月发布的第一个图像生成模型，通过其 Discord 服务器上的机器人使用。它生成的图像抽象、带有绘画感，几个月内就被 V2 和 V3 取代。

    消费级应用生成式模型创意工具

  • 2022 年 1 月 27 日 InstructGPT

    InstructGPT 是一组经过人类反馈强化学习训练、能遵循用户指令的 GPT-3 模型。OpenAI 于2022年1月宣布该成果，并将其设为 API 的默认语言模型。

    大语言模型研究史基础模型

2021

  • 2021 年 12 月 23 日 文心 ERNIE 3.0 Titan

    文心 ERNIE 3.0 Titan 是一个参数规模超过 2600 亿的中文预训练语言模型，作者称其为当时最大的中文稠密预训练模型，并报告它在 68 个自然语言处理数据集上超过了此前的先进模型。

    大语言模型研究史中国 AI

  • 2021 年 12 月 8 日 Gopher

    Gopher 是 DeepMind 于 2021 年 12 月公布的 2800 亿参数大语言模型，同时被用来研究规模究竟能带来什么、不能带来什么。

    大语言模型研究史欧洲 AI

  • 2021 年 10 月 11 日 Megatron-Turing NLG 530B

    NVIDIA 与微软 2021 年 10 月联合发布的 5300 亿参数语言模型，为当时最大的单体 Transformer 语言模型。

    大语言模型基础模型硬件与算力

  • 2021 年 8 月 Jurassic-1

    Jurassic-1 是 AI21 Labs 的第一个大语言模型系列，2021年8月随开发者平台 AI21 Studio 发布，其中最大的 Jumbo 版本拥有 1780 亿参数。

    大语言模型基础模型开发者工具

  • 2021 年 7 月 15 日 RoseTTAFold

    RoseTTAFold 是贝克实验室 2021 年发表的三轨神经网络蛋白质结构预测方法，在 CASP14 上精度接近 AlphaFold2，能仅凭序列预测蛋白质复合物，代码公开并配有公共服务器。

    研究史开源深度学习

  • 2021 年 7 月 7 日 OpenAI Codex（2021 代码模型）

    OpenAI Codex 是2021年发布的 GPT 语言模型，在 GitHub 的公开代码上微调而成，能把自然语言翻译成代码，并随 HumanEval 基准测试一同提出。

    大语言模型研究史开发者工具

  • 2021 年 7 月 5 日 文心 ERNIE 3.0

    文心 ERNIE 3.0 是 2021 年公布的大规模预训练语言模型，参数量 100 亿，把纯文本与大规模知识图谱一起用于训练，并融合自回归与自编码两种网络，让同一个模型既能做语言理解也能做生成。

    大语言模型研究史中国 AI

  • 2021 年 6 月 GPT-J-6B

    GPT-J-6B 是 EleutherAI 于 2021 年 6 月发布的约 60 亿参数开源语言模型，以 Apache 2.0 许可开放，公开基准成绩接近 GPT-3 Curie，是当时最大的开源类 GPT-3 模型。

    大语言模型研究史开源

  • 2021 年 5 月 18 日 LaMDA

    LaMDA 是 Google 在 2021 年公布的一系列对话语言模型，2022 年的论文详述了它在安全性与事实依据方面的做法，后来其轻量版驱动了 Bard。

    大语言模型研究史消费级应用

  • 2021 年 3 月 21 日 GPT-Neo

    GPT-Neo 是 EleutherAI 于 2021 年 3 月发布的一组开放文本生成模型，含 125M、1.3B、2.7B 三种规模，意在复现 GPT-3 架构，权重可自由下载，采用 MIT 许可证。

    大语言模型研究史开源

  • 2021 年 1 月 5 日 CLIP（对比语言-图像预训练）

    OpenAI 于 2021 年发布的图像-文本模型，用约 4 亿对图文数据训练，靠把图像与文字提示逐一比对来完成分类，不需要针对具体任务的训练。

    开源基础模型多模态

  • 2021 年 1 月 5 日 DALL·E（初代）

    DALL·E 是 OpenAI 于 2021 年 1 月 5 日公布的文本生成图像模型，用 120 亿参数和 2.5 亿对图文数据训练，按文字描述逐个图像词元生成图片。

    多模态生成式模型创意工具

2020

  • 2020 年 11 月 30 日 AlphaFold2

    AlphaFold2 是 DeepMind 于 2020 年公布的蛋白质结构预测系统，在多数情况下达到与实验结构相当的精度；相关领域的工作获得 2024 年诺贝尔化学奖的一半奖项。

    研究史深度学习科学发现

  • 2020 年 5 月 28 日 GPT-3

    GPT-3 是一个拥有 1750 亿参数的自回归语言模型，相关论文发表于2020年5月。它能在提示词中仅凭少量示例完成新任务，无需梯度更新，最初通过 OpenAI 的 API 提供。

    大语言模型研究史基础模型

  • 2020 年 1 月 28 日 Meena

    Meena 是 Google 的开放域聊天机器人，26 亿参数，端到端训练在过滤后的社交媒体对话上。论文提出 SSA 人工评测指标，并把下一词困惑度与人类判定的对话质量联系起来。这项工作后来更名为 LaMDA。

    大语言模型研究史消费级应用

2019

  • 2019 年 11 月 19 日 MuZero

    MuZero 是 DeepMind 的强化学习算法，将树搜索与学习到的模型结合，在未被告知环境规则的情况下，于 Atari、围棋、国际象棋和将棋上达到超人类水平。

    研究史深度学习推理

  • 2019 年 10 月 23 日 T5（文本到文本迁移 Transformer）

    T5 是 Google 的 Transformer 语言模型系列，把所有语言任务统一成「文本输入、文本输出」。其 110 亿参数版本在多项基准上取得当时最好成绩，代码、预训练模型与 C4 数据集均公开。

    大语言模型开源基础模型

  • 2019 年 7 月 29 日 文心 ERNIE 2.0

    文心 ERNIE 2.0 是百度提出的预训练语言模型框架，以持续多任务学习的方式不断叠加预训练任务，并在中英文多项基准上报告了超过 BERT 与 XLNet 的成绩。

    大语言模型研究史开源

  • 2019 年 3 月 文心 ERNIE 1.0

    百度于 2019 年 3 月发布的第一代 ERNIE 预训练语言模型，在 BERT 的掩码预训练基础上加入实体级和短语级掩码，并在五项中文 NLP 任务上报告了当时最好的成绩。

    大语言模型研究史开源

  • 2019 年 2 月 14 日 GPT-2

    GPT-2 是 OpenAI 于2019年2月宣布的大型语言模型，最大版本有 15 亿参数。OpenAI 起初没有公开完整模型，随后分阶段发布，直到2019年11月才发布完整版本。

    大语言模型开源基础模型

  • 2019 年 1 月 AlphaStar

    AlphaStar 是 DeepMind 开发的《星际争霸 II》AI。2019 年它在三个种族上都达到宗师水平，在 Battle.net 活跃玩家中排名超过 99.8%。

    研究史深度学习推理

2018