大语言模型

加拿大计算机科学家，其在序列模型、词嵌入和注意力机制上的工作，为现代语言模型奠定了重要基础。他与杰弗里·辛顿、杨立昆共享2018年ACM A.M.图灵奖。

微软是一家成立于 1975 年的美国科技公司，总部位于华盛顿州雷德蒙德。它的 AI 业务一方面与 OpenAI 合作，一方面推出 Copilot 产品，并自研 MAI 和 Phi 系列模型。

达里奥·阿莫代伊（Dario Amodei）是Anthropic的联合创始人兼CEO。他此前在OpenAI担任研究副总裁，并参与了GPT-2和GPT-3等研究。

萨姆·奥尔特曼（Sam Altman）是OpenAI的联合创始人兼CEO，曾任Y Combinator总裁。2023年他一度被董事会罢免，数日后复职。

以色列裔加拿大计算机科学家，1986 年生；参与构建 AlexNet，共同创办 OpenAI 并任首席科学家，2024 年创办 Safe Superintelligence Inc.

这篇 1997 年的论文提出了带门控的记忆单元和「恒定误差传送带」，使循环网络能跨越很长的时间间隔学习，塑造了 Transformer 出现前的许多模型。

字节跳动是 2012 年成立的中国互联网公司，AI 业务包括豆包、TRAE、Seed 模型团队以及火山引擎云平台。[^1]

Meta AI 是 Meta Platforms 的人工智能研究与模型机构，2013 年以 FAIR 之名成立，推出了 PyTorch 以及 Llama、Muse 等模型系列。

注意力机制让神经网络按相关程度为输入各部分分配权重。自注意力（self-attention）将其用于序列内部，是 Transformer 的核心运算。

Bahdanau、Cho 与 Bengio 2014 年的这篇论文让翻译模型在生成每个词时回看整个源句，这一注意力（attention）机制后来成为 Transformer 的基础之一。

Sutskever、Vinyals 与 Le 2014 年的这篇论文表明，两个 LSTM 可以完成翻译并超过基于短语的基线，确立了后来翻译模型常用的编码器-解码器模式。

OpenAI 是总部位于旧金山的 AI 研究与部署公司，2015年以非营利组织成立，开发 GPT 系列模型和 ChatGPT，2026年6月秘密提交 IPO 申请。

NVIDIA 首款基于 Volta 架构的数据中心 GPU，2017 年 5 月发布。它引入张量核心专门加速矩阵乘法；OpenAI 后来的 GPT-3 系列模型即在 V100 上训练。

RLHF 让模型朝人们偏好的方向改进：先由人类比较模型输出，训练出奖励模型（reward model），再用强化学习让主模型在它上面得分更高。这已成为构建聊天助手的标准步骤。

2017 年提出 Transformer 的论文。这一完全基于注意力、不使用循环结构的神经网络在机器翻译上刷新了当时的最好成绩，此后几乎所有大语言模型都以它为基础架构。

Transformer 是2017年提出的神经网络架构，用自注意力取代了循环和卷积结构，今天大多数大语言模型都以它为基础。

预训练（pre-training）用海量无标注文本训练大模型，微调（fine-tuning）用少量标注数据使其适应具体任务。

OpenAI 在 2018 年发表的 GPT 论文：先用海量无标注文本训练 Transformer 解码器预测下一个词，再针对具体任务微调。它在研究的 12 项任务中有 9 项刷新了最好成绩。

BERT 是 Google 的双向语言模型，通过遮盖部分词再还原的方式预训练，微调后在问答和语言理解基准上刷新成绩，并被用于 Google 搜索。

Google 在 2018 年提出的 BERT，只用 Transformer 编码器，能同时利用前后文，并通过遮词预训练。它在 11 项语言任务上刷新成绩，使「预训练后微调」成为常规做法。

检索增强生成（RAG）让语言模型在回答前先从外部库中取回相关文档并放进提示词，从而用上训练数据之外的知识，也能标出答案的来源。

OpenAI 研究者在 2020 年发表的论文发现，语言模型的损失会随模型规模、数据量和训练算力增加而按幂律平稳下降，为各实验室建造更大的模型提供了定量依据。

缩放定律是一种经验规律：语言模型的测试损失会随参数量、数据量和训练算力增加而按幂律平稳下降。它帮助实验室规划大规模训练，也解释了行业对数据中心和 GPU 的竞相投入。

NVIDIA A100 是首款基于 Ampere 架构的数据中心 GPU，2020 年 5 月 14 日发布。它引入第三代 Tensor Core、TF32 格式和多实例 GPU，后来成为训练大语言模型的常用硬件。

2020 年的一篇论文，把预训练的序列到序列模型与一个由神经检索器查询的维基百科稠密向量索引结合起来，在三个开放域问答任务上取得当时最好成绩。

GPT-3 是一个拥有 1750 亿参数的自回归语言模型，相关论文发表于2020年5月。它能在提示词中仅凭少量示例完成新任务，无需梯度更新，最初通过 OpenAI 的 API 提供。

GPT-3 论文表明，一个拥有 1750 亿个参数的语言模型，只要在提示词（prompt）里给出几个例子，就能完成许多任务，无需额外微调；而且这种能力随模型规模增大而增强。

2020 年发布的一个评测基准，用 57 个学科（从初等数学到法律）的题目考察语言模型，结果显示当时最大的模型也远未达到专家水平。

Anthropic 是 2021 年 1 月成立的 AI 安全与研究公司，由前 OpenAI 员工创办，开发 Claude 系列模型，并制定负责任扩展政策。

2021 年，Fedus、Zoph 与 Shazeer 简化了混合专家模型的路由算法，使语言模型在参数量扩展到万亿级别时，每个样本的计算开销仍然保持恒定。

一篇2021年FAccT论文，作者为Bender、Gebru、McMillan-Major和Shmitchell，追问语言模型是否会过大，并就成本、数据、研发目标与替代研究方向提出建议。

LoRA 是一种微调方法：冻结预训练模型的权重，只在各层注入并训练小型低秩矩阵，从而把可训练参数和显存需求降低几个数量级。

2021 年的一篇 OpenAI 论文提出了 Codex——一个在公开 GitHub 代码上微调的 GPT 模型，以及 HumanEval——一套按「程序能否跑对」而不是「像不像参考答案」来评判生成代码的评测集。

2021 年的一篇论文提出「指令微调」：把大量任务用自然语言指令描述后再微调语言模型，模型在没见过的任务上零样本表现大幅提升，并在多数评测任务上超过更大的模型。

InstructGPT 是一组经过人类反馈强化学习训练、能遵循用户指令的 GPT-3 模型。OpenAI 于2022年1月宣布该成果，并将其设为 API 的默认语言模型。

思维链是让语言模型在回答前先写出中间推理过程的方法。推理模型在此基础上，用强化学习训练模型在回复前进行较长的内部思考，是近年大语言模型的重要方向。

InstructGPT 结合人工撰写的示范回答、人类对输出的排序和强化学习，让 GPT-3 更好地遵循用户指令。即使模型小得多，标注员也更偏好它的输出。

NVIDIA H100 是首款基于 Hopper 架构的数据中心 GPU，2022 年 3 月发布，为训练和运行大模型设计，使用 HBM3 显存与 FP8 精度。

ReAct 是一种提示方法：让语言模型把写出来的推理与调用外部工具或环境的行动交替进行，在问答、事实核查和交互式决策任务上都取得改进。

LangChain 是 2022 年 10 月发布的开源框架，让开发者把大语言模型与外部数据、API 和工具连接起来，组合成「链」和智能体，是构建大模型应用的常用起点。

ChatGPT 是 OpenAI 的 AI 聊天机器人，2022年11月30日以低调的研究预览形式推出。其周活跃用户增长至数亿，并陆续加入智能体、语音、浏览器和职场工具。

谷歌面向消费者的 AI 助手，2023 年以 Bard 之名发布，2024 年更名为 Gemini。普通用户由此接触谷歌的 Gemini 模型：从对话框起步，扩展到语音、研究代理与订阅档位。

vLLM 是一个开源的大语言模型服务系统，建立在 PagedAttention 之上，用操作系统管理虚拟内存的思路管理 KV 缓存。论文报告在时延相同的情况下，其吞吐是此前服务系统的 2-4 倍。

Meta AI 于 2023 年 2 月发布的一系列基础语言模型，有 7B 到 65B 四种规模，只用公开数据训练；其中 13B 版本在多数基准测试上被报告优于 GPT-3。

LLaMA 是参数规模 7B 至 65B 的基础语言模型系列，仅用公开数据集训练；13B 模型在多数基准上超过 GPT-3，且全部模型向研究社区发布。

llama.cpp 是用 C/C++ 编写的开源推理引擎，让大语言模型能在普通电脑上运行，由 Georgi Gerganov 于 2023 年 3 月创建，推动了本地推理的普及。

GPT-4 是 OpenAI 于 2023 年 3 月 14 日发布的大型多模态模型，能接受图像和文本输入，在模拟律师资格考试中成绩接近应试者前 10%，此后被 GPT-4 Turbo、GPT-4o 和 GPT-5 接续。

OpenAI 于 2023 年 3 月提交到 arXiv 的 GPT-4 技术报告，描述了一个大规模多模态 Transformer 模型，给出了多项专业基准上达到人类水平的结果，并说明了团队如何让规模化行为变得可预测。

一个众包的模型评测平台：用户对两个匿名模型的回答投票，结果汇总成 Elo 排行榜；2023 年上线，2025 年以 LMArena 之名重新启动。

2023 年的一篇论文把人类反馈强化学习的优化目标改写成一个简单的分类损失，让语言模型不必依赖独立的奖励模型和强化学习就能对齐人类偏好。

函数调用（如今也称工具调用）让应用把外部函数描述给模型，由模型决定是否为其中某个函数输出一段 JSON 参数，是模型接触训练数据之外的数据与动作的途径。

Claude 应用（claude.ai）是 Anthropic 面向个人和企业的对话助手。2023 年以 Claude 2 公测版上线，此后陆续加入付费方案、Projects、联网搜索和 Research。

深度求索（DeepSeek）是一家中国人工智能公司，2023 年 7 月在杭州成立，源自幻方量化旗下的 AGI 研究实验室，主力模型多以开放权重发布。

这是一篇 2023 年 7 月由 Hugo Touvron 领衔、Meta 多位作者完成的论文，提出并发布了参数量从 70 亿到 700 亿的 Llama 2 系列预训练与微调模型，并详细说明了对话版本如何微调、如何提升安全性。

Mamba 是 Albert Gu 与 Tri Dao 提出的一种序列建模架构，用选择性状态空间替代注意力，实现线性时间与更快推理，语言建模表现可与两倍规模的 Transformer 相比。

Gemini 1.0 是 Google DeepMind 多模态模型家族的第一代，2023 年 12 月 6 日发布，分 Ultra、Pro、Nano 三档；Google 称 Ultra 是首个在 MMLU 上超过人类专家的模型。

Mixtral 8x7B 是 Mistral AI 的稀疏专家混合语言模型，每层由路由器为每个词元挑选 2 个专家，总共可访问 47B 参数，推理时只用到 13B。

Claude 3 Opus 于 2024 年 3 月 4 日公布，是 Claude 3 系列中能力最强的模型。它支持图像输入，发布时上下文窗口为 20 万 token，长文本测试召回率超过 99%。

Google Gemini 团队的一份报告，介绍以超长上下文为核心的多模态模型 Gemini 1.5 系列，其中 Gemini 1.5 Pro 可在最多 1000 万 token 的上下文中回忆信息。[^1]

Cerebras 于 2024 年 3 月发布的第三代晶圆级 AI 芯片，在 46,225 平方毫米的一整块硅片上集成 4 万亿个晶体管，目标是让超大模型在单一内存空间中训练。

面向万亿参数模型的液冷机架，NVIDIA 把 72 颗 Blackwell GPU 与 36 颗 Grace CPU 连成单一 NVLink 域。

GPT-4o 是 OpenAI 于 2024 年 5 月发布的多模态模型，能在同一个神经网络中接收文字、语音、图像和视频输入，并生成文字、语音和图像输出。2026 年 2 月，它从 ChatGPT 中下线。

Claude 3.5 Sonnet 于 2024 年 6 月 20 日发布，是 3.5 系列首款模型。速度是 Claude 3 Opus 的两倍，价格与中档型号相当，并随 Artifacts 一同推出。

Llama 3.1 于 2024 年 7 月 23 日发布，在 Llama 3 系列中加入了 4050 亿参数的模型，并把上下文扩展到 12.8 万个词元。Meta 称，这是目前最强、可公开获取的基础模型。

Meta 2024 年的论文，把 Llama 3 描述为一组基础模型（80 亿、700 亿和 4050 亿参数），预训练语料约 15 万亿 token，并报告其在广泛任务上与 GPT-4 等领先模型质量相当。

OpenAI o1 是 OpenAI 推出的首个推理模型系列，发布于 2024 年 9 月。它在回答前会进行较长的内部思维链（chain of thought）推理，之后的 o3 等推理模型都以它为基础。

DeepSeek-V3 是深度求索（DeepSeek）于 2024 年 12 月发布的开放权重模型，采用混合专家（mixture-of-experts）架构，总参数 6710 亿，每个词元激活 370 亿。

DeepSeek-AI 发布的 DeepSeek-V3 技术报告，介绍了一个总参数 6710 亿的混合专家语言模型，涵盖架构、训练流程与评测，并给出了 278.8 万 H800 GPU 小时完成全部训练的效率数据。

DeepSeek-R1 是深度求索（DeepSeek）于 2025 年 1 月 20 日发布的开放权重推理模型，以 DeepSeek-V3-Base 为基础，经强化学习训练，采用允许商业使用和蒸馏的 MIT 许可证。

DeepSeek-R1 报告介绍了如何主要依靠强化学习，并对正确答案给予奖励，训练出一个推理模型。它在数学、代码和推理基准上的表现与 OpenAI 的 o1 相当，权重也以开放形式发布。

Gemini 2.5 Pro 是 Google Gemini 2.5 系列的首个模型，2025 年 3 月以实验版发布，主打「思考」能力和 100 万 token 上下文，发布时即在 LMArena 登顶。

OpenAI 的第二代推理模型，2024 年 12 月公布、2025 年 4 月发布，在科学、软件工程与编程竞赛基准上大幅超过 o1，之后由 GPT-5 接替。

通义千问 Qwen3 是阿里巴巴于 2025 年 4 月 29 日以 Apache 2.0 许可证发布的模型系列，主要特点是混合思考模式，同一模型既可逐步推理，也可直接作答。

《Qwen3 技术报告》介绍阿里巴巴 Qwen3 系列大语言模型，覆盖稠密与混合专家架构，统一思考与非思考模式，并加入思考预算机制，全部以 Apache 2.0 许可证发布。

AMD 于 2025 年 6 月推出的数据中心 GPU，采用 CDNA 4 架构，配备 288 GB HBM3E 显存，主打生成式 AI 推理，与英伟达 Blackwell 一代正面竞争。

Kimi K2 是月之暗面于 2025 年 7 月发布的开放权重混合专家语言模型，总参数 1 万亿，每个词元激活 320 亿，上下文窗口 128K 个词元。

《Gemini 2.5》技术报告于 2025 年 7 月 7 日提交到 arXiv，记录了 Google 的 Gemini 2.5 Pro 与 2.5 Flash，涉及推理能力、长上下文视频处理和成本与能力的取舍。

Kimi K2 是 Moonshot AI 的万亿参数混合专家模型，用 MuonClip 优化器完成预训练，并以大规模智能体数据与强化学习做后训练；报告称它在开源非思考模型中处于领先，并公开了基座与后训练权重。

GPT-5 是 OpenAI 于 2025 年 8 月 7 日发布的第五代 GPT 基础模型。它把快速模型与深度推理模型组合在一起，并由实时路由决定每个请求交给哪一个处理。

Gemini 3 Pro 是 Google Gemini 3 系列的首个模型，2025 年 11 月以预览版发布，拥有 100 万 token 上下文窗口，并在 LMArena 等榜单登顶，在推理、编程与多模态基准上取得高分。

NVIDIA Rubin 是 NVIDIA 在 CES 2026 发布的六芯片 AI 平台，Blackwell 的继任者，重点降低大模型推理成本，相关产品和云实例将在 2026 年推出。

智谱的 GLM-5 技术报告介绍了一个 7440 亿参数的混合专家模型，依靠稀疏注意力与异步强化学习，把 AI 编程从「氛围编程」推向「智能体工程」。

Claude Mythos Preview 于 2026 年 4 月 7 日公布，是未公开发布的前沿模型，仅通过 Project Glasswing（Glasswing 计划）向受限合作方开放，用于保障关键软件安全。

DeepSeek-V4 包括 V4-Pro 与 V4-Flash 两款混合专家模型，2026 年 4 月 24 日以预览版发布，支持 100 万词元上下文。

DeepSeek-V4 系列的预览报告：Pro 版总参数 1.6 万亿、Flash 版 2840 亿，两者均支持百万 token 上下文，并给出了让这一长度变得可负担的注意力、连接与优化器改动。

Claude Fable 5 于 2026 年 6 月 9 日发布，是 Anthropic 首个面向普通用户的 Mythos 级模型。同系列的 Claude Mythos 5 为审核通过的用户放宽了部分安全限制。

Kimi K3 是月之暗面发布的 2.8 万亿参数开放权重多模态模型，2026 年 7 月 16 日发布，7 月 27 日公开权重，适用 Kimi K3 许可证。

Kimi K3 是月之暗面发布的 2.8 万亿参数混合专家模型，具备原生视觉与百万 token 上下文，权重随报告开放；报告称其多项任务达前沿水平，但整体仍落后最强闭源模型。

K2 Horizon 是基础模型研究院（IFM）于 2026 年 9 月发布的一系列六个开放语言模型，权重、代码、训练数据和训练配方一并以 Apache 2.0 许可公开。

GPT-6 是 OpenAI 的新一代模型系列。首款 GPT-6 Astra 于2026年9月3日发布，Astra 是 OpenAI 首个达到其内部「关键」网络安全阈值的模型。

Gemini 4 Argon 是 Google Gemini 4 系列首个模型，2026 年 10 月 13 日全面开放，面向软件工程、金融、法律等多步骤复杂任务。

Jais-3-375B-A23B 是基础模型研究所（IFM）推出的阿拉伯语旗舰开源混合专家模型：总参数 3750 亿、每 token 激活 230 亿，上下文窗口 51.2 万 token，权重以 Apache 2.0 发布。

AI 智能体指能感知环境、为达成目标自主行动的系统，范围从恒温器这样的简单装置一直到由大模型自行决定流程与工具调用的软件。

量化把语言模型的权重和激活值用更低的数值精度存储，从而降低推理所需的内存和带宽。LLM.int8() 与 GPTQ 等方法让超大规模模型能够跑在远小的硬件上。

幻觉（hallucination）指模型把虚假或误导性的信息当作事实陈述出来。它是生成式人工智能最典型的失效方式之一，也是人们难以直接信任模型输出的主要原因。

对齐指让模型的行为符合用户和设计者的真实意图，而不只是训练目标字面上奖励的东西；用人类偏好比较来训练模型，是目前一条实用路线。

生于台北的计算机科学家与技术高管，先后在微软、谷歌中国主持研究业务，联合创办创新工场，撰写多部人工智能著作，并创立大模型公司 01.AI。

计算语言学协会（ACL）是自然语言处理领域的科学专业组织，1962 年成立，主办该领域最有影响力的会议之一，并出版期刊《计算语言学》。

萨提亚·纳德拉自 2014 年起担任微软首席执行官，推动公司转向云计算和人工智能合作，包括 2019 年与 OpenAI 的合作。

李彦宏是中国技术与商业人士，2000 年与他人共同创办百度，2004 年起担任首席执行官，公开职业以搜索业务和文心大模型为主。

埃隆·马斯克是企业家，创办 SpaceX，领导 Tesla，参与创办 OpenAI，并于 2023 年宣布成立 xAI，即 Grok 模型的开发公司。

捷克计算机科学家，word2vec的主要作者。word2vec是2013年提出的一组词向量学习方法，他后来还参与了fastText库的开发。

马克·扎克伯格是 Meta Platforms 董事长兼首席执行官，2013 年推动成立 FAIR 研究实验室，2025 年宣布成立 Meta 超级智能实验室。

穆斯塔法·苏莱曼（Mustafa Suleyman）是英国 AI 创业者，联合创办了 DeepMind 和 Inflection AI，2024 年起领导微软 AI 部门，负责 Copilot 和自研模型。

梁文锋（Liang Wenfeng）是中国企业家，DeepSeek创始人，也是量化基金High-Flyer的共同创办人。他是DeepSeek-R1论文的通讯作者。

循环神经网络（recurrent neural network，RNN）通过反馈连接，把序列中前一步的信息带到下一步。其变体 LSTM 专门用于在更长跨度中保留记忆。

AI 研究者与教育者，生于布拉迪斯拉发，少年时移居多伦多；OpenAI 创始成员之一，曾任特斯拉 AI 总监、主讲斯坦福 CS231n 课程，后加入 Anthropic 的预训练团队。

丹妮拉·阿莫代伊（Daniela Amodei）是美国企业家，Anthropic 联合创始人，现任总裁，领导 AI 安全与对齐相关团队。此前她曾任职于 Stripe 和 OpenAI。

格雷格·布罗克曼（Greg Brockman）是 OpenAI 联合创始人。他早期主持了 OpenAI Gym 和 OpenAI Five 等项目，后任总裁，2026年4月接管产品部门。

美国人工智能研究者，OpenAI 联合创始人之一，领导其强化学习团队并参与打造 ChatGPT 的训练方法；后转投 Anthropic，又出任 Thinking Machines Lab 首席科学家。

阿尔巴尼亚裔美国工程师，曾任 OpenAI 首席技术官，2023 年 11 月短暂担任三天临时首席执行官，后创办并领导 Thinking Machines Lab。

Arthur Mensch（阿蒂尔·门施）是法国 AI 研究者，曾在 DeepMind 工作，2023 年联合创办 Mistral AI 并任首席执行官。

分词（tokenization）把文本切成语言模型真正处理的词元；今天多数系统用字节对编码（BPE）实现，这一 1994 年的压缩算法在 2015 年被引入机器翻译。

腾讯是成立于 1998 年的中国互联网公司，以 QQ、微信和游戏闻名。自 2023 年起，其混元大模型成为主要的人工智能业务，后改称 Hy。

科大讯飞是 1999 年成立、总部位于合肥的中国信息技术公司，以语音技术闻名，其讯飞星火大模型于 2023 年 5 月 6 日正式发布。

谷歌的研究部门，位于山景城，通常以 2000 年为成立年份，提出了 Transformer、BERT 与 T5，这些工作构成了现代大语言模型的基础。

百度公司是 2000 年成立的中国互联网公司，经营在中国占主导地位的搜索引擎，并开发文心大模型系列和文心一言聊天机器人。

Yoshua Bengio 等人 2003 年的这篇论文为每个词学习向量，并与预测下一个词的网络一起训练，引入了词嵌入的核心思想。

词嵌入（word embedding）把每个词表示为一组从文本中学得的数字，用法相近的词得到相近的数字组合。它是现代语言模型的基本组成部分之一。

阿里云是阿里巴巴集团的云计算业务，也是通义千问（Qwen）大模型家族的研发方。通义千问既以开放权重发布，也有闭源的旗舰模型。

Databricks 是 2013 年成立于旧金山的软件公司，源自伯克利创造 Apache Spark 的 AMPLab 项目 [^1][^2]。2026 年估值达 1880 亿美元 [^11]。

谷歌的 Tomas Mikolov 等人 2013 年提交的这篇论文提出 CBOW 和 Skip-gram 两种简单结构，能快速从海量文本学习词向量，是 word2vec 的基础。

保罗·艾伦于2014年创办的非营利人工智能研究机构，总部在西雅图，以 Semantic Scholar 学术搜索和公开训练数据、代码与中间检查点的 OLMo 系列开放语言模型闻名。

商汤科技是 2014 年 10 月成立的中国 AI 公司，2021 年底在香港上市，研发日日新（SenseNova）大模型。2026 年上半年，公司实现了上市以来首次 IFRS 口径的净利润。

SQuAD 是一个阅读理解数据集，包含 10 万多个由众包工人针对维基百科文章提出的问题，每个问题的答案都是原文中的一段文字。它于 2016 年发布，免费开放，并给出了可对照的人类成绩上限。

混合专家（MoE）模型包含许多子网络，却只把每个词元交给其中少数几个处理。这样总参数量可以很大，而每个词元的计算量仍远小于总量。

张量核心（Tensor Core）是 NVIDIA GPU 内部的专用单元，一步完成小矩阵的乘加运算，让神经网络训练与推理背后的矩阵算术大幅加速。

2017 年的论文，展示了 AI 智能体可以从人类对行为的简短比较中学习任务，而无需手写奖励。这一方法即基于人类反馈的强化学习，后来成为训练聊天助手的核心步骤。

AI21 Labs 是一家以色列人工智能公司，2017 年 11 月在特拉维夫创立，开发 Jurassic 与 Jamba 系列大语言模型，以及 Wordtune 写作助手。

GLUE 是一个基准与分析平台，用一组多样的既有自然语言理解任务来评测模型，配有在线对比平台和人工编写的诊断测试集，用于细致的语言学分析。

GPT-1 是 OpenAI 的第一代生成式预训练 Transformer，发布于 2018年6月。它表明，先用无标注文本预训练、再针对具体任务微调的同一个语言模型，能够改进多项语言任务的结果。

智谱（Z.ai）是一家总部位于北京的 AI 公司，2019 年由清华大学衍生成立，开发 GLM 模型系列及聊天机器人、视频、智能体与编程产品，2026 年 1 月在香港上市。

Cohere 是2019年成立于多伦多的企业 AI 公司，开发 Command 系列语言模型，面向企业销售。2026年9月，它签署了与 Aleph Alpha 合并的正式协议。

穆罕默德·本·扎耶德人工智能大学（MBZUAI）位于阿布扎比，2019 年成立，2021 年迎来首批研究生。校内设基础模型研究所，开发 K2、Jais 与 PAN 等模型。

GPT-2 是 OpenAI 于2019年2月宣布的大型语言模型，最大版本有 15 亿参数。OpenAI 起初没有公开完整模型，随后分阶段发布，直到2019年11月才发布完整版本。

OpenAI 在 2019 年发表的 GPT-2 论文，模型拥有 15 亿参数。研究表明，仅训练预测下一个词的模型在提示下就能完成多种任务，其分阶段发布也引发了关于是否公开强大模型的讨论。

百度于 2019 年 3 月发布的第一代 ERNIE 预训练语言模型，在 BERT 的掩码预训练基础上加入实体级和短语级掩码，并在五项中文 NLP 任务上报告了当时最好的成绩。

SuperGLUE 是 2019 年发布的通用语言理解基准，作为 GLUE 的更难继任者：八项任务、单一指标、分析工具包与公开排行榜。

XLNet 是一种广义自回归预训练方法：它通过最大化所有分解顺序排列的期望似然来学习双向语境，并在可比实验设置下于 20 项任务上优于 BERT。

RoBERTa 是对 BERT 预训练的复现研究：系统测量关键超参数与训练数据规模的影响，发现 BERT 训练明显不足，妥善训练后即可匹敌或超过此后发表的模型，并在 GLUE、RACE、SQuAD 上取得最好成绩。

昇腾 910 是华为 2019 年发布的 AI 训练处理器，与 MindSpore 框架一同推出，FP16 算力 256 teraflops，曾用于在数千块芯片组成的集群上训练 PanGu-α 语言模型。

T5 是 Google 的 Transformer 语言模型系列，把所有语言任务统一成「文本输入、文本输出」。其 110 亿参数版本在多项基准上取得当时最好成绩，代码、预训练模型与 C4 数据集均公开。

2019 年的一篇论文，把各类语言任务统一为文本到文本，系统比较迁移学习选择，发布 C4 语料与模型，并在摘要、问答、文本分类等基准上取得当时最优结果。

谷歌 TPU v4 是从 2020 年起投入使用的机器学习芯片与超级计算机，单个 pod 达 4,096 颗芯片，靠光路交换重构互连，PaLM 与 Gemini 都在其上训练。

2020 年由 Clark、Luong、Le 与 Manning 提出的预训练方法：让模型判断哪些词被替换过，而不是填补被遮住的词，用更少的算力达到与大模型相当的效果。

上下文学习指大语言模型只凭提示词里的指令和少量示例就能完成新任务，不更新任何权重。GPT-3 论文命名并系统研究了它，把适配任务的方式从微调转向写提示词。

《GShard》2020年6月提交到arXiv，提出一套轻量注释API与XLA编译器扩展，让原有模型代码几乎不改动就能表达并行计算，并把一个稀疏门控的专家混合翻译模型扩展到6000亿参数以上。

EleutherAI 是草根 AI 研究团体，2020年7月始于 Discord 服务器，发布了 The Pile 及多个开放模型，2023年成为非营利研究机构。

The Pile 是 EleutherAI 于2020年12月31日发布的 825 GiB 英文文本数据集，由22个数据源组成，并附有一篇 arXiv 论文。多个该团体的开放模型都用它训练。

MATH 是包含 12,500 道高难度竞赛数学题的数据集，每题附完整分步解答，于 2021 年发布，用于测量和训练模型的数学推理能力。

LaMDA 是 Google 在 2021 年公布的一系列对话语言模型，2022 年的论文详述了它在安全性与事实依据方面的做法，后来其轻量版驱动了 Bard。

GPT-J-6B 是 EleutherAI 于 2021 年 6 月发布的约 60 亿参数开源语言模型，以 Apache 2.0 许可开放，公开基准成绩接近 GPT-3 Curie，是当时最大的开源类 GPT-3 模型。

LoRA（低秩适配）是一种高效微调方法：冻结预训练模型权重，只训练新加入的低秩矩阵，从而大幅减少可训练参数与显存开销，效果接近全量微调。

文心 ERNIE 3.0 是 2021 年公布的大规模预训练语言模型，参数量 100 亿，把纯文本与大规模知识图谱一起用于训练，并融合自回归与自编码两种网络，让同一个模型既能做语言理解也能做生成。

OpenAI Codex 是2021年发布的 GPT 语言模型，在 GitHub 的公开代码上微调而成，能把自然语言翻译成代码，并随 HumanEval 基准测试一同提出。

2021 年提交到 arXiv 的论文，提出 MBPP 基准：974 道入门级短 Python 题，并测量 244M 到 137B 参数的语言模型把自然语言描述变成代码的能力。

指令微调是一种监督微调，用来让大语言模型学会听从用户指令；FLAN 论文表明它能显著提升模型在未见任务上的零样本表现。

GSM8K 是 OpenAI 发布的一套小学数学应用题数据集，包含 8.5K 道题；配套论文显示，即使最大的 Transformer 模型成绩也不高，而训练验证器、从多个候选解答中挑选正确答案能明显提升表现。

稀宇科技（MiniMax）是总部位于上海的人工智能公司，2021年12月由商汤科技的计算机视觉研究者创办，开发文本、语音和视频生成模型，2026年1月在港交所上市。

这篇论文由 Jason Wei 与 Google Research 的同事在 2022 年发表，它表明：在提示中给出带有中间推理步骤的示例、而不只是给出答案，能明显提升大模型在算术、常识和符号推理任务上的表现。

GPT-NeoX-20B 是 EleutherAI 于 2022 年 2 月发布的 200 亿参数开放语言模型，权重以 Apache 2.0 协议公开，训练与评测代码一并开源。

GPT-3.5 是 OpenAI 介于 GPT-3 与 GPT-4 之间的一代语言模型，以 text-davinci-002、text-davinci-003 等 API 模型的形式发布，也是第一版 ChatGPT 的基础。

NVIDIA 于 2022 年 3 月发布的第四代 DGX 系统，单机集成 8 块通过 NVLink 相连的 H100 GPU，FP8 精度下提供 32 petaflops 算力，面向企业级 AI 基础设施。

DeepMind 的一项研究指出，固定算力下语言模型应当用多得多的数据训练；其 700 亿参数的 Chinchilla 在同算力下胜过了更大的模型。

PaLM 是 Google Research 于 2022 年 4 月发布的 5400 亿参数语言模型，在 6144 块 TPU v4 上训练，多项基准成绩优于此前模型。

BIG-bench 是一个由社区共同构建的大型基准，包含 204 个任务，专门用来测试语言模型在被认为超出其当前能力的问题上的表现，相关论文于 2022 年 6 月发布。

2022 年的一篇论文提出，大语言模型的部分能力只在模型规模足够大时才出现，无法由小模型的表现外推预测，因此继续扩大规模可能继续拓展模型的能力范围。

BLOOM是BigScience项目于2022年7月12日发布的1760亿参数开放多语言大语言模型，权重依据负责任使用的RAIL许可证提供。

Perplexity AI 是2022年8月22日在旧金山成立的美国 AI 公司，由阿文德·斯里尼瓦斯等人创立。它以带有网络来源引用的 AI 答案引擎起家，此后陆续推出了模型、浏览器和智能体。

GLM-130B 是清华大学 KEG 实验室与智谱 AI 联合发布的 1300 亿参数开源中英双语稠密语言模型，目标是在千亿参数规模上做出一个不输 GPT-3 的开放模型。

LlamaIndex 是一个开源的 Python 库，用于在大型语言模型之上构建检索增强生成应用和 AI 智能体。它最初只是 2022 年底一名工程师写的小型索引工具 GPT Tree Index。

2022 年，Percy Liang、Rishi Bommasani、Tony Lee 等作者发表的一篇论文：把 30 个语言模型放到同样的 42 个场景、7 项指标下评测，让分散的基准变成一套标准化评估。

Perplexity 是2022年12月7日推出的 AI 答案引擎，用自然语言回答问题并引用网络来源。此后它陆续加入了 Deep Research、金融与购物功能，以及智能体产品。

宪法式 AI（Constitutional AI）是 Anthropic 在 2022 年提出的训练方法：用一套书面写明的原则（即「宪法」）塑造模型行为，而不是依赖人工标注有害输出。

《宪法式 AI》是 Anthropic 2022 年的论文，提出以书面原则和 AI 反馈代替人工标注有害输出，训练无害的助手。

智谱 AI 与清华 KEG 在 2023 年发布的开源双语对话模型，参数约 62 亿，小到可在一张消费级显卡上跑起来，权重对研究完全开放。

Hugging Face 于 2023 年推出的公开大模型排行榜，用完全统一的设置评测开源模型，让分数可复现、可比较；2025 年退役。

OpenRouter 是大语言模型的交易市场与网关，2023 年初上线，让开发者通过一个接口调用多家供应商的数百个模型。官方称其月处理 700 万亿以上 token，全球用户超过 1000 万。

直接偏好优化（DPO）是一种用人类偏好数据微调语言模型的方法，训练目标接近监督学习，省去了单独训练奖励模型和强化学习循环的步骤。

提示注入（prompt injection）指模型输入里的文字压过原本的指令和外围控制，让攻击者劫持整个应用；2023 年的研究进一步指出，恶意内容可以藏在应用自己检索到的资料里。

Microsoft Copilot 是微软的 AI 对话与助手产品，2023 年以 Bing Chat 的名字出现，后统一为面向消费者和企业的品牌，并加入了微软自研模型。

2023 年的一篇论文，让语言模型自学决定何时调用计算器、搜索引擎等外部工具，并把返回结果融入后续文本生成。

2023 年在北京成立的中国人工智能公司，由三位清华同学创办，主要产品是长上下文助手 Kimi 和 K 系列模型，估值在几年内快速攀升。

H800 是 NVIDIA 为中国市场改版的 H100 数据中心 GPU，通过削减芯片间传输速率满足 2022 年 10 月的美国出口规则。它后来被用于训练 DeepSeek-V3，并在 2023 年 10 月被收紧后的管制覆盖。

零一万物是 2023 年在北京成立的人工智能公司，由李开复创办。公司研发开源与闭源大模型（包括 Yi 系列），并推出一站式企业平台「万知」。

GPT-3.5 Turbo 是 OpenAI 于 2023 年 3 月 1 日通过 API 发布的对话优化模型，价格约为早期模型的十分之一，后来在 ChatGPT 中被 GPT-4o mini 取代。

xAI 是埃隆·马斯克创办的 AI 公司，开发 Grok 模型与聊天助手。2026 年被 SpaceX 收购，随后更名为 SpaceXAI，再改称 SpaceXSI。

Claude 是 Anthropic 于 2023 年 3 月 14 日公布的 AI 助手，也是这家公司第一款公开提供的助手，此后发展成一整条 Claude 模型系列。

Microsoft 365 Copilot 是微软面向 Word、Excel、PowerPoint、Outlook 和 Teams 的 AI 助手，把大语言模型与客户的业务数据结合起来。

文心一言是百度的聊天机器人，2023 年 3 月开始邀请测试，同年 8 月向公众开放。它曾推出付费版，2024 年更名为文小言。

2023 年 3 月，微软研究者在一篇论文中测试了早期版本的 GPT-4，认为它在众多领域表现出惊人的通用性、接近人类水平，可被视为迈向通用人工智能（AGI）的早期但不完整的一步。

2023 年 3 月发布的开源自主智能体，借助 OpenAI 的大型语言模型（如 GPT-4）把用户给出的目标拆成子任务，并调用网页浏览等工具去完成。

Mistral AI 是 2023 年 4 月在巴黎成立的法国 AI 公司，发布开放权重和商业模型，推出 Le Chat 与 Vibe，并多次大额融资。

千问 App 是阿里巴巴基于通义千问（Qwen）模型推出的消费级聊天应用。它 2023 年 4 月以通义千问内测版起步，到 2026 年 5 月用户达 2.34 亿。

阶跃星辰是 2023 年 4 月在上海成立的 AI 公司，由多名前微软员工创办，专注多模态大模型，并陆续开源了多款 Step 系列模型。

百川智能是一家总部位于北京的 AI 公司，2023 年 4 月由王小川创立。公司自 2023 年起发布开源语言模型，2025 年起把重心转向 AI 医疗应用。

日日新（SenseNova）是商汤科技的一组基础模型，2023 年 4 月 10 日发布，包含聊天机器人 SenseChat、文生图生成器和数字人视频生成器，最初只面向政府与企业客户开放。

星火认知大模型是科大讯飞于2023年5月6日发布的大语言模型，主打教育与企业的 ChatGPT 替代方案，基于华为昇腾芯片开发，此后一年内连续迭代多个版本。

PaLM 2 是 Google 于 2023 年 5 月 10 日发布的第二代 Pathways 语言模型，分为四个规模，被用于包括 Bard 在内的 25 个以上 Google 产品。

QLoRA 是一种微调方法：它把预训练大模型冻结并压到 4 位精度，只训练低秩适配器，从而在单张 48GB GPU 上微调 650 亿参数模型，并保持 16 位微调的效果。

Sakana AI 是一家位于东京的 AI 研发公司，2023 年 7 月创立，以演化式模型合并、The AI Scientist 等项目及日语模型 Namazu 为人所知。

Ollama 是一个用 Go 编写的开源工具，让用户在 macOS、Linux 和 Windows 上通过命令行或本地 REST 接口拉取并运行大语言模型。

Claude 2 是 Anthropic 助手模型的第二个主要版本，2023 年 7 月 11 日发布，表现更好、回答更长，是第一款面向普通公众的 Claude 模型。

Google 推出的 AI 研究与笔记工具，只依据用户自己提供的资料作答，并标注所引用的原文。2023 年以 Project Tailwind 之名亮相，后因能把文档变成播客式「音频概览」而广为人知。

Meta 于 2023 年 7 月发布的开源权重语言模型系列，有 7B、13B、70B 三种规模，各含对话微调版本 Llama 2-Chat，并以允许研究和商业使用的自定义许可证发行。

GGUF 是一种二进制模型文件格式，2023 年由 llama.cpp 项目推出，把张量和元数据装进同一个文件，广泛用于分发可本地推理的量化大语言模型。

豆包是字节跳动的 AI 聊天应用，2023 年 8 月开始邀请制内测，可生成文本、图像和语音，并提供 AI 搜索。[^1][^2]

通义千问（英文名 Qwen）是阿里巴巴推出的大语言模型系列。2023 年 8 月 3 日，首个开放权重的模型 Qwen-7B 发布，此后该系列陆续推出多个版本和尺寸。

AutoGen 是微软推出的构建 AI 智能体与应用的框架，其中的智能体可定制、可对话，并能把大语言模型、人类输入和工具结合起来。它由 2023 年 8 月 16 日提交到 arXiv 的论文提出。

Code Llama 是 Meta 于 2023 年 8 月发布的代码模型系列，由 Llama 2 在代码数据上继续训练而成，参数从 70 亿到 700 亿不等。

Baichuan 2 是百川智能的第二代开源模型系列，2023年9月6日发布 7B 和 13B 两种规格，提供基础版、对话版和 4 位量化版。商用需申请，并受用户规模限制。

混元是腾讯第一个自研的大型基础模型，2023 年 9 月发布，主要面向企业，通过腾讯云 API 提供服务。该系列后来改称 Hy。

GPT-4V 是 GPT-4 中接受图像输入的版本，OpenAI 在 2023 年 9 月 25 日的系统卡中记录了它，并通过预览版 API 向开发者开放；图像理解后来在 GPT-4o 中成为原生能力。

Mistral AI 的第一个模型：2023 年 9 月以 Apache 2.0 许可发布的 73 亿参数语言模型，主打用小体量对标大得多的模型。

Meta AI 是 Meta 的对话式 AI 助手，2023 年 9 月在美国以测试版上线，此后先后改用 Llama 3 和 Muse Spark。

Kimi 是 Moonshot AI 推出的 AI 聊天机器人，2023 年 10 月发布，以超长上下文为主要特点，此后陆续加入搜索、智能体与编程功能。

DSPy 是一种编程模型，把语言模型流水线表示为声明式模块构成的计算图，并用编译器按给定指标优化。

文心大模型4.0是百度于2023年10月发布的基础模型，被称作当时最强的文心模型，李彦宏称其「综合水平不逊于GPT-4」。它同时支撑文心一言助手和千帆平台。

TensorRT-LLM 是 NVIDIA 的开源库，用于在 NVIDIA GPU 上加速和优化大语言模型推理，2023 年 10 月 19 日公开发布，可从 GitHub 免费获取，也随 NVIDIA NeMo 提供。

CrewAI 是一个用 Python 编写的开源框架，用于构建协同工作的 AI 智能体小组，由 João Moura 于 2023 年底创建，并获得 1800 万美元融资。

Yi-34B 与 Yi-6B 是零一万物 2023 年 11 月发布的双语开源基础模型，训练数据为 3 万亿词元，发布时在开源预训练模型中排名第一。

Grok 是 xAI 的聊天助手，2023 年 11 月首次向美国小范围候补用户开放，后发展为涵盖搜索、图像、视频和编程智能体的一系列应用与模型。

Grok-1 是 xAI 的首个大语言模型，2023 年 11 月 3 日作为 Grok 聊天助手的引擎公布，其 3140 亿参数的权重于 2024 年 3 月开放。

GPT Actions（自定义动作）让自定义 GPT 调用外部 API，把自然语言请求转成 API 调用所需的 JSON；2023 年 11 月 6 日随自定义 GPT 一同推出。

GPT-4 Turbo 是 OpenAI 于 2023 年 11 月 6 日发布的 GPT-4 更便宜、能力更强的版本，上下文窗口达 128,000 个 token，API 价格大幅下调。

NVIDIA 于 2023 年 11 月发布的 H200 是首款采用 HBM3e 显存的 GPU，141 GB 容量接近 A100 的两倍，在 Llama 2 70B 上的推理速度接近 H100 的两倍。

Azure Maia 100 是微软第一颗自研 AI 芯片，2023 年 11 月发布，用于在自家 Azure 数据中心里训练和运行大语言模型，不对外销售。

Claude 2.1 于 2023 年 11 月 21 日发布，上下文窗口翻倍至 20 万 token，错误陈述较 2.0 版减少一半，并新增工具调用与系统提示。

AMD 面向生成式 AI 的数据中心 GPU，2023 年 12 月发售，基于 CDNA 3 架构，以 192 GB HBM3 内存为主要卖点。

Mistral AI 于 2023 年 12 月发布的开源权重稀疏混合专家模型：总参数 467 亿，每个词元只用 129 亿，支持 32k 上下文，在多数基准上超过 Llama 2 70B。

SGLang 是一个用于高效执行复杂语言模型程序的系统，由前端语言和运行时组成；它复用键值缓存、加速结构化输出解码，论文报告在评测负载上吞吐最高达到当时先进推理系统的 6.4 倍。

OLMo 是艾伦人工智能研究所（Ai2）的开放语言模型，2024 年 2 月 1 日以 1B 和 7B 两种规模发布，连同 Dolma 训练数据、训练代码、日志和检查点，全部采用 Apache 2.0 许可。

Google Gemini 1.5 代的中型多模态模型，2024 年 2 月公布，以上百万 token 的上下文窗口著称，可在单次提示中处理长视频、整段音频和大规模代码。

Gemma 是 Google DeepMind 于 2024 年 2 月发布的轻量级开放模型系列，有 2B 和 7B 两个规模，技术与 Gemini 同源，并按 Google 的使用条款开放商用。

Le Chat 是 Mistral AI 的助手，2024 年 2 月 26 日测试版上线，此后陆续增加搜索、Pro 套餐等功能，2026 年 5 月并入 Vibe。

Mistral Large 是法国公司 Mistral AI 于 2024 年 2 月 26 日发布的首个旗舰级专有模型，拥有 32K token 上下文窗口、五种语言的原生能力和原生的函数调用与 JSON 输出模式。

Claude 3 Sonnet 是 Anthropic Claude 3 系列中的中间型号，2024 年 3 月 4 日发布，支持 20 万 token 上下文，曾驱动 claude.ai 免费版，于 2025 年 7 月 21 日退役。

一个持续从 LeetCode、AtCoder、CodeForces 竞赛中收集新题的代码大模型基准，用不断更新的题库避免数据污染，并覆盖代码修复、执行推理等任务。

Claude 3 Haiku 是 Anthropic Claude 3 系列中最小、最快的模型，2024 年 3 月发布，主打低价格、20 万 token 上下文与图像输入，2026 年 4 月退役。

NVIDIA 于 2024 年 3 月发布的 Blackwell 架构数据中心 GPU，接替 Hopper，由两颗拼接的芯片构成，配合新一代 NVLink 与 FP4 支持大规模 AI 训练和推理。

微软 AI（Microsoft AI）成立于 2024 年 3 月，负责推进 Copilot 及其他 AI 产品和研究，由穆斯塔法·苏莱曼（Mustafa Suleyman）领导，并开发 MAI 系列自研模型。

EvoLLM-JP 是 Sakana AI 用进化搜索融合多个开源模型得到的日语模型，不靠从头训练；7B 版本在数学能力上超过了它的三个来源模型各自单独的水平。

DBRX 是 Databricks 于 2024 年 3 月 27 日发布的开放许可大语言模型，采用混合专家结构，总参数 1320 亿，每词元激活 360 亿。

Jamba 由 AI21 Labs 于2024年3月28日发布，是一个开放权重模型，把 Mamba 状态空间层与 Transformer 注意力层组合在一起，总参数 520 亿，上下文窗口为 25.6 万词元。

Command R+ 是 Cohere 于 2024 年 4 月发布的 1040 亿参数语言模型，针对企业场景的检索增强生成和多步工具调用优化，先在微软 Azure 上线，随后开放权重。

Llama 3 是 Meta 于 2024 年 4 月 18 日发布的开放模型系列，有 80 亿和 700 亿参数两种规格。它在超过 15 万亿个公开来源的词元上完成预训练。

Llama 社区许可证是 Meta 为 Llama 3 模型定制的授权协议：允许免费使用和修改，但附带用途限制、署名义务和按用户规模设定的门槛，因此不符合通常意义上的开源定义。

Phi-3 是微软的小型语言模型系列，2024 年 4 月以 38 亿参数的 Phi-3-mini 起步，这一模型小到可以在手机上运行。

日日新 5.0 是商汤科技于 2024 年 4 月发布的大语言模型，采用混合专家架构，支持约 20 万 token 上下文，商汤称其在多项基准上对标 GPT-4 Turbo。

Snowflake 于 2024 年 4 月发布的开源权重模型，总参数 4800 亿、激活 170 亿，采用稠密与混合专家混合的架构，训练成本不到 200 万美元。

DeepSeek-V2 是 2024 年 5 月发布的混合专家模型，总参数 236B、每 token 激活 21B，引入多头潜在注意力（MLA），是后续架构的验证起点。

Yi-Large 是零一万物于 2024 年 5 月 13 日发布的千亿参数闭源大模型，通过其 API 平台提供，官方公布了在 AlpacaEval 2.0、SuperCLUE 等基准上的排名。

AI 概览是显示在谷歌搜索结果顶部的 AI 生成摘要，2024 年 5 月起在美国全面上线，后来又衍生出独立的搜索实验 AI 模式。它成为生成式 AI 面向普通用户规模最大的应用之一。

字节跳动通过火山引擎于 2024 年 5 月推出的豆包大模型系列，以远低于同行的定价提供通用、语音与文生图模型，被认为引发了中国大模型价格战。

腾讯元宝是腾讯于 2024 年 5 月 30 日推出的 AI 助手应用，基于混元模型，此后陆续接入 DeepSeek-R1、HY 2.0 和 Hy3。

MMLU-Pro 是 2024 年发布的多任务语言理解基准，把以知识为主的 MMLU 改成更偏推理、每题十个选项的更难测试。

通义千问 Qwen2 是 2024 年 6 月发布的新一代模型，包含 0.5B 至 72B 的五个尺寸，上下文最长可达 128K，多数尺寸采用 Apache 2.0 许可。

Apple Intelligence 是苹果的个人智能系统，2024 年 6 月 10 日在 WWDC 上宣布，首先用于 iOS 18 等系统。大部分任务在设备上运行，较大的请求交给私有云计算。

τ-bench 是 2024 年 6 月提交到 arXiv 的基准，用语言模型模拟用户，与配备领域 API 工具和规则条文的语言智能体进行动态对话，并以对话结束时的数据库状态而非回复文本判定成败。

安全超级智能公司（SSI）是 Ilya Sutskever 等人于 2024 年 6 月创办的美国 AI 公司，目标是直接造出安全的超级智能，中途不发布任何产品。

FineWeb 是从 96 个网络快照构建的 15 万亿 token 预训练数据集，公开了处理代码与实验模型；教育子集 FineWeb-Edu 在知识推理基准上表现更好。

科大讯飞于 2024 年 6 月 27 日发布的大语言模型，完全在与华为共建的国产算力平台上训练；讯飞称其达到 GPT-4 水平，同时承认代码与多模态能力落后。

Step-2 是阶跃星辰推出的万亿参数语言大模型，采用混合专家架构。2024 年 3 月公布预览版，7 月在 WAIC 发布正式版。

OpenAI 于 2024 年 7 月 18 日发布的小型低成本模型，API 价格远低于 GPT-4o，MMLU 得分 82%，发布当天即在 ChatGPT 中取代 GPT-3.5 Turbo。

Mistral AI 的第二代旗舰模型，2024 年 7 月发布，1230 亿参数，128K token 上下文窗口，语言与编程语言覆盖广，权重以研究许可发布。

测试时计算指模型答题时额外投入的算力，而非训练阶段已固化在参数中的算力。Snell 等人 2024 年 8 月的研究表明，按题目难度分配这份算力，能让小模型在同等总计算量下胜过大得多的模型。

xAI 于 2024 年 8 月发布的一对模型，以 beta 形式向 X 订阅用户开放，新增图像输入，公布基准成绩，后来公开了权重。

LMSYS 是一家孵化开源 AI 项目的非营利组织，2023 年由多所大学合作发起，2024 年 9 月注册，做开放模型、系统与评测平台如 Chatbot Arena。

通义千问 Qwen2.5 是 2024 年 9 月发布的一代模型。首批开放了 13 个权重模型，预训练数据最多达 18 万亿 token，上下文最长 128K，多数开源模型采用 Apache 2.0 许可。

Llama 3.2 于 2024 年 9 月 25 日发布，新增 110 亿和 900 亿参数的视觉模型，以及面向边缘和移动设备的 10 亿和 30 亿参数纯文本小模型。

AMD 于 2024 年 10 月 10 日发布的数据中心 GPU，基于第三代 CDNA 架构，配备 256 GB HBM3E 显存、带宽 6 TB/s，面向一万亿参数级别的模型。

Yi-Lightning 是零一万物 2024 年 10 月推出的旗舰模型，采用增强版混合专家架构。发布时在 LMSYS Chatbot Arena 综合排名第六，中国模型中排名第一。

升级版 Claude 3.5 Sonnet 于 2024 年 10 月 22 日公布，编程与智能体任务成绩明显提高，并以公开测试版推出电脑操作功能，是前沿 AI 模型中首个提供该功能的。

混元 Large 是腾讯于 2024 年 11 月开源的混合专家模型，总参数 3890 亿，激活参数 520 亿，采用腾讯自有许可证发布。

Lovable 是一款把自然语言描述直接变成全栈网页应用的工具，面向不会写代码的人。它于 2024 年 11 月上线，用户规模与融资额增长都很快。

Amazon Nova 是亚马逊的基础模型家族，2024年12月3日推出，只在 Amazon Bedrock 中提供，2025年12月由 Nova 2 接续。

AWS Trainium2 是亚马逊云科技的第二代自研机器学习芯片，以最多 16 颗芯片的 EC2 Trn2 实例和最多 64 颗芯片的 Trn2 UltraServer 形式提供，AWS 称其性价比优于同代 GPU 实例。

Gemini 2.0 Flash 是 Google Gemini 2.0 世代的首个模型，2024 年 12 月以实验模型形式发布，新增多模态输出与原生工具调用，2025 年 2 月正式开放。

Phi-4 是微软于 2024 年 12 月发布的 140 亿参数稠密解码器式语言模型，训练重心放在数据质量与合成数据上，2025 年 1 月以 MIT 许可证放出完整权重。

Arena Intelligence 是 2025 年由 Chatbot Arena 团队成立的公司，运营 LMArena 模型对比平台，并称已获得 2.5 亿美元风险投资。

MiniMax-01 是 MiniMax（稀宇科技）2025 年 1 月发布的开放权重模型系列，含语言模型 MiniMax-Text-01 与视觉语言模型 MiniMax-VL-01，采用混合注意力并支持超长上下文。

DeepSeek 应用（深度求索智能助手）是深度求索的官方免费聊天机器人，2025 年 1 月 15 日推出移动版，同年 1 月下旬登顶美国 App Store 免费榜。

讯飞星火 X1 是科大讯飞 2025 年 1 月发布的深度推理大模型，完全基于国产算力平台训练，此后多次升级，并落地教育与医疗场景。

Kimi k1.5 是月之暗面于 2025 年 1 月 20 日发布的多模态推理模型，公司称其在数学、编程和多模态推理上达到 OpenAI o1 的水平；其技术报告强调用强化学习训练，而不依赖树搜索与过程奖励模型。

豆包 1.5 Pro（Doubao-1.5-pro）由字节跳动于 2025 年 1 月 22 日发布，是采用稀疏混合专家架构的闭源多模态模型，并以较低价格通过火山引擎提供。

Qwen2.5-Max 是阿里巴巴在 2025 年 1 月宣布的大型混合专家模型，通过 Qwen Chat 和阿里云 API 提供服务，但没有公开模型权重。

这篇论文用 1000 道精选题目微调 Qwen2.5-32B，再用一种叫「预算强制」的简单方法控制模型的思考长度，在竞赛数学上最多领先 o1-preview 27%，并开源了模型、数据与代码。

OpenAI 于 2025 年 1 月 31 日发布的小型推理模型，向包括免费版在内的所有 ChatGPT 用户开放，提供三档推理强度并支持函数调用与结构化输出，2025 年 4 月由 o4-mini 接替。

Thinking Machines Lab 是 Mira Murati 于 2025 年 2 月在旧金山创办的人工智能公司，推出用于微调开放权重模型的 API Tinker，并发布了开放权重的 Inkling 模型。

Grok 3 与更便宜的 Grok 3 mini 是 xAI 2025 年 2 月发布的推理模型。Grok 3 加入了 Think 推理模式、100 万 token 上下文窗口和 DeepSearch 研究智能体。

Claude 3.7 Sonnet 于 2025 年 2 月 24 日发布，Anthropic 称它是市面上第一个混合推理模型，既能迅速作答，也能长时间逐步思考。它与 Claude Code 同时推出。

Alexa+ 是亚马逊基于生成式 AI 重建的新一代 Alexa 助手，2025 年 2 月推出。每月 19.99 美元，亚马逊 Prime 会员免费，可以预订服务、代购杂货、控制智能家居。

混元 Turbo S 是腾讯 2025 年 2 月发布的快思考模型，采用 Mamba 与 Transformer 混合架构，总参数 5600 亿，未公开权重。

GPT-4.5 是 OpenAI 于 2025 年 2 月 27 日发布的大语言模型，代号「Orion」。它是当时最大的对话模型，API 价格远高于 GPT-4o，正式开放数月后便退出。

Ling（百灵）是蚂蚁集团 InclusionAI 发布的开放权重混合专家语言模型系列，其技术报告主张无需高端 GPU 也能训练 300B 规模的 MoE 模型。

通义千问团队于 2025 年 3 月 6 日发布的开源权重推理模型，参数规模 320 亿，主要靠规模化强化学习训练，官方称其表现可与体量大得多的 DeepSeek-R1 相若。

OpenAI 于 2025 年 3 月发布的开源智能体开发工具包，提供可配置的智能体、智能体之间的任务交接、安全护栏和调用追踪，是实验性项目 Swarm 的正式继任者。

Gemma 3 是 Google 于 2025 年 3 月发布的第三代 Gemma 开放模型，共有 1B 到 27B 四种规模，支持 128,000 词元的上下文，较大版本可处理图像，预训练阶段覆盖 140 多种语言。

Command A 是 Cohere 的 1110 亿参数模型，2025年3月发布，支持 256k 词元上下文。Cohere 称它只需两块 GPU 即可运行，吞吐量比 Command R+ 08-2024 高 150%。

文心大模型 4.5 是百度于 2025 年 3 月发布的原生多模态基础模型，可处理文本、图像、音频和视频。2025 年 6 月，百度开源了该系列的十款模型。

文心大模型 X1 是百度于 2025 年 3 月 16 日与文心大模型 4.5 一同发布的深度思考推理模型，支持多模态与工具调用，定价较低，此后又更新为 X1 Turbo 和 X1.1。

混元 T1 是腾讯的深度思考模型，2025 年 3 月 21 日正式发布，基于混元 Turbo S 构建。腾讯未公开其权重，通过网页演示和腾讯云 API 提供。

Llama 4 Maverick 是 Meta 于 2025 年 4 月 5 日与 Scout 同时发布的混合专家模型，总参数 4000 亿，上下文窗口为 100 万个词元。它在 LMArena 上的排名之后受到质疑。

Llama 4 Scout 是 Meta 于 2025 年 4 月 5 日发布的混合专家模型，总参数 1090 亿，每个词元激活其中 170 亿，上下文窗口达 1000 万个词元。

Seed-Thinking-v1.5 是字节跳动 Seed 团队的推理模型，采用混合专家结构，激活参数 20B、总参数 200B，通过强化学习学会先思考再回答；公开材料只有技术报告和基准表，没有模型权重。

日日新 V6 是商汤 2025 年 4 月 10 日发布的原生多模态混合专家模型，参数量超过 6000 亿，分为通用、推理与实时交互三个版本。

OpenAI 于 2025 年 4 月发布的三个模型组成的家族，上下文窗口超过百万 token，单 token 价格低，编码与指令遵循能力更强，后被 GPT-5 取代。

OpenAI 于 2025 年 4 月发布的小型推理模型，主打快速、低成本的推理；在可使用 Python 解释器时于 AIME 2025 上达到 99.5% 的 pass@1，后由 GPT-5 mini 等后继模型取代。

Google Gemini 2.5 系列中的模型，2025 年 4 月发布预览版、6 月正式可用。Google 称它是其首个完全混合推理模型，开发者可以用思考预算把思考打开或关闭。

MiMo-7B 是小米 LLM-Core 团队推出的 70 亿参数推理模型，基座在 25 万亿 token 上预训练，再用可验证的数学与编程题做强化学习，报告称其表现超过 OpenAI o1-mini。

Falcon-H1 是 Falcon 系列的一组开放权重语言模型，把 Transformer 注意力与状态空间模型并行组合，参数规模从 0.5B 到 34B，权重以 Falcon-LLM Licence 发布。

Claude Opus 4 与 Sonnet 4 于 2025 年 5 月 22 日公布，均为带扩展思考功能的混合模型。Anthropic 称 Opus 4 是“世界上最好的编程模型”。

这是 DeepSeek 推理模型的更新版本，2025 年 5 月 28 日以 MIT 许可证发布，在竞赛数学、科学与编程基准上成绩明显提高，并支持系统提示、增强了函数调用能力。

MiniMax-M1 是 MiniMax（稀宇科技）于 2025 年 6 月发布的开放推理模型，总参数 456B，原生支持 100 万词元上下文，采用 Apache 2.0 许可，提供 40K 与 80K 两种思考预算版本。

字节跳动 Seed 团队的通用大模型系列，2025 年 6 月 11 日以豆包大模型 1.6 之名发布，支持多模态输入和 256K 上下文，并能按问题自动决定是否先推理再作答。

AMD Instinct MI350X 是 AMD MI350 系列中的数据 GPU，基于 CDNA 4 架构，单卡最高 288 GB HBM3E 显存、8 TB/s 带宽，板卡功耗上限 1,000 W。

GLM-4.5 是智谱（Z.ai）2025 年 7 月发布的开源大语言模型，总参数 3550 亿，同时发布较轻量的 GLM-4.5-Air。两者均为混合推理模型，采用 MIT 许可证。

Grok 4 与 Grok 4 Heavy 是 xAI 2025 年 7 月发布的模型。Grok 4 的 API 上下文为 25.6 万 token，训练中大规模使用强化学习；Heavy 版本则并行运行测试时计算。

EXAONE 4.0 是 LG 的大语言模型系列，一次发布 32B 与 1.2B 端侧两个尺寸，把易用的对话能力与推理模式合并到同一模型，并加入工具调用和西班牙语支持。

Qwen3-2507 是 2025 年 7 月至 8 月分批发行的 Qwen3 更新系列，把思考与非思考模式拆成各自独立的模型，原生上下文扩到 262,144 个 token，多项基准成绩大幅超过原版非思考模式。

NAVER 于 2025 年 7 月发布的 147.4 亿参数推理模型，用剪枝与蒸馏把模型做小，再用四阶段推理训练流程训练，并称训练成本远低于同级模型。

Gemini 2.5 Pro 的一种增强推理模式，会在作答前并行展开多个假设并加以比较，2025 年以实验形式发布，并因在国际数学奥林匹克中达到金牌水平而受到关注。

gpt-oss 是 OpenAI 于 2025 年 8 月 5 日发布的开放权重推理语言模型系列，提供 120b 和 20b 两个规模，采用宽松的 Apache 2.0 许可证。

字节跳动 Seed 于 2025 年 8 月开源的 360 亿参数模型系列，使用 12 万亿 token 训练，原生支持 512K 上下文，并允许用户设置「思考预算」。

DeepSeek-V3.1 由深度求索（DeepSeek）于 2025 年 8 月 21 日发布，采用 MIT 许可证，是该公司首个混合推理模型，同一组权重同时支持思考模式和非思考模式。

Qwen3-Max 是阿里巴巴于 2025 年 9 月发布的闭源大模型，参数规模超过 1 万亿，通过阿里云 API 提供服务，是接替 Qwen2.5-Max 的 Max 系列旗舰。

LongCat-Flash 是美团 LongCat 团队推出的 5600 亿参数混合专家语言模型，每个 token 平均激活约 270 亿参数，权重以 MIT 许可证开放。

Claude Sonnet 4.5 于 2025 年 9 月 29 日发布，价格与 Sonnet 4 相同，可直接替换后者使用。Anthropic 报告，它能在复杂任务上保持专注超过 30 小时。

GPT-5.1 是 OpenAI 于 2025 年 11 月 12 日发布的 GPT-5 更新版本。它让默认人设更加亲切，并提供多种可选风格；其 API 版本已定于 2027 年关闭。

文心大模型 5.0（ERNIE 5.0）是百度于 2025 年 11 月发布的原生全模态基础模型，百度称其参数规模为 2.4 万亿，2026 年 1 月起向企业和个人开放，模型为非开源。

Olmo 3 是艾伦人工智能研究所（Ai2）完全开放语言模型的第三代，2025 年 11 月 20 日宣布，提供 7B 和 32B 稠密 Transformer 规模，上下文 65,536 词元，数据全部公开。

2025 年 11 月 24 日，Anthropic 发布 Claude Opus 4.5，单价为此前 Opus 的三分之一，并新增投入程度（effort）参数，让开发者在能力与成本间取舍。

DeepSeek-V3.2 于 2025 年 12 月 1 日发布，是 V3.2-Exp 的正式后继版本；配套的 V3.2-Speciale 专注于最大化推理，在多项竞赛中达到金牌水平。

Mistral AI 于 2025 年 12 月发布的旗舰模型，稀疏混合专家架构，总参数 6750 亿，开放权重，支持图像理解与 40 多种语言。

Gemini 3 Deep Think 是 Gemini 3 的增强推理模式，2025 年 12 月向订阅用户开放，2026 年 2 月推出升级版。

腾讯自研旗舰模型，2025 年 12 月发布，分 Think 与 Instruct 两个版本，采用总参数 4060 亿的混合专家架构，支持 256K 词元上下文。

Solar Open 100B 是韩国 Upstage 于 2025 年 12 月发布的英韩双语混合专家模型，总参数 1026 亿、每 token 激活 120 亿，权重以自定义许可发布。

GPT-5.2 是 OpenAI 于 2025 年 12 月 11 日发布的模型系列，包括 Instant、Thinking、Pro 版本及编程变体，主打电子表格、演示文稿等专业工作。

Gemini 3 Flash 是 Google Gemini 3 系列中主打速度与低成本的模型，2025 年 12 月 17 日发布。它在多项基准上接近 Gemini 3 Pro，同时消耗更少 token、单 token 价格更低。

AMD Instinct MI400 是 AMD 面向 AI 的下一代数据中心 GPU，预计 2026 年推出，配备 432 GB HBM4 显存，将被集成在 AMD 的 Helios 机柜级系统中交付。

Open Responses 是一套开放规范与生态，基于 OpenAI 的 Responses API，为调用模型、流式返回结果和编排智能体工作流提供跨厂商共用的 schema。

微软 Maia 200 是 2026 年 1 月 26 日发布的推理加速器，采用台积电 3 纳米工艺，配备 216 GB HBM3e 内存，FP4 算力超过 10 petaflops，用来运行 OpenAI 的 GPT-5.2 等模型。

Step 3.5 Flash 是阶跃星辰推出的开源混合专家（Mixture-of-Experts，MoE）语言模型，2026 年 2 月发布，总参数 1960 亿，上下文长度 256K，采用 Apache 2.0 许可证。

Claude Opus 4.6 于 2026 年 2 月 5 日发布，是 Anthropic 最聪明模型的升级版，也是首个支持 1M 词元上下文窗口的 Opus 级模型（发布时为测试版）。

GPT-5.3-Codex 是 OpenAI 于 2026 年 2 月 5 日发布并上线的编程模型。OpenAI 称它是首个「在创造自身过程中发挥了作用的模型」，并把它的用途从写代码扩展到检索代码库、运行终端命令和调试。

GLM-5 是智谱 2026 年 2 月 12 日发布的开源模型，采用 MIT 许可证，总参数 7440 亿，每个 token 激活 400 亿参数，面向智能体工程（agentic engineering）。

豆包大模型 2.0（Seed2.0）是字节跳动于 2026 年 2 月发布的模型系列，包含 Pro、Lite、Mini 三款面向智能体任务的版本，并公布了基准成绩与低价 token 策略。

通义千问 Qwen3.5 是阿里巴巴2026年2月发布的原生多模态模型系列，开放旗舰总参数 3970 亿、每个词元激活 170 亿，以 Apache 2.0 许可证发布。

Claude Sonnet 4.6 于 2026 年 2 月 17 日发布，附带测试版的 1M 词元上下文窗口，价格与 Sonnet 4.5 相同，并成为 claude.ai 免费版和 Pro 用户的默认模型。

Gemini 3.1 Pro 是 Google 于 2026 年 2 月 19 日以预览形式发布的大语言模型，在 ARC-AGI-2 上取得 77.1% 的验证成绩，并取代了 gemini-3-pro-preview。

GPT-5.4 是 OpenAI 于 2026 年 3 月 5 日推出的模型，有 Thinking 和 Pro 两个版本。它内置电脑操作能力，改进了深度研究，并取代了 GPT-5.2。

Gemma 4 是 Google 在 2026 年 4 月发布的第四代开放权重模型，与 Gemini 3 建立在同一套研究和技术之上，覆盖从手机可跑的 E2B、E4B，到 26B 混合专家模型和 31B 稠密模型。

通义千问 Qwen3.6 是 2026 年 4 月发布的一代模型：闭源的 Plus、Max 版本主打智能体编程，开放权重的 Qwen3.6-35B-A3B 以 350 亿总参数、30 亿激活参数给出基准成绩。

Muse Spark 是 Meta Superintelligence Labs 于 2026 年 4 月 8 日推出的首个模型，最初闭源，驱动 Meta AI 应用和 meta.ai，后来推出了开放权重版本。

EXAONE 4.5 是 LG AI Research 于 2026 年 4 月发布的首个开放权重视觉语言模型，总参数 330 亿，其中视觉编码器 12 亿，上下文长度 256K 个 token，侧重文档理解与韩语语境推理。

Claude Opus 4.7 于 2026 年 4 月 16 日发布，价格与 Opus 4.6 相同，新增 xhigh 投入程度档位，并支持大得多的图像。它是首个测试自动拦截高风险网络安全请求的模型。

《Qwen3.5-Omni 技术报告》介绍阿里巴巴数千亿参数的多模态模型：可理解超 10 小时音频，支持 10 种语言语音生成，在 215 项音视频基准上报告最优结果。

GPT-5.5 是 OpenAI 于 2026 年 4 月 23 日推出的模型，以 GPT-5.5 Thinking 和 Pro 两个版本面向 ChatGPT 付费用户，次日开放 API。它取代了 GPT-5.4。

Laguna XS.2 是 Poolside 首个开放权重模型，总参数 330 亿、每个 token 激活 30 亿，以 Apache 2.0 许可发布，训练用了 30 万亿 token。

Laguna M.1 是 Poolside 的 2250 亿参数混合专家编程模型，每个词元激活 230 亿参数，面向长程智能体编程；权重在发布 7 周后上线 Hugging Face。

Meta 为 Muse Spark（Meta AI 的底层模型）发布的安全与准备度报告，交代了支撑其发布决策的灾难性风险评估，并论证在施加缓解措施后残余风险可接受。

Gemini 3.5 Flash 是 Google 于 2026 年 5 月 19 日发布的 Gemini 3.5 系列首个模型，面向智能体与编程任务，并成为 Gemini 应用和搜索 AI 模式的默认模型。

Command A+ 是 Cohere 于 2026 年 5 月 20 日以 Apache 2.0 许可发布的开源混合专家模型，总参数 2180 亿、激活 250 亿，面向主权部署与关键基础设施场景。

MiniCPM5 是 MiniCPM 团队的小参数、稠密架构开放权重模型系列，2026 年 5 月先发布 1B 版本，9 月跟进 2B 版本，面向端侧与资源受限场景。

MiniMax 于 2026 年 6 月发布的大规模混合专家语言模型，总参数约 428B，支持 100 万 token 上下文，并引入为长上下文设计的新型稀疏注意力。[^1]

MAI-Thinking-1 是微软 AI 的旗舰推理模型，2026年6月2日发布。微软称其在盲测中优于 Claude Sonnet 4.6，并允许开发者微调权重。

智谱于 2026 年 6 月以 MIT 许可发布的开源大模型，上下文扩至 100 万 token，通过跨层共享稀疏注意力索引器压低长上下文成本，推理与编程成绩高于 GLM-5.1。

字节跳动 Seed 团队于 2026 年 6 月 23 日发布的大模型系列，分 Pro 与 Turbo 两版，面向真实生产力场景，在智能体能力、代码交付、知识、推理与多模态理解上均有提升。

Claude Sonnet 5 于 2026 年 6 月 30 日发布，是 Anthropic 最具智能体能力的 Sonnet 模型，可自主制定计划、使用浏览器与终端。

混元 Hy3 是腾讯于 2026 年 7 月 6 日发布的开放权重推理模型，采用 Apache 2.0 许可，总参数 2950 亿，每个词元激活 210 亿，支持 256K 上下文。

OpenAI 于 2026 年 7 月 9 日发布的三模型系列，由弱到强为 Luna、Terra 和 Sol，其中 Sol 被定位为公司最强的编码与智能体模型。

Inkling 是 Thinking Machines Lab 发布的第一个模型：9750 亿参数混合专家模型，开放权重，原生支持文本、图像和音频输入，上下文窗口最高 100 万 token。

Claude Opus 5 于 2026 年 7 月 24 日发布，定价与 Opus 4.8 相同。Anthropic 称它是迄今最符合对齐目标的模型，也是公司对外提供的最强科研模型。

通义千问 Qwen3.8 是阿里巴巴2026年的旗舰系列。开放的 Qwen3.8-2.4T-A95B 于2026年8月发布，总参数 2.4 万亿，激活 95B，采用自定义许可证。

混元 Hy4 preview 是腾讯于 2026 年 8 月 28 日发布的开放权重混合专家模型，总参数 7700 亿，每个词元激活 490 亿，上下文超过一百万词元。

Step 5 Preview 是阶跃星辰 2026 年 9 月发布的旗舰基础模型预览版，采用稀疏混合专家架构，总参数 6000 亿，支持 100 万 token 上下文，并公开了模型权重。

Claude Fable 5.1 于 2026 年 9 月 1 日发布，价格与 Fable 5 相同，缓存读取便宜 75%。同系列的 Mythos 5.1 仅限认证计划使用。

Gemini 3.8 Flash 是 Google 于 2026 年 9 月 2 日发布的快速低成本模型，同日推出网络安全变体 Gemini 3.8 Flash Cyber，其介绍性价格在 2027 年初翻倍。

DeepSeek-V4.1-Flash 于 2026 年 9 月 10 日发布，是一款 5520 亿参数的多模态混合专家模型，API 模型名为 deepseek-flash。

Claude Opus 5.5 于 2026 年 9 月 22 日发布，是 Claude 5.5 系列的首个模型。Anthropic 称其大多数工作表现与 Fable 5.1 相当。

Claude Sonnet 5.5 于 2026 年 9 月 28 日发布，是 Claude 5.5 系列的第二个模型，也是 Anthropic 迄今最快的 Sonnet。

OpenAI 在 2026 年下半年推出的模型系列：9 月 29 日 DevDay 发布 Sol，10 月 26 日推出更快更便宜的 Terra；原计划一同推出的 Astra 因安全原因未发布。

Kimi K3.1 Pro 是月之暗面（Moonshot AI）于 2026 年 10 月发布的开放权重模型，K3.1 系列的首个成员，面向金融研究、3D 建模与编程。它沿用 K3 的规模，但把全注意力层换成了稀疏注意力层。

Kolibri-1 是 Aleph Alpha 发布的开源权重混合专家模型，只做德语和英语，总参数 781 亿、每个 token 激活 34.6 亿，上下文窗口超过 100 万 token，权重可装进单张 GPU。

Mistral Large 4 是 Mistral AI 的旗舰开放权重模型，总参数约 1 万亿，上下文窗口为 100 万词元（token），原生支持多模态。2026年10月6日公开预览，同年10月29日发布改进版权重。

Claude Haiku 5.5 于 2026 年 10 月 7 日发布，是 Claude 5.5 系列的第三个模型。Anthropic 称其为迄今最便宜、最快的小模型。

Muse Spark Open 是 Meta 于 2026 年 10 月 15 日发布的开放权重大语言模型，总参数 8,160 亿，主打编程和智能体任务，权重可下载。

Jais-3-MoVA-36B-A4B 是基础模型研究院（IFM）推出的阿拉伯语中心模型：总参数 360 亿、每个 token 仅激活 40 亿，上下文窗口 51.2 万 token，注意力层采用 MoVA 稀疏方案。

Jais-3-7B 是基础模型研究院推出的稠密 7B 阿拉伯语与英语模型，上下文窗口为 512,000 个 token，约 18 GB 即可在单张 GPU 上运行，思考过程放在单独字段返回。

LFM3-Omni-2B 是 Liquid AI 在 LFM3 系列中推出的首个全模态模型：一个 21.7 亿参数的模型即可读入文本、图像、视频和音频，并以文字或语音作答。

讯飞星火 X2.6 是科大讯飞 2026 年 10 月发布的端云一体大模型系列，云端采用 2930 亿参数的混合专家架构，并由路由模型决定每个任务在端侧还是云端执行。

Gemini 4 Carbon 是 Google DeepMind 于 2026 年 10 月 28 日发布的前沿模型，距 Gemini 4 Argon 仅两周，Google 称其网络安全与长程能力达到当前最好水平。

OpenAI 于 2026 年 11 月 5 日发布的网络安全模型，只向 Daybreak Red 项目最高层级用户开放；据 OpenAI 称，它扫描 Linux 内核发现 948 个潜在问题，在 Firefox 中发现 81 个新漏洞。

艾丹·戈麦斯是加拿大计算机科学家，Cohere 的联合创始人兼首席执行官，也是 2017 年提出 Transformer 架构的论文的八位作者之一。

技术创新研究院（TII）是阿布扎比政府先进技术研究委员会下属的研究机构，研究覆盖十个技术领域，并开发 Falcon 系列语言模型，公开发布模型权重、技术报告和自定义许可。

红队测试（red teaming）指在模型部署前主动试探它，看它会不会做出有害或不被期望的行为。2022 年 Perez 等人提出用一个语言模型为另一个语言模型自动生成测试用例的方法，把这件事部分自动化了。

菲吉·西莫是科技行业高管，曾任 Instacart 首席执行官，2025 年出任 OpenAI 应用业务首席执行官；2026 年 7 月因健康原因卸任，转为兼职顾问。

斯坦福大学计算机科学系教员，基础模型研究中心（CRFM）主任，研究重点是让语言模型更开放、更可测量。

越狱（jailbreak）是用对抗性提示让经过安全训练的模型做出其训练本应阻止的行为。Wei 等人在 2023 年 7 月的一篇分析中，把这类失败归因于目标冲突与泛化不匹配两种失效模式。

Christopher Manning 是斯坦福大学语言学与计算机科学教授、SAIL 前主任，曾任 ACL 主席，并获多项 Fellow 称号与学院成员资格。

Sarvam AI 是一家致力于在印度构建自主 AI 技术栈的公司；其发布的 Sarvam-M 以 Mistral Small 为底座做后训练，以 Apache-2.0 许可开放权重，在印度语言基准上有明显提升。

蚂蚁集团旗下团队在 2025 年发布开放权重的 Ling（百灵）混合专家语言模型，在没有高端 GPU 的条件下训练，以 MIT 许可证公开。

Noam Brown 是 OpenAI 的研究科学家，研究推理、强化学习、自博弈与多智能体 AI。他因 Libratus、Pluribus 等扑克 AI，以及 CICERO 和 OpenAI o1 等推理模型相关工作而知名。

Snowflake 是一家云数据平台公司，也自研开放语言模型；其 Arctic 模型把稠密 Transformer 与稀疏专家混合结合，以 Apache 2.0 许可发布。

Transformers是Hugging Face的开源Python库，通过统一的接口提供预训练的Transformer模型。其论文于2019年10月9日发布在arXiv上。

亚历克·拉德福德（Alec Radford）是GPT-2、CLIP和Whisper论文的第一作者，2016年至2024年在OpenAI工作。

诺姆·沙泽尔（Noam Shazeer）是《Attention Is All You Need》的第二作者。他2024年回到Google，2026年宣布加入OpenAI。

Sierra 是一家由 Bret Taylor 与 Clay Bavor 共同创办的公司，用 AI 智能体帮助企业构建客户体验，并强调它是对人的增强而非替代。

上下文窗口（context window）是模型生成回答时能够参照的全部文本，以 token 计量，回答本身也计入其中。窗口的大小，以及模型能否均匀地用上窗口内容，共同决定了它实际能做什么。

长上下文指模型一次能接收并加以利用的大量输入，如今可达数百万词元；但窗口大不等于用得好，能否在长输入中准确定位信息是另一回事。

美团 LongCat 团队发布 LongCat-Flash，这是一个总参数 5600 亿的混合专家语言模型，平均每个 token 激活约 270 亿参数，并以 MIT 许可开放权重。

键值缓存把模型为先前 token 算出的键和值保存下来，生成新词时直接复用而不重算。它的显存占用是决定一台服务器能同时服务多少请求的关键。

提示工程是设计输入文本、引导生成式人工智能产出目标结果的实践。统一的术语和思维链提示等技术，让提示方法更容易描述、比较和复现。

阿希什·瓦斯瓦尼（Ashish Vaswani）是论文《Attention Is All You Need》的第一作者，该论文提出了Transformer架构。他还共同创办了Essential AI。

Aleph Alpha 于 2026 年 10 月 3 日发布开放权重模型 Kolibri，以「主权」和德语专精而非原始规模作为主要卖点，面向公共管理、工业与航空航天等关键任务场景。

LG 人工智能研究院是 EXAONE 系列大语言模型背后的研究机构，以技术报告和自定义许可证的方式公开发布模型。

扬·莱克（Jan Leike）是 AI 对齐研究员，2024 年 5 月离开 OpenAI 后加入 Anthropic。

杰森·魏（Jason Wei）是 AI 研究者，思维链提示与「涌现能力」两篇论文的第一作者，先后在 Google Brain、OpenAI 和 Meta Superintelligence Labs 工作。

Liquid AI 是一家「效率优先」的基础模型公司，从 MIT CSAIL 分拆创立，主张模型应跑在本地设备而非只在云端，代表成果是全模态模型 LFM3-Omni-2B。

Poolside 是一家开发面向软件工作的模型的 AI 公司。2026 年 4 月，它发布了 Laguna M.1 和 Laguna XS.2 两款模型，以及支撑其强化学习的智能体运行时 pool。

Epoch AI 的基准测试中心汇集领先 AI 模型的基准成绩，包括其自行开展的评测，并用 Epoch Capabilities Index 将多项分数合并为单一通用能力量表。

合成数据是由模型生成、而非从人或从网上收集的训练材料。phi-1 的实验显示，混入模型生成的「教科书」后，一个小规模代码模型也能在代码基准上取得不错的成绩，说明数据质量本身影响能力。

工具调用让语言模型把算术、查找资料这样的子任务交给外部程序，再把返回结果写进回答。2023 年的 Toolformer 展示了模型可以自己学会何时调用、如何调用工具。

规划（planning）是 AI 智能体（agent）把目标拆成中间步骤、决定下一步行动，并根据结果调整方案的过程，而不是一次给出答案。[^1][^2]

贾里德·卡普兰（Jared Kaplan）是Anthropic联合创始人兼首席科学官，也是2020年《Scaling Laws for Neural Language Models》的第一作者。

Reka AI 是一家为「物理 AI 时代」构建模型与基础设施的 AI 研究实验室，代表成果包括 210 亿参数的推理模型 reka-flash-3 和面向设备端部署的 70 亿参数视觉语言模型 Reka Edge。

基准污染（benchmark contamination）指模型被评测的题目或与之接近的变体本来就出现在它的预训练数据里，于是分数部分反映的是对已见文本的记忆，而不是基准想测的能力。

蒙特利尔大学是位于魁北克省蒙特利尔的一所法语公立研究型大学，1878 年建校、1919 年获自治权，今天是深度学习的重镇，也是 Yoshua Bengio 与 Mila 研究所的所在地。

清华大学是位于北京海淀的公立研究型大学，1911年以清华学堂之名创办，现为中国计算机科学与人工智能研究的重要中心，姚期智、何恺明与智谱AI等均与其相关。

Yoav Shoham（约阿夫·肖汉姆）是以色列裔美国计算机科学家，斯坦福大学名誉教授，也是 AI21 Labs 的联合创始人兼董事长。他发起了 AI Index 项目。

刘庆峰是科大讯飞的总裁兼董事长。他于 1999 年在中国科学技术大学读博期间创立科大讯飞，2023 年 5 月发布讯飞星火大模型。

中国计算机科学家、企业家，打造了搜狗搜索与搜狗输入法，带领搜狗在纽交所上市，后来又创办人工智能公司百川。

西班牙计算机科学家，1983 年出生，共同提出序列到序列学习，领导 DeepMind 的 AlphaStar 研究小组，后任 Gemini 技术负责人，2026 年离职创办 Discovery Loop。

1993 年论文，作者 Marcus、Santorini 与 Marcinkiewicz，介绍宾夕法尼亚树库：一百多万词《华尔街日报》文本带句法括号标注。

加拿大机器学习研究者，曾是 Google Brain 多伦多办公室的早期研究员，2019年在多伦多共同创办自然语言处理公司 Cohere，同时是独立摇滚乐队 Good Kid 的主唱。

美国企业家，1997年生，2016年与Lucy Guo共同创办数据标注与模型评测公司Scale AI；2025年出任Meta首席人工智能官，领导Meta超级智能实验室。

微软小冰是 2014 年 5 月发布的聊天机器人，用户可把它加进微信群做提醒、查询、天气和讲笑话。它迅速走红，但三天后因违反平台规则被微信封禁。

Cerebras Systems 是一家 2015 年成立的美国 AI 芯片公司，用整片晶圆制造单颗超大处理器，代表作是从 WSE、CS-1 到 WSE-3、CS-3 的晶圆级计算系统。

HellaSwag 是 2019 年发布的一个挑战数据集：机器要从若干候选里挑出一句事件描述最可能的后续。它的错误选项由机器生成并筛选，目标是骗过模型而不是骗过人。

文心 ERNIE 2.0 是百度提出的预训练语言模型框架，以持续多任务学习的方式不断叠加预训练任务，并在中英文多项基准上报告了超过 BERT 与 XLNet 的成绩。

Google 在 2019 年发表的 T5 论文，把所有语言任务统一为「文本进、文本出」，使用同一个编码器-解码器 Transformer 和同一种训练方式。论文还发布了 C4 数据集。

Writer 是一家企业级人工智能公司，2020 年由 May Habib 与 Waseem AlShikh 创办，向大型企业销售贴合品牌调性的智能体与管控工具，并发布 Palmyra-mini 系列小型开放模型。

Meena 是 Google 的开放域聊天机器人，26 亿参数，端到端训练在过滤后的社交媒体对话上。论文提出 SSA 人工评测指标，并把下一词困惑度与人类判定的对话质量联系起来。这项工作后来更名为 LaMDA。

GPT-Neo 是 EleutherAI 于 2021 年 3 月发布的一组开放文本生成模型，含 125M、1.3B、2.7B 三种规模，意在复现 GPT-3 架构，权重可自由下载，采用 MIT 许可证。

澜舟科技是一家中国人工智能公司，2021 年 6 月成立并孵化于创新工场，自研孟子系列模型，并以企业级智能体平台及在其上构建的应用作为主要产品。

Jurassic-1 是 AI21 Labs 的第一个大语言模型系列，2021年8月随开发者平台 AI21 Studio 发布，其中最大的 Jumbo 版本拥有 1780 亿参数。

NVIDIA 与微软 2021 年 10 月联合发布的 5300 亿参数语言模型，为当时最大的单体 Transformer 语言模型。

Character.AI 是一家聊天机器人公司，由前谷歌工程师 Noam Shazeer 与 Daniel De Freitas 于 2021 年创办，以用户自建 AI 角色聊天著称，2026 年 10 月申请破产保护。

Gopher 是 DeepMind 于 2021 年 12 月公布的 2800 亿参数大语言模型，同时被用来研究规模究竟能带来什么、不能带来什么。

文心 ERNIE 3.0 Titan 是一个参数规模超过 2600 亿的中文预训练语言模型，作者称其为当时最大的中文稠密预训练模型，并报告它在 68 个自然语言处理数据集上超过了此前的先进模型。

中国人工智能公司，2022年由清华大学副教授刘知远主导创立，以 MiniCPM 系列端侧小模型、多模态与语音模型以及 ForgeTrain 训练框架为人所知。

AlphaCode 是 DeepMind 面向竞赛编程的代码生成系统，2022 年公布，在训练数据之后的 Codeforces 比赛上估计排名接近中位水平。

美国人工智能公司 Inflection AI 2022 年成立，推出聊天机器人 Pi，2024 年大部分员工与技术转入微软。

Flamingo 是 DeepMind 于 2022 年 4 月公布的视觉语言模型：输入可以是图像、视频和文字交错混排的提示，输出相应的语言，并能只靠几个示例学会新任务。

OPT-175B 是 Meta AI 于 2022 年 5 月公布的 1750 亿参数语言模型。Meta 称，它是同等规模中首个连同预训练模型与训练、使用代码一起发布的模型。

推测解码是一种加速大模型文本生成的算法：小模型先提出若干候选词，大模型对这些候选并行检查，在输出完全不变的前提下更快地生成。

Galactica 是 Meta AI 与 Papers with Code 于 2022 年 11 月推出的科学大语言模型。上线约三天后，Meta 撤下了公开演示，但模型仍向研究者开放。

2022 年 12 月与 2023 年 5 月两篇 arXiv 论文提出的医学问答语言模型，第一篇同时提出 MultiMedQA 基准，Med-PaLM 2 在 MedQA 上最高达到 86.5%。

智谱 AI 面向普通用户的聊天产品，2023 年以 ChatGLM 之名起步，后改名为 GLM，入口为 chat.z.ai，也是新模型面向公众的窗口。

Cohere 的首个旗舰指令跟随生成模型，2023 年经 Cohere API 与云市场提供，后由 Command R 接替，2025 年弃用。

文本水印是在语言模型生成的文字里嵌入一种人看不见、但程序能从一小段词元中检测出来的信号，用来判断一段文本是否出自某个模型。

AI21 Labs 于 2023 年 3 月发布的语言模型系列，接替 Jurassic-1，有三种规模和指令微调版本，2024 年由 Jamba 接续。

Anthropic 的 Claude 轻量版模型，2023 年 3 月与 Claude 一同发布，主打更快、更便宜的 API 调用，2024 年 11 月退役。

RedPajama 是一个开源项目，第一步是把 LLaMA 的训练数据集复现出来，以「洁净室」方式完整开源了 1.2 万亿 token 的语料。

Pythia 是 EleutherAI 发布的一套 16 个开源语言模型，规模从 7000 万到 120 亿参数，全部用同一份数据、按同样的顺序训练，每次训练公开 154 个检查点。

商量（SenseChat）是商汤科技 2023 年 4 月 10 日发布的对话式 AI 产品，发布时参数量超过 1000 亿，最初只面向政企客户，此后经商量 V4 与日日新 V6 两次重要更新不断扩展。

Amazon Titan 是亚马逊为 Amazon Bedrock 构建的基础模型系列，覆盖文本生成、嵌入和图像生成，2023 年发布，后来由 Amazon Nova 接替。

Stable LM 是 Stability AI 于 2023 年 4 月发布的开源语言模型系列，首批为 30 亿和 70 亿参数的 alpha 版；基础模型允许商用，指令微调版本仅限研究。

HuggingChat 是 Hugging Face 2023 年 4 月推出的免费聊天机器人，作为 ChatGPT 的开源替代品，最初使用 Open Assistant 模型，可在多个开放模型间切换。

Pi 是 Inflection AI 于 2023 年 5 月 2 日推出的聊天机器人，名字取自「个人智能」，定位为个人的对话式助手。2024 年 3 月，微软雇走 Inflection 大部分员工，两位联合创始人也在同月离开。

StarCoder是BigCode项目于2023年5月4日发布的开放代码语言模型，约155亿参数，由Hugging Face与ServiceNow共同领导的项目推出。

AI SDK 是 Vercel 推出的 TypeScript 工具包，用一套接口对接多家模型提供商，并提供与前端框架无关的聊天界面钩子，以及统一运行智能体框架的方式。

Baichuan-7B 是 2023 年 6 月发布的开源中英双语大语言模型，参数量 70 亿，是百川的第一个模型，训练约 1.2 万亿词元，并在中英文基准上给出了评测成绩。

文心大模型 3.5 是百度于 2023 年 6 月下旬发布的大语言模型，作为文心一言背后的升级版本，引入了插件机制；百度称其在若干基准测试上超过 ChatGPT。

Phi-1 是微软研究院发布的一个 13 亿参数的 Transformer 语言模型，专攻 Python 代码；它用经过筛选的「教科书质量」数据和合成数据说明，数据质量可以在一定程度上替代模型与数据规模。

百川智能2023年7月发布的开源130亿参数语言模型，分基座版与对话版，以1.4万亿token训练，并在中英文基准上同LLaMA-13B做对照。

云雀（Skylark）是字节跳动于 2023 年 8 月推出的第一个大语言模型，为豆包聊天机器人提供底层能力，2024 年 5 月以「豆包大模型」家族的名义重新对外发布。

讯飞星火 V2.0 是科大讯飞大语言模型的第二个版本，于 2023 年 8 月 15 日发布，升级了代码与多模态能力，并与编程助手 iFlyCode 1.0 一同推出。

Phi-1.5 是微软研究院的 13 亿参数语言模型，用经过挑选和生成的「教科书式」文本训练，不用网页抓取数据；报告称其自然语言表现可与体积大 5 倍的模型相比。

PLaMo-13B 是 Preferred Networks 训练并开源的 130 亿参数日英双语语言模型，以 LLaMA 为基础，2023 年 9 月以 Apache-2.0 许可在 Hugging Face 公开。

讯飞星火 V3.0 是科大讯飞于 2023 年 10 月 24 日发布的大语言模型版本，公司称其在中文语境下优于 GPT-3.5；同日还发布了与华为共建的国产算力平台和 12 个行业模型。

DeepSeek 的第一个模型发布：开源代码模型系列，参数规模从 1.3B 到 33B，在 2 万亿 token 上从零训练，据报在多项基准上超过 Codex 与 GPT-3.5。

DeepSeek LLM 是深度求索于 2023 年 11 月 29 日发布的首个通用语言模型系列，提供 7B 和 67B 两种规模，每种都有基础版和对话版。

Phi-2 是微软研究院 2023 年 12 月 12 日公布的 27 亿参数基座语言模型，微软称它在复杂基准上匹配或超过最多 25 倍大的模型，成为小模型路线的一个参照点。

DeepSeekMoE 是 DeepSeek 在 2024 年 1 月发布的混合专家架构，通过细粒度专家分割与共享专家隔离，让每个专家掌握更聚焦的知识。其 16B 开源模型以远低于同类模型的计算量取得了相当的表现。

Baichuan 3 是百川智能 2024 年 1 月 29 日发布的闭源大语言模型，参数规模超过一千亿。官方称其在中文基准与中文医疗任务上超过或接近 GPT-4，主打中文与医疗能力。

讯飞星火 V3.5 是科大讯飞于2024年1月30日发布的大语言模型，是首个基于全国产算力平台飞星一号训练的星火模型，发布时与 GPT-4 Turbo 作了比较。

Dolma 是一个公开发布的英文语料库，规模约三万亿词元，由网页文本、论文、代码、书籍、社交媒体与维基百科混合而成；配套论文同时记录了数据集本身和整理流程。

Aya 101 是 Cohere For AI 发布的指令微调模型，参数量 13 billion，能用 101 种语言遵循指令，2024 年 2 月以 Apache 2.0 许可证开放。

DeepSeekMath 是 2024 年发布的开源数学模型，参数规模 7B，不用外部工具就在竞赛级 MATH 基准上取得 51.7% 的成绩，并提出比 PPO 更省显存的强化学习算法 GRPO。

通义千问 Qwen1.5 是 2024 年 2 月发布的开源模型系列，包含 0.5B 到 72B 参数的基础模型和对话模型，后扩展至 110B，并有一个混合专家模型。

日日新 4.0（SenseNova 4.0）于 2024 年 2 月 8 日发布，推出 4K、32K 和 128K 三档上下文版本、多个专用模型，以及商汤首个多模态工具调用接口。

StarCoder2 是 BigCode 联合 NVIDIA 于 2024 年 2 月发布的开放代码模型系列，含 3B、7B、15B 三种规模，训练数据与代码一并公开。

Cohere 于 2024 年 3 月发布的 350 亿参数语言模型，面向生产环境的检索增强生成与工具调用，支持 128k 上下文，并以非商用许可开放权重。

Step-1V 是阶跃星辰 2024 年 3 月发布的约一千亿参数多模态大模型，能读取图像中的文字、数据和图表并支持视频理解，发布时位列 OpenCompass 多模态榜单第一，后被 Step-1.5V 接替。

Step-1 是阶跃星辰推出的首个语言大模型，参数量约一千亿，2024 年 3 月 23 日在上海与多模态模型 Step-1V、Step-2 预览版一同发布。

Grok-1.5 是 xAI 对 Grok-1 的升级版，推理能力更强，上下文窗口扩至 12.8 万 token。同期预览的 Grok-1.5V 是该公司首个多模态模型。两者的权重都没有公开发布。

孟子3（Mengzi3）是澜舟科技开源的一系列大语言模型，有 8B 与 13B 两种规模，采用 Llama 架构，在数万亿多语言 token 上继续训练，以 Apache-2.0 许可开放。

Mistral AI 于 2024 年 4 月发布的稀疏混合专家语言模型，总参数 1410 亿，每个词元激活其中 390 亿，以 Apache 2.0 许可开放权重。

abab 6.5 是 MiniMax 于 2024 年 4 月发布的混合专家大语言模型系列，据报道支持 20 万词元的上下文长度，并在长上下文检索测试中答对了全部 891 个问题。

OpenELM 是 Apple 发布的一系列小型开放语言模型，共 270M 至 3B 四种规模，并公开了训练框架、日志、检查点以及转换为 MLX 的代码。

Yi-1.5 是零一万物于 2024 年 5 月开源的模型系列，含 34B、9B、6B 三种规模，各有基础版与对话版，由原 Yi 模型继续预训练而来。

Gemini 1.5 Flash 是 Google Gemini 1.5 系列中的轻量模型，2024 年 5 月 14 日发布，由 1.5 Pro 蒸馏训练而来，上下文窗口为 100 万 token，主打快速与低成本。

Baichuan 4 是百川智能于 2024 年 5 月 22 日在北京发布的闭源大语言模型，也是百川第一个多模态模型，同日上线的 AI 助手「百小应」由它驱动。

Aya 23 是 Cohere For AI 发布的开放权重多语言指令微调模型，2024 年 5 月推出 80 亿和 350 亿参数两个版本，覆盖 23 种语言，作者称其表现优于 Aya 101 等模型。

Codestral 是 Mistral AI 的代码模型系列，2024 年 5 月首次发布时为 22B 参数、32K 上下文的开放权重模型，此后版本在上下文长度、生成速度和补全质量上继续推进。

文心大模型 4.0 Turbo 是百度于 2024 年 6 月发布的语言模型，百度称其在常见场景上更强、比文心 4.0 更快更便宜，位于文心 4.0 与文心 4.5 之间。

苹果基础模型（AFM，2024）是 Apple 智能背后的第一代模型，包括约 30 亿参数的端侧模型，以及运行在 Private Cloud Compute 上的较大服务器模型。

Nemotron-4 340B 是 NVIDIA 于 2024 年 6 月 14 日发布的开放模型系列，包括基础、指令和奖励三个版本，用于生成合成训练数据。

DeepSeek 2024 年 6 月发布的开源混合专家代码模型，支持语言从 86 种增至 338 种、上下文从 16K 扩到 128K，并在代码与数学基准上高于多个闭源模型。

Google 于 2024 年 6 月 27 日发布的第二代 Gemma 开放模型，含 90 亿与 270 亿参数两个版本，采用分组查询注意力与 8192 词元上下文窗口，许可证允许商业使用。

商汤于 2024 年 7 月在世界人工智能大会上发布的日日新 5.5 模型系列，包含实时多模态模型、轻量与端侧版本，并以迁移优惠争取 OpenAI 客户。

SmolLM 是 Hugging Face 于 2024 年 7 月公开发布的一系列小型语言模型，参数量分别为 135M、360M 和 1.7B，面向设备端运行，并用一套专门构建的语料训练。

Mistral NeMo 是 Mistral AI 与 NVIDIA 于 2024 年 7 月发布的 120 亿参数开放权重模型，支持 128K token 上下文与多语言。

Phi-3.5 是微软 Phi 系列小模型在 2024 年 8 月的一次更新，一次发布 mini、vision 和该系列首个混合专家模型三个版本，均以 MIT 许可证开放。

EXAONE 3.0 7.8B 是 LG AI Research 首个对外开放的模型，为指令微调版本，韩语能力突出，权重以申请制方式在 Hugging Face 发布。

Jamba 1.5 是 AI21 Labs 的指令微调语言模型系列，含 Mini 与 Large 两个规模，混合 Transformer 与 Mamba 层，有效上下文 25.6 万词元，权重开放。

OLMoE 是 Ai2 发布的完全开放的稀疏专家混合语言模型：总参数 70 亿，每个词元激活 10 亿，在 5 万亿词元上预训练，权重、数据、代码和日志全部公开。

DeepSeek-V2.5 是 DeepSeek 于 2024 年 9 月 5 日发布的模型，把对话模型与代码模型合并为一个，兼顾聊天和编程能力，并提升了安全评测成绩。

混元 Turbo 是腾讯的大语言模型，2024 年 9 月上线腾讯云，主打训练与推理效率提升、价格减半。2025 年 2 月由混元 Turbo S 接替，API 价格进一步降低。

Yi-Coder 是 01.AI 于 2024 年 9 月开源的一系列代码模型，有 1.5B 和 9B 两种规模，各自提供基础版和对话版，覆盖 52 种编程语言，上下文最长 128K token。

o1-mini 是 OpenAI 于 2024 年 9 月 12 日随 o1-preview 一同发布的小型推理模型，更快更便宜，用强化学习训练其逐步推理，OpenAI 称它尤其擅长编程。

Aya Expanse 是 Cohere For AI 于 2024 年 10 月发布的多语言开放权重模型系列，分为 8B 和 32B 两个规模，覆盖 23 种语言。

Ministral 3B 与 8B 是 Mistral AI 2024 年发布的端侧小模型，支持长上下文、价格低，3B 据称在多数基准上超过 Mistral 7B。

Anthropic 于 2024 年 10 月公布的小型快速语言模型，接替 Claude 3 Haiku，官方称其以接近 Haiku 的速度达到上一代旗舰的智能水平，且在编程任务上尤其突出。

讯飞星火 4.0 Turbo 是科大讯飞 2024 年 10 月发布、2025 年 1 月升级的大语言模型，训练与推理都在国产飞星一号算力平台上完成，讯飞称其多项中英文测试成绩超过 GPT-4 Turbo 与 GPT-4o。

SmolLM2 是 Hugging Face 于 2024 年 11 月发布的第二代小型语言模型系列，包含 135M、360M 和 1.7B 三种规模，以 Apache 2.0 许可开放，强调数据而非参数规模。

Tülu 3 是 Ai2 于 2024 年 11 月发布的一套公开后训练方案及配套模型，基于 Llama 3.1 的 80 亿和 700 亿参数两个版本，结合了指令微调、同策略偏好微调与带可验证奖励的强化学习。

OLMo 2 是艾伦人工智能研究所（Ai2）第二代完全开放的语言模型，2024 年 11 月发布 7B 与 13B 两个规模，权重、数据、代码与训练配方全部公开。

QwQ-32B-Preview 是通义千问团队于 2024 年 11 月 28 日发布的实验性推理研究模型，32B 参数、32K 上下文，权重以 Apache 2.0 开放；数学成绩突出，团队同时公开列出了它的典型问题。

OpenAI o1 的一个版本，回答前投入更多算力思考；2024 年 12 月随每月 200 美元的 ChatGPT Pro 套餐推出，2025 年 3 月进入 API。

LG AI Research 于 2024 年 12 月发布的韩英双语指令微调模型系列，含 2.4B、7.8B、32B 三档规模，支持 32K 上下文，权重以允许研究使用的许可证开放。

Llama 3.3 70B 是 Meta 于 2024 年 12 月 6 日发布的纯文本指令模型。Meta 称，它的表现接近 4050 亿参数的 Llama 3.1，成本却低得多，并可在普通开发者工作站上运行。

Gemini 应用中的代理式研究功能：先给出多步骤研究计划由用户确认，再花几分钟浏览网页，产出带原文链接的报告；后来也作为托管代理进入 Gemini API。

Project Mariner 是 Google 随 Gemini 2.0 公布的浏览器智能体研究原型，以实验性 Chrome 扩展运行，通过理解屏幕内容完成网页任务。

Falcon3 是 TII 的开放权重语言模型系列，覆盖 1B 到 10B 参数，各有基础与 instruct 版本；10B instruct 权重于 2024 年 12 月 14 日上传到 Hugging Face。

无问芯穹 2024 年 12 月开源的 29 亿参数语言模型，采用 Llama-2 结构与 32K 上下文，Apache-2.0 许可，面向本地部署。

Megrez-3B-Omni 是 2024 年 12 月发布的开源全模态模型，能在端侧设备上理解图像、文本与音频，以 22.9 亿参数的语言主干搭配 SigLip 与 Whisper 编码器，总参数约 40 亿。

Cohere North 是一个企业 AI 工作平台，整合大语言模型、搜索和 AI 智能体。它于 2025 年 1 月开放抢先体验，2025 年 8 月正式全面发布。

Baichuan-M1 是百川智能的医疗大模型系列，2025年1月24日发布 Baichuan-M1-preview，并开源 Baichuan-M1-14B。公司称后者从零开始为医疗场景训练。

Falcon Shores 是英特尔的一颗芯片。2025 年 1 月，英特尔表示只把它当作内部测试芯片使用、不推向市场，并把机架级 AI 数据中心方案寄望于 Jaguar Shores。

Mistral Small 3 是 Mistral AI 于 2025 年 1 月发布的 240 亿参数开源语言模型，以 Apache 2.0 许可发布，主打低延迟，可在单张显卡或笔记本上运行。

Google 于 2025 年 2 月发布的实验性模型，属于 Gemini 2.0 系列，被 Google 称为当时在编程和复杂提示上最好的模型，支持 200 万 token 的上下文窗口与工具调用。

Phi-4-mini 是 38 亿参数的文本模型，Phi-4-multimodal 是 56 亿参数、可同时处理文字、图像与语音的模型，二者于 2025 年 2 月作为 Phi-4 家族的小尺寸成员发布。

AI21 Labs 于 2025 年 3 月发布的开放权重混合 SSM-Transformer 模型系列，含 Large 与 Mini 两档，支持 256k 上下文。

Cohere 的第一个视觉语言模型，2025 年 3 月以 8B 和 32B 两个开放权重版本发布，支持 23 种语言的图文输入，按非商业许可开放。

Reka Flash 3 是 Reka 推出的 210 亿参数通用推理模型，从零训练，2025 年 3 月以 Apache 2.0 许可在 Hugging Face 开放权重。

OLMo 2 系列中参数规模最大的模型，320 亿参数，数据、代码、权重与训练细节全部公开；Ai2 称它是首个在多项学术基准上超过 GPT-3.5-Turbo 和 GPT-4o mini 的完全开源模型。

Mistral Small 3.1 是 Mistral AI 于 2025 年 3 月发布的开放权重模型，新增图像理解，上下文窗口扩至 128K token，可在单卡上运行。

Llama Nemotron 是 NVIDIA 2025 年 3 月推出的开放推理模型系列，分 Nano、Super、Ultra 三种规格，基于 Meta 的 Llama 3 模型。

DeepSeek-V3-0324 是 2025 年 3 月对 DeepSeek-V3 的一次更新：模型结构不变，基准成绩提高，并改用 MIT 许可证发布。

xLAM-2 是 Salesforce 的大行动模型系列，参数规模从 10 亿到 700 亿，用模拟智能体与人交互生成的数据训练，面向多轮工具调用而非单次函数调用。

Llama 4 Behemoth 是 Meta 于 2025 年 4 月 5 日预览的超大模型，用作 Llama 4 系列的教师模型。它从未公开发布。

文心大模型 X1 Turbo 是百度于 2025 年 4 月 25 日发布的推理模型，作为文心 X1 的升级版，强调更强的思维链、多模态与工具调用能力，并把 API 价格压到更低。

文心大模型 4.5 Turbo 是百度于 2025 年 4 月 25 日发布的多模态大模型，主打更低的幻觉率、更快的响应和大幅下调的 API 价格。

微软于 2025 年 4 月发布的 140 亿参数开放权重推理模型，在 Phi-4 上用 OpenAI o3-mini 生成的推理过程做微调，以 MIT 许可证发布。

Amazon Nova Premier 是亚马逊 Nova 系列第一代中最强的模型，2025 年 4 月 30 日起在 Amazon Bedrock 正式可用，支持文本、图像与视频输入。

Mistral Medium 3 是 Mistral AI 于 2025 年 5 月 7 日发布的专有模型，主打以低得多的价格接近更大竞品的水平，并可在四块 GPU 上自托管。

Seed-Coder 是字节跳动 Seed 团队于 2025 年 5 月发布的开源代码模型系列，三个版本均为 8B 参数，其数据筛选由语言模型而非人工规则完成。

Sarvam-M 是 Sarvam AI 发布的开源权重模型，在 Mistral Small 基础上后训练而成，覆盖 11 种印度语言，支持思考与不思考两种模式，在印度语言、数学和编程基准上有明显提升。

一个 8TB 的公共领域与开放许可文本数据集，用于大语言模型预训练；作者同时发布两个在该数据上训练的 70 亿参数模型，用以证明这批数据够用。

MiniCPM4 是面壁智能面向端侧设备而非服务器设计的语言模型，采用可训练的稀疏注意力 InfLLM v2，并在数据、训练与推理环节做了配套优化，以 Apache-2.0 许可开放权重。

苹果基础模型（2025）是苹果的第二代模型。它增加了图像理解能力，服务器模型改用混合专家结构，并通过 Foundation Models 框架向开发者开放端侧模型。

o3-pro 是 OpenAI 于 2025 年 6 月 10 日发布的 o3 版本，被其称为当时能力最强的模型，适合可靠性比速度更重要的难题。

Magistral 是 Mistral AI 的首批推理模型系列，2025 年 6 月发布开放权重的 Small 与企业版 Medium，支持多语言推理，后经 1.1、1.2 更新并退役。

Gemini 2.5 Flash-Lite 是 Google Gemini 2.5 系列中价格最低的模型，面向分类、摘要等高吞吐量任务，默认关闭思考，并提供可调节的思考预算。

Gemma 3n 是 Gemma 家族中以移动端为先的开放模型，2025 年 6 月发布，有 E2B 与 E4B 两个规格，运行时占用约 2 至 3 GB 内存，原生支持图像、音频、视频和文本输入。

混元 A13B 是腾讯于 2025 年 6 月开源的混合专家语言模型，总参数 800 亿、每个词元激活 130 亿，支持 256K 上下文和可开关的深度思考。

Jamba 1.7 是 2025 年 7 月发布的 Jamba 系列更新，含 Large 与 Mini 两版，提供 256k 上下文、九种语言，并在事实性和指令遵循上有所改进。

SmolLM3 是 Hugging Face 于 2025 年 7 月 8 日发布的 30 亿参数开放模型，支持六种语言与最长 128K 令牌的上下文，可切换推理模式。

Voxtral 是 Mistral AI 于 2025 年 7 月 15 日发布的语音理解模型系列，含 240 亿与 30 亿参数两个规模，以 Apache 2.0 许可发布，可转写长音频、就音频内容问答，并按口述意图触发函数调用。

Megrez2-3x7B-A3B 是面向端侧部署的混合专家语言模型，通过让相邻层共用一个专家池，把存储参数压到 75 亿，而每个 token 只激活约 30 亿参数。

Command A Vision 是 Cohere 2025 年 7 月发布的首个 Command 视觉语言模型，由 1120 亿参数语言模型与 SigLIP2 图像编码器组成。

Baichuan-M2 是百川智能开源的医疗增强大模型，参数规模为 32B，基于 Qwen2.5-32B 构建，采用 Apache 2.0 许可证，供研究与参考使用。

Claude Opus 4.1 于 2025 年 8 月 5 日发布，在与 Claude Opus 4 价格相同的前提下，提升了智能体任务、真实编程与推理的表现。其后由 Claude Opus 4.5 取代。

Cohere 于 2025 年 8 月发布的首个推理模型，1110 亿参数，可按需开关「思考」过程，面向智能体任务与工具调用，并以非商业许可开放权重。

微软人工智能团队首个完全在内部训练的基础模型，2025 年 8 月 28 日发布。它采用混合专家架构，先在 LMArena 公开测试，并按计划陆续用于 Copilot 的部分文本场景。

GLM-4.6 是智谱于 2025 年 9 月下旬发布的开源大语言模型，上下文窗口扩展到 200K tokens，检查点约 3570 亿参数，以 MIT 许可证发布，重点面向编码、推理与智能体任务。

Qwen3-Next 是阿里巴巴通义千问团队2025年9月以 Apache 2.0 许可证开源的模型，总参数 800 亿、每个词元仅激活 30 亿，其混合架构后来被用于 Qwen3.5。

Writer 发布的小型英文模型，17 亿参数，从 Qwen2.5-1.5B 微调而来，采用 Apache 2.0 许可，支持 131,072 词元的上下文，发布时主打小学阶段的数学题。

百度于 2025 年 9 月开源的深度思考混合专家模型，总参数 210 亿、激活参数 30 亿，支持 128K 上下文，以 Apache 2.0 协议发布。

文心大模型 X1.1 是百度于 2025 年 9 月发布的推理模型，基于文心 4.5 训练，百度称其在事实性、指令遵循和智能体能力上较文心 X1 均有提升。

Writer 于 2025 年 9 月发布的小型推理模型，17 亿参数，微调自 Nvidia 的 OpenReasoning-Nemotron-1.5B，在 AMC23、MATH500 等数学基准上表现突出。

OpenAI 于 2025 年 9 月发布的模型，在 GPT-5 基础上针对智能体式编程优化，曾作为 Codex 的默认模型，2026 年 7 月关停。

xAI 于 2025 年 9 月 19 日发布的低成本推理模型，上下文窗口达 200 万 token，用更少的思考 token 和大幅降低的价格达到 Grok 4 的水平。

DeepSeek 于 2025 年 9 月 29 日发布的实验模型，首次引入 DeepSeek 稀疏注意力以降低长上下文的训练与推理成本，同时开放权重并大幅下调 API 价格。

OpenEnv 是 Hugging Face 的开放框架与社区中心，把强化学习环境打包成容器化服务，同时提供智能体接口、MCP 和 Gym 训练协议。

Tinker 是 Thinking Machines Lab 于 2025 年 10 月 1 日宣布的托管 API，用于微调语言模型，用户自行选择算法和数据。

AI21 Labs 于 2025 年 10 月 8 日以 Apache 2.0 许可发布的小型开源推理模型，30 亿参数，Transformer 与 Mamba 混合架构，256k 上下文，可在手机、Mac 和 PC 上本地运行。

Claude Haiku 4.5 于 2025 年 10 月 15 日发布，所有用户均可使用。它的编程表现接近 Sonnet 4，成本为其三分之一，速度则超过两倍。

讯飞星火 X1.5 是科大讯飞 2025 年 11 月发布的深度推理模型，运行在与华为共同构建的国产算力平台上，采用总参数 2930 亿的混合专家结构。

Grok 4.1 是 xAI 2025 年 11 月对 Grok 4 的更新，侧重情商、创意写作和减少幻觉。Grok 4.1 Fast 是一款 200 万 token 的工具调用模型，于 11 月 19 日发布。

OpenAI 于 2025 年 11 月发布的智能体编程模型，属 GPT-5.1 系列。它是首个原生支持跨多个上下文窗口、并可在 Windows 环境运行的 OpenAI 模型。

亚马逊 Nova 2 是 Nova 模型的第二代，2025 年 12 月在 AWS re:Invent 大会上发布。首款成员 Nova 2 Lite 是快速的推理模型，提供 100 万词元上下文。

Mistral AI 于 2025 年 12 月发布的小型稠密模型系列，含 3B、8B、14B 三个规模，每个规模都有基础、指令和推理版本，均支持图像理解，以 Apache 2.0 许可发布。

NVIDIA Nemotron 3 是 2025 年 12 月宣布的开放混合专家语言模型系列，分 Nano、Super、Ultra 三种规格，最长支持 100 万标记上下文。

豆包大模型 1.8（Doubao-Seed-1.8）由火山引擎于 2025 年 12 月 18 日发布，定位为字节跳动最新旗舰，面向多模态智能体任务，工具调用和电脑操作能力更强。

Baichuan-M3 是百川智能的新一代开源医疗增强语言模型，参数为 235B，基于 Qwen3-235B-A22B 构建，采用 Apache 2.0 许可证，2026年1月发布。

Grok 4.20 是 xAI 在 2026 年推出的模型系列，分推理、非推理和多智能体三个版本，上下文窗口为 100 万 token；随后的 Grok 4.3 沿用同样的上下文和价格。

科大讯飞于 2026 年 2 月 11 日发布的大语言模型，在全国产算力上训练完成，主打教育、医疗、汽车与智能体等行业的实际使用。

Gemini 3.1 Flash-Lite 是 Google Gemini 3 系列中低成本、低延迟的多模态模型，2026 年 3 月先出预览版、5 月正式可用，面向高频、轻量的任务。

Ai2 于 2026 年 3 月 5 日发布的全开放 7B 模型，把 Transformer 注意力与门控 DeltaNet 线性循环层混合堆叠，以少 49% 的训练 token 达到 Olmo 3 7B 的 MMLU 准确率。

Mistral Small 4 是 2026 年 3 月发布的开源混合专家模型，把指令跟随、逐步推理和智能体编程合进一个模型，并用一个参数控制推理的深浅。

Mistral AI 于 2026 年 4 月发布的 128B 参数开放权重多模态模型，面向智能体与编程任务，曾短暂担任 Le Chat 默认模型，后被 Mistral Large 4 取代。

文心大模型 5.1 是百度于 2026 年 5 月 9 日发布的大语言模型，沿用文心 5.0 的预训练基础派生出更小的版本，预训练成本约为同类模型的 6%，并在 LMArena 文本、搜索榜上位列中国模型第一。[^1][^3]

Gemini Spark 是 Gemini 应用内的个人 AI 智能体，2026 年 5 月 19 日发布于 Google I/O，24 小时运行，按用户指示代为执行任务。

Claude Opus 4.8 于 2026 年 5 月 28 日发布，价格与 Opus 4.7 相同。它新增了速度为 2.5 倍的快速模式，减少了自身代码中未被注意的缺陷。Anthropic 称它是一次“温和但切实”的改进。

苹果基础模型第三代（AFM 3）于 2026 年 6 月 8 日发布，由五个模型组成，包括可达 200 亿参数的稀疏端侧多模态模型和三个云端模型。

Grok 4.5 是 xAI 于 2026 年 7 月发布的编程与智能体模型，用数万块 GPU 训练，与 Cursor 联合训练，并成为 Grok Build 的默认模型。

Gemini 3.5 系列中最快的模型，2026 年 7 月发布，面向智能体检索与文档处理等高吞吐任务，并将接替 gemini-3.1-flash-lite。

Gemini 3.6 Flash 是 Google 于 2026 年 7 月 21 日发布的主力模型，在编程、知识工作和多模态上优于 3.5 Flash，输出更省词元，并把计算机操作做成内置工具。

Grok 4.6 是 xAI 于 2026 年 8 月 12 日发布的语言模型，面向长时间运行的智能体以及交互与视觉类任务，上下文窗口 50 万 token，支持文本与图像输入。

Google 于 2026 年 8 月 13 日发布的主力模型，主打编程与智能体，定价分阶段上调，三周后即被 3.8 Flash 接替。

Granite 4.2 是 IBM Granite 团队于 2026 年 8 月 25 日发布的开源权重模型系列，有 3B、8B、30B 三个稠密尺寸，其中 8B 版本带可切换的推理模式，采用 Apache-2.0 许可。

讯飞星火 X2.5 是 2026 年 9 月 7 日发布的大语言模型，采用 293B-A30B 的混合专家结构，训练与推理全部在国产算力上完成，支持 256K 上下文和 200 多种语言。

Grok 4.7 是 xAI 于 2026 年 9 月 21 日发布的大语言模型，公司称它是自己在编程与知识工作上能力最强的模型；基座模型更大、强化学习训练更久，并采用全新安全防护体系，token 价格未变。

PLaMo 3 Translate 是 Preferred Networks（PFN）推出的翻译专用模型系列，有 0.8B、2B、8B、31B 四种规模，覆盖 53 种语言，并提供多种量化格式与社区许可。

文心 ERNIE 5.5 Flash Base 是百度于 2026 年 11 月 5 日公开的基座模型检查点：纯文本的稀疏混合专家模型，总参数 2800 亿、每 token 激活 140 亿，定位是供微调而非开箱即用的助手。

曦云 C600 是沐曦基于自研 GPGPU 架构的数据中心通用 GPU，具备大容量 ECC 显存、128 卡 MetaXLink-E 超节点互联，支持风冷与液冷。

蒂莫泰·拉克鲁瓦是 Mistral AI 的联合创始人兼首席技术官，也是 LLaMA 论文与 Mistral 7B 论文的共同作者。

纪尧姆·朗普勒（Guillaume Lample）是 Mistral AI 的联合创始人兼首席科学官，是 LLaMA 论文 14 位作者中的最后一位，并参与撰写了 Mistral 7B 论文。

马克·陈是 OpenAI 的研究者，曾带领团队做出 DALL·E 2，并参与 Codex 的开发；2025 年 3 月起担任扩大职责后的首席研究官。

翁荔（Lilian Weng）是一位人工智能研究者，自2017年起在个人博客Lil'Log上记录学习笔记，中文报道称她毕业于北京大学，并报道了她在OpenAI的任职变动。

AI 研究者，神经架构搜索论文第一作者、Switch Transformer 共同作者；现为 Thinking Machines Lab 联合创始人兼 CTO。

GroqChip 是 Groq 的 AI 处理器，主打完全确定性、多次运行无差异。它采用 14 纳米工艺，片上 230 MB SRAM，最高 750 INT8 TOPS。

SambaNova SN40L 是 SambaNova 的一款 AI 芯片，公司称其为「可重构数据流单元」，把数据流式的并行执行与片内 SRAM、共封装 HBM、DDR DRAM 组成的三层存储体系结合在一起。

吴永辉是人工智能研究者，在谷歌工作近二十年，曾任谷歌 DeepMind 研究副总裁，2025 年加入字节跳动大模型团队负责基础研究。

周靖人是阿里巴巴的技术高管，担任阿里云智能首席技术官，并负责通义人工智能实验室，2025年10月加入阿里巴巴合伙人；2024年当选美国计算机学会会士。

闫俊杰是人工智能公司 MiniMax 的联合创始人兼首席执行官，曾任商汤高管，2026 年 1 月 9 日带领 MiniMax 在香港上市。

中国 AI 研究者与创业者，2023 年在北京共同创办 Moonshot AI 并担任 CEO；公司先后发布 Kimi 助手与开放权重的 Kimi K2、K3 模型。

智能体记忆（agent memory）是智能体系统中负责保存当前上下文窗口之外的信息、以便日后调取的部分。2023 年的 MemGPT 把有限的上下文窗口视为这类设计必须绕开的核心约束。

LM Studio 是一款闭源桌面应用，可在 macOS、Windows 和 Linux 上把大语言模型下载到本机运行、对话，并通过兼容 OpenAI 的本地接口供其他程序调用。

山姆·麦坎德利什（Sam McCandlish）是 Anthropic 的联合创始人兼首席技术官，参与撰写了规模法则与 GPT-3 方面的重要论文，并担任该公司第一任「负责任扩展官」。

人工智能研究者，曾任 IBM Watson Group 首席科学家、京东云与 AI 总裁，2024 年 4 月起任上海人工智能实验室主任、首席科学家。

刘知远是清华大学长聘副教授、北京面壁智能联合创始人兼首席科学家，主张把有能力的模型做小，放到本地设备上运行。

迈克·克里格是 Instagram 的联合创始人兼首席技术官，2024 年 5 月加入 Anthropic 出任首席产品官，负责产品工程、产品管理与产品设计。

布拉德·莱特卡普是 OpenAI 的商业高管，先后担任首席财务官和首席运营官，此后负责商业战略、关键合作、基础设施与全球部署，并于 2026 年离开公司。

AI 研究者与创业者，曾在 OpenAI、Google 和 DeepMind 任研究职位，2022 年共同创办 AI 搜索公司 Perplexity，任首席执行官。

丹尼尔·格罗斯与伊利亚·苏茨克维、丹尼尔·莱维共同创办 SSI 并担任首席执行官，2025 年 7 月加入 Meta 新成立的 Meta Superintelligence Labs。

张鹏是智谱 AI（Z.ai）首席执行官。他带领公司在 2026 年 1 月 8 日于香港上市，被称为主要中国大模型公司的首次上市；任内公司发布了从 GLM-4.5 到 GLM-5.3 的模型系列。

唐杰是中国计算机科学家，被列为智谱 AI 的创始人之一并担任其首席科学家；他是清华大学教授，创建了学术数据库 AMiner，也是智谱 GLM 模型背后预训练方法的作者之一。

雅各布·德夫林（Jacob Devlin）是BERT论文的第一作者，BERT是Google于2018年推出的语言模型，能结合词语两侧的上下文理解词义。

姜大昕是阶跃星辰创始人兼首席执行官，曾任微软全球副总裁。他认为 scaling law 决定模型智能的上限，多模态理解与生成的统一是通往通用人工智能的必经之路。

奥里·戈申是以色列企业家，2017年11月与约阿夫·肖哈姆、阿姆农·沙舒亚共同创办 AI21 Labs，并担任公司首席执行官。

杰克·克拉克是 Anthropic 联合创始人，先后主管政策与公共福祉工作，2026 年 3 月起领导 Anthropic 研究所。他也是 GPT-3 论文的作者之一。

汤姆·布朗（Tom Brown）是 AI 研究者，被列为 Anthropic 联合创始人之一，也是 2020 年提出 GPT-3 的论文的第一作者。

康纳·莱希（Connor Leahy）是德裔美国 AI 安全倡导者。他共同创立了 EleutherAI 和 Conjecture，2026年起任 ControlAI 美国主任。

王海峰是百度首席技术官，ACL 与 IEEE 会士，长期从事机器翻译与自然语言处理研究，也是文心（ERNIE）系列技术报告的第一作者。

跃问是阶跃星辰 2024 年 3 月开放的 AI 助手，能理解文本、数据和图片中的图表，可做内容创作、逻辑推理与数据分析，后更名为 Step AI。

万知是 01.AI（零一万物）于 2024 年 5 月发布的免费中英双语 AI 生产力工作台，有网页版和微信小程序两种入口；这个名字后来也延伸到企业大模型平台。

百小应是百川智能于 2024 年 5 月 22 日发布的首款 AI 助手应用，由 Baichuan 4 模型驱动。它以搜索（包括多轮搜索）和文档阅读为核心设计，百川智能把它定位为通向 AI「超级应用」的一步。

NVLM 是 NVIDIA 的多模态大语言模型系列，论文于 2024 年 9 月发表；旗舰模型 NVLM-D-72B 随后以开放权重形式发布，限非商业用途。

NVIDIA 于 2024 年 10 月发布，基于 Meta 的 Llama-3.1-70B-Instruct 进一步训练，主打更有帮助的回答，发布时三项自动对齐基准均列第一。

NVIDIA Nemotron Nano 2 是一款 9B 参数的小型推理模型，采用 Mamba 与 Transformer 混合架构，主打长上下文推理下的高吞吐，并开放了权重与大部分训练数据。

Blackhole 是 Tenstorrent 的 AI 加速芯片，Galaxy Blackhole 是装载 32 颗该芯片的服务器，block FP8 算力 23 PFLOPS，芯片之间与集群之间都以以太网互联。