大语言模型 论文

这篇 1997 年的论文提出了带门控的记忆单元和「恒定误差传送带」，使循环网络能跨越很长的时间间隔学习，塑造了 Transformer 出现前的许多模型。

Bahdanau、Cho 与 Bengio 2014 年的这篇论文让翻译模型在生成每个词时回看整个源句，这一注意力（attention）机制后来成为 Transformer 的基础之一。

Sutskever、Vinyals 与 Le 2014 年的这篇论文表明，两个 LSTM 可以完成翻译并超过基于短语的基线，确立了后来翻译模型常用的编码器-解码器模式。

2017 年提出 Transformer 的论文。这一完全基于注意力、不使用循环结构的神经网络在机器翻译上刷新了当时的最好成绩，此后几乎所有大语言模型都以它为基础架构。

OpenAI 在 2018 年发表的 GPT 论文：先用海量无标注文本训练 Transformer 解码器预测下一个词，再针对具体任务微调。它在研究的 12 项任务中有 9 项刷新了最好成绩。

Google 在 2018 年提出的 BERT，只用 Transformer 编码器，能同时利用前后文，并通过遮词预训练。它在 11 项语言任务上刷新成绩，使「预训练后微调」成为常规做法。

OpenAI 研究者在 2020 年发表的论文发现，语言模型的损失会随模型规模、数据量和训练算力增加而按幂律平稳下降，为各实验室建造更大的模型提供了定量依据。

2020 年的一篇论文，把预训练的序列到序列模型与一个由神经检索器查询的维基百科稠密向量索引结合起来，在三个开放域问答任务上取得当时最好成绩。

GPT-3 论文表明，一个拥有 1750 亿个参数的语言模型，只要在提示词（prompt）里给出几个例子，就能完成许多任务，无需额外微调；而且这种能力随模型规模增大而增强。

2020 年发布的一个评测基准，用 57 个学科（从初等数学到法律）的题目考察语言模型，结果显示当时最大的模型也远未达到专家水平。

2021 年，Fedus、Zoph 与 Shazeer 简化了混合专家模型的路由算法，使语言模型在参数量扩展到万亿级别时，每个样本的计算开销仍然保持恒定。

一篇2021年FAccT论文，作者为Bender、Gebru、McMillan-Major和Shmitchell，追问语言模型是否会过大，并就成本、数据、研发目标与替代研究方向提出建议。

LoRA 是一种微调方法：冻结预训练模型的权重，只在各层注入并训练小型低秩矩阵，从而把可训练参数和显存需求降低几个数量级。

2021 年的一篇 OpenAI 论文提出了 Codex——一个在公开 GitHub 代码上微调的 GPT 模型，以及 HumanEval——一套按「程序能否跑对」而不是「像不像参考答案」来评判生成代码的评测集。

2021 年的一篇论文提出「指令微调」：把大量任务用自然语言指令描述后再微调语言模型，模型在没见过的任务上零样本表现大幅提升，并在多数评测任务上超过更大的模型。

InstructGPT 结合人工撰写的示范回答、人类对输出的排序和强化学习，让 GPT-3 更好地遵循用户指令。即使模型小得多，标注员也更偏好它的输出。

ReAct 是一种提示方法：让语言模型把写出来的推理与调用外部工具或环境的行动交替进行，在问答、事实核查和交互式决策任务上都取得改进。

LLaMA 是参数规模 7B 至 65B 的基础语言模型系列，仅用公开数据集训练；13B 模型在多数基准上超过 GPT-3，且全部模型向研究社区发布。

OpenAI 于 2023 年 3 月提交到 arXiv 的 GPT-4 技术报告，描述了一个大规模多模态 Transformer 模型，给出了多项专业基准上达到人类水平的结果，并说明了团队如何让规模化行为变得可预测。

2023 年的一篇论文把人类反馈强化学习的优化目标改写成一个简单的分类损失，让语言模型不必依赖独立的奖励模型和强化学习就能对齐人类偏好。

这是一篇 2023 年 7 月由 Hugo Touvron 领衔、Meta 多位作者完成的论文，提出并发布了参数量从 70 亿到 700 亿的 Llama 2 系列预训练与微调模型，并详细说明了对话版本如何微调、如何提升安全性。

Mamba 是 Albert Gu 与 Tri Dao 提出的一种序列建模架构，用选择性状态空间替代注意力，实现线性时间与更快推理，语言建模表现可与两倍规模的 Transformer 相比。

Mixtral 8x7B 是 Mistral AI 的稀疏专家混合语言模型，每层由路由器为每个词元挑选 2 个专家，总共可访问 47B 参数，推理时只用到 13B。

Google Gemini 团队的一份报告，介绍以超长上下文为核心的多模态模型 Gemini 1.5 系列，其中 Gemini 1.5 Pro 可在最多 1000 万 token 的上下文中回忆信息。[^1]

Meta 2024 年的论文，把 Llama 3 描述为一组基础模型（80 亿、700 亿和 4050 亿参数），预训练语料约 15 万亿 token，并报告其在广泛任务上与 GPT-4 等领先模型质量相当。

DeepSeek-AI 发布的 DeepSeek-V3 技术报告，介绍了一个总参数 6710 亿的混合专家语言模型，涵盖架构、训练流程与评测，并给出了 278.8 万 H800 GPU 小时完成全部训练的效率数据。

DeepSeek-R1 报告介绍了如何主要依靠强化学习，并对正确答案给予奖励，训练出一个推理模型。它在数学、代码和推理基准上的表现与 OpenAI 的 o1 相当，权重也以开放形式发布。

《Qwen3 技术报告》介绍阿里巴巴 Qwen3 系列大语言模型，覆盖稠密与混合专家架构，统一思考与非思考模式，并加入思考预算机制，全部以 Apache 2.0 许可证发布。

《Gemini 2.5》技术报告于 2025 年 7 月 7 日提交到 arXiv，记录了 Google 的 Gemini 2.5 Pro 与 2.5 Flash，涉及推理能力、长上下文视频处理和成本与能力的取舍。

Kimi K2 是 Moonshot AI 的万亿参数混合专家模型，用 MuonClip 优化器完成预训练，并以大规模智能体数据与强化学习做后训练；报告称它在开源非思考模型中处于领先，并公开了基座与后训练权重。

智谱的 GLM-5 技术报告介绍了一个 7440 亿参数的混合专家模型，依靠稀疏注意力与异步强化学习，把 AI 编程从「氛围编程」推向「智能体工程」。

DeepSeek-V4 系列的预览报告：Pro 版总参数 1.6 万亿、Flash 版 2840 亿，两者均支持百万 token 上下文，并给出了让这一长度变得可负担的注意力、连接与优化器改动。

Kimi K3 是月之暗面发布的 2.8 万亿参数混合专家模型，具备原生视觉与百万 token 上下文，权重随报告开放；报告称其多项任务达前沿水平，但整体仍落后最强闭源模型。

Yoshua Bengio 等人 2003 年的这篇论文为每个词学习向量，并与预测下一个词的网络一起训练，引入了词嵌入的核心思想。

谷歌的 Tomas Mikolov 等人 2013 年提交的这篇论文提出 CBOW 和 Skip-gram 两种简单结构，能快速从海量文本学习词向量，是 word2vec 的基础。

SQuAD 是一个阅读理解数据集，包含 10 万多个由众包工人针对维基百科文章提出的问题，每个问题的答案都是原文中的一段文字。它于 2016 年发布，免费开放，并给出了可对照的人类成绩上限。

2017 年的论文，展示了 AI 智能体可以从人类对行为的简短比较中学习任务，而无需手写奖励。这一方法即基于人类反馈的强化学习，后来成为训练聊天助手的核心步骤。

GLUE 是一个基准与分析平台，用一组多样的既有自然语言理解任务来评测模型，配有在线对比平台和人工编写的诊断测试集，用于细致的语言学分析。

OpenAI 在 2019 年发表的 GPT-2 论文，模型拥有 15 亿参数。研究表明，仅训练预测下一个词的模型在提示下就能完成多种任务，其分阶段发布也引发了关于是否公开强大模型的讨论。

SuperGLUE 是 2019 年发布的通用语言理解基准，作为 GLUE 的更难继任者：八项任务、单一指标、分析工具包与公开排行榜。

XLNet 是一种广义自回归预训练方法：它通过最大化所有分解顺序排列的期望似然来学习双向语境，并在可比实验设置下于 20 项任务上优于 BERT。

RoBERTa 是对 BERT 预训练的复现研究：系统测量关键超参数与训练数据规模的影响，发现 BERT 训练明显不足，妥善训练后即可匹敌或超过此后发表的模型，并在 GLUE、RACE、SQuAD 上取得最好成绩。

2019 年的一篇论文，把各类语言任务统一为文本到文本，系统比较迁移学习选择，发布 C4 语料与模型，并在摘要、问答、文本分类等基准上取得当时最优结果。

2020 年由 Clark、Luong、Le 与 Manning 提出的预训练方法：让模型判断哪些词被替换过，而不是填补被遮住的词，用更少的算力达到与大模型相当的效果。

《GShard》2020年6月提交到arXiv，提出一套轻量注释API与XLA编译器扩展，让原有模型代码几乎不改动就能表达并行计算，并把一个稀疏门控的专家混合翻译模型扩展到6000亿参数以上。

The Pile 是 EleutherAI 于2020年12月31日发布的 825 GiB 英文文本数据集，由22个数据源组成，并附有一篇 arXiv 论文。多个该团体的开放模型都用它训练。

MATH 是包含 12,500 道高难度竞赛数学题的数据集，每题附完整分步解答，于 2021 年发布，用于测量和训练模型的数学推理能力。

2021 年提交到 arXiv 的论文，提出 MBPP 基准：974 道入门级短 Python 题，并测量 244M 到 137B 参数的语言模型把自然语言描述变成代码的能力。

GSM8K 是 OpenAI 发布的一套小学数学应用题数据集，包含 8.5K 道题；配套论文显示，即使最大的 Transformer 模型成绩也不高，而训练验证器、从多个候选解答中挑选正确答案能明显提升表现。

这篇论文由 Jason Wei 与 Google Research 的同事在 2022 年发表，它表明：在提示中给出带有中间推理步骤的示例、而不只是给出答案，能明显提升大模型在算术、常识和符号推理任务上的表现。

DeepMind 的一项研究指出，固定算力下语言模型应当用多得多的数据训练；其 700 亿参数的 Chinchilla 在同算力下胜过了更大的模型。

BIG-bench 是一个由社区共同构建的大型基准，包含 204 个任务，专门用来测试语言模型在被认为超出其当前能力的问题上的表现，相关论文于 2022 年 6 月发布。

2022 年的一篇论文提出，大语言模型的部分能力只在模型规模足够大时才出现，无法由小模型的表现外推预测，因此继续扩大规模可能继续拓展模型的能力范围。

2022 年，Percy Liang、Rishi Bommasani、Tony Lee 等作者发表的一篇论文：把 30 个语言模型放到同样的 42 个场景、7 项指标下评测，让分散的基准变成一套标准化评估。

《宪法式 AI》是 Anthropic 2022 年的论文，提出以书面原则和 AI 反馈代替人工标注有害输出，训练无害的助手。

2023 年的一篇论文，让语言模型自学决定何时调用计算器、搜索引擎等外部工具，并把返回结果融入后续文本生成。

2023 年 3 月，微软研究者在一篇论文中测试了早期版本的 GPT-4，认为它在众多领域表现出惊人的通用性、接近人类水平，可被视为迈向通用人工智能（AGI）的早期但不完整的一步。

QLoRA 是一种微调方法：它把预训练大模型冻结并压到 4 位精度，只训练低秩适配器，从而在单张 48GB GPU 上微调 650 亿参数模型，并保持 16 位微调的效果。

一个持续从 LeetCode、AtCoder、CodeForces 竞赛中收集新题的代码大模型基准，用不断更新的题库避免数据污染，并覆盖代码修复、执行推理等任务。

MMLU-Pro 是 2024 年发布的多任务语言理解基准，把以知识为主的 MMLU 改成更偏推理、每题十个选项的更难测试。

τ-bench 是 2024 年 6 月提交到 arXiv 的基准，用语言模型模拟用户，与配备领域 API 工具和规则条文的语言智能体进行动态对话，并以对话结束时的数据库状态而非回复文本判定成败。

FineWeb 是从 96 个网络快照构建的 15 万亿 token 预训练数据集，公开了处理代码与实验模型；教育子集 FineWeb-Edu 在知识推理基准上表现更好。

这篇论文用 1000 道精选题目微调 Qwen2.5-32B，再用一种叫「预算强制」的简单方法控制模型的思考长度，在竞赛数学上最多领先 o1-preview 27%，并开源了模型、数据与代码。

《Qwen3.5-Omni 技术报告》介绍阿里巴巴数千亿参数的多模态模型：可理解超 10 小时音频，支持 10 种语言语音生成，在 215 项音视频基准上报告最优结果。

Meta 为 Muse Spark（Meta AI 的底层模型）发布的安全与准备度报告，交代了支撑其发布决策的灾难性风险评估，并论证在施加缓解措施后残余风险可接受。

1993 年论文，作者 Marcus、Santorini 与 Marcinkiewicz，介绍宾夕法尼亚树库：一百多万词《华尔街日报》文本带句法括号标注。

HellaSwag 是 2019 年发布的一个挑战数据集：机器要从若干候选里挑出一句事件描述最可能的后续。它的错误选项由机器生成并筛选，目标是骗过模型而不是骗过人。

Google 在 2019 年发表的 T5 论文，把所有语言任务统一为「文本进、文本出」，使用同一个编码器-解码器 Transformer 和同一种训练方式。论文还发布了 C4 数据集。

RedPajama 是一个开源项目，第一步是把 LLaMA 的训练数据集复现出来，以「洁净室」方式完整开源了 1.2 万亿 token 的语料。

Dolma 是一个公开发布的英文语料库，规模约三万亿词元，由网页文本、论文、代码、书籍、社交媒体与维基百科混合而成；配套论文同时记录了数据集本身和整理流程。

一个 8TB 的公共领域与开放许可文本数据集，用于大语言模型预训练；作者同时发布两个在该数据上训练的 70 亿参数模型，用以证明这批数据够用。