汤姆·布朗（Tom Brown）

概况

汤姆·布朗（Tom Brown）是一位 AI 研究者，名字出现在若干篇关于大语言模型和「从人类反馈中学习」的高被引论文上。维基百科将他列为 Anthropic 的联合创始人之一 ^[5]。他最为人熟知的身份是 2020 年 5 月那篇提出 GPT-3 的论文《Language Models are Few-Shot Learners》的第一作者 ^[1]。

从人类偏好中学习

他参与合著的较早一篇论文是 2017 年的《Deep reinforcement learning from human preferences》^[3]。这类工作要解决的是一个很实际的问题：在很多任务里，让人判断两种行为哪个更好，比让人写下一个数值化的奖励函数要容易得多。做法是收集人对成对轨迹的比较，拟合一个描述人类偏好的模型，再让强化学习智能体针对这个「学出来的」偏好模型训练，而不是针对手工设定的奖励。这种「用人的判断来学奖励」的思路，后来成了让语言模型对齐人类意愿的常见组成部分。

规模定律与 GPT-3

2020 年 1 月，他参与合著了《Scaling Laws for Neural Language Models》，该文于 2020 年 1 月 23 日提交到 arXiv ^[2]。这篇论文考察语言模型的性能如何随模型规模、数据规模和训练所用算力的增长而变化，并描述了其中的规律性关系。这类规律之所以有用，是因为它让研究者在真正花掉算力之前，就能大致估计一个更大的模型会达到什么水平。

随后他领衔了《Language Models are Few-Shot Learners》的作者名单，该文于 2020 年 5 月 28 日提交到 arXiv，arXiv 记录显示他在 31 位作者中排在第一位 ^[1]。论文提出了 GPT-3，并主张足够大的语言模型可以只靠提示里给出的少量示例完成一个新任务，无需改动任何权重——这就是所谓的「少样本学习（few-shot learning）」。不必为每个任务单独训练一个模型，而是给同一个模型一段简短说明和几个示例，然后让它接着往下写。论文用这种「上下文内学习」的方式在大量任务上做了实验 ^[1]。

Anthropic 与宪法式 AI

他还是《Constitutional AI: Harmlessness from AI Feedback》的合著者，该文于 2022 年 12 月 15 日提交到 arXiv，记录显示他在 51 位作者之列 ^[4]。这一方法用模型自身在一套成文原则（即「宪法」）引导下给出的反馈，替代偏好训练中的一部分人工标注，从而在少得多的有害内容人工标注下，训练模型拒绝有害请求。另外，维基百科将他列为共同创办 Anthropic 的人之一 ^[5]，上面这项工作正是与该机构相关联的。

意义

贯穿这些论文的，是语言模型构建与引导方式的几次转变：从为单个任务训练一个模型，到用一个大型模型加提示中的示例；从手工写奖励，到从人或 AI 的判断中学出奖励。布朗的贡献分别落在这几个环节上——从偏好中学习、描述能力如何随规模增长、在规模上展示少样本行为，以及降低让模型更安全所需的人力成本 ^[1][2][3][4]。