EleutherAI 成立非营利研究机构

背景

EleutherAI 起初是一个草根团体（grassroots group）。它的创始成员 Connor Leahy、Leo Gao 和 Sid Black 编写代码、收集数据，做的是一个类似 GPT-3 的模型^[3]。这种规模的工作通常要有大公司和成建制的工程团队才做得动；由一个志愿者团体来承担，意味着把模型、数据和训练代码公开出来，让别人也能使用和检验。

但志愿者团体有自己的限度。成员多半用业余时间工作，进度取决于谁有空，长期、连续运转的工程与研究计划很难维持。这正是后来 EleutherAI 把自己重新组织起来的背景。

发生了什么

2023年3月2日，EleutherAI 宣布已经组建为一个非营利研究机构^[1]。这一步把一个非正式的、由志愿者运作的集体，变成了有法律形式、有资金支持者、有明确研究方向的机构。

设立过程由 Stella Biderman 协调^[1]。机构由 Biderman、Curtis Huebner 和 Shivanshu Purohit 运营^[1][2]。

支持者包括 Stability AI、Hugging Face、Canva、Lambda Labs，以及前 GitHub 首席执行官（CEO）Nat Friedman^[1]。

创始团队也有一处变化：联合创始人 Connor Leahy 和 Sid Black 已经离开，去创办 Conjecture；Leahy 加入了新机构的顾问委员会^[1]。也就是说，最早写代码、攒数据的那批人里，有人转向创业，同时以顾问身份与机构保持联系。

为什么要把自己「正式化」

Biderman 对 TechCrunch 说，正式成为一个组织，可以让 EleutherAI 建立一支全职团队，并承接志愿团体承担不了的、周期更长的项目^[3]。这句话讲的是很实际的事：有全职人员，工作才能连续推进，而不必围着志愿者的空闲时间安排；有了组织架构和资金，多年期的研究计划才谈得上。

研究重心的移动

机构把重心转向可解释性（interpretability）、对齐（alignment）和科学研究^[2]。可解释性研究的是模型内部究竟在做什么——为什么某个输入会得到某个输出，哪些内部特征对应哪些行为；对齐研究的是如何让模型的行为符合人的意图和价值。两者都更接近「先弄清楚再谈能力」，而不是单纯把模型做大、把基准分数刷高。对一个靠训练大模型起家的团体来说，这是研究重点的移动。

这件事意味着什么

从外部看，这次公告的意义在于：一个以公开训练大语言模型为人所知的志愿者团体，选择以非营利机构的形式继续存在，并把研究集中在可解释性与对齐上。对依赖开放模型、公开数据和文档的开发者和研究者来说，这类机构是否稳定直接关系到他们手上的东西能不能持续拿到、持续维护。2023年3月的这次宣布，是 EleutherAI 的工作不再完全依赖无报酬的志愿时间、开始有了机构依托的那一步^[1][3]。