OpenAI Codex（2021 代码模型）

是什么

OpenAI Codex 是一个在 GitHub 公开代码上微调（fine-tuning）而成的 GPT 语言模型。微调是指先用通用文本训练好模型，再让它在某一类特定数据上继续训练，这里的数据是代码。该模型的介绍见论文《Evaluating Large Language Models Trained on Code》，于2021年7月7日提交到 arXiv。论文共有 58 位作者，由 Mark Chen、Jerry Tworek 和 Heewoo Jun 领导，最后两位是 Ilya Sutskever 和 Wojciech Zaremba ^[1]。

Codex 是一个能把自然语言翻译成代码的系统。开发者可以描述程序应当做什么，由模型写出代码。

由来

论文提出了 HumanEval，这是一个新的基准测试，用来衡量根据文档字符串（docstring）合成的程序是否功能正确。文档字符串是写在代码中、用于说明函数用途的简短文字。检验程序是否真的能运行，比只看它是否像样更为严格 ^[1]。

在 HumanEval 上，Codex 解决了 28.8% 的问题，而 GPT-3 为 0%，GPT-J 为 11.4% ^[1]。它与 GPT-3 的差距说明，代码训练对这项任务非常关键。

重复采样的效果出人意料地好。每道题生成 100 个样本时，Codex 能为 70.2% 的题目给出可以运行的解法 ^[1]。这意味着模型可以生成多次尝试，而正确答案常常就在其中。

主要特点

2021年8月10日，OpenAI 通过 API 以私测（private beta）形式发布了改进版 Codex ^[2]。论文本身则比这一日期早一个月，于2021年7月7日提交。

论文也指出了局限，例如难以处理很长的操作链，以及难以把操作与变量正确绑定。论文还讨论了安全、安全性和经济影响 ^[1]。

API 中的模型包括 code-davinci-001、code-davinci-002、code-cushman-001 和 code-cushman-002。其中 code-davinci-002 于2022年3月15日发布，具备编辑和插入功能，属于 GPT-3.5 系列 ^[3][4]。

退役与后续

OpenAI 于2023年3月20日宣布弃用 Codex API 模型，并于2023年3月23日将其关停 ^[3]。

Codex 这个名称后来被 OpenAI 于2025年推出的编程智能体沿用 ^[5]。两者是不同的产品：最初的 Codex 是通过 API 提供的模型，后来的产品则是一个编程智能体。

意义

Codex 表明，在公开代码上训练的语言模型能够为标准测试编写可运行的程序，并通过 API 把这种能力交到开发者手中。关注后来编程工具的读者，可以在这一模型和论文中找到部分历史渊源。