OpenAI 首届开发者大会：GPT-4 Turbo 与自定义 GPT

背景

OpenAI 的模型对大多数人来说是通过 ChatGPT 接触到的，但公司相当一部分业务走的是应用程序接口（API）：其他公司在自己软件里调用模型，按用量付费。这群人关心的问题和聊天用户不同——一次能放进多少文本、知识截止到什么时候、每次请求要花多少钱。2023 年 11 月 6 日，OpenAI 举办首届开发者大会 DevDay，面向的正是这些人^[1][2]。

大会上给出的规模数字，构成了此后所有发布的背景。OpenAI 称 ChatGPT 的周活跃用户约为 1 亿，超过 92% 的《财富》500 强公司在使用其平台，在其 API 上开发的开发者超过 200 万名^[2]。

发布了什么

最核心的是 GPT-4 Turbo^[1]。它最受关注的一项是 128K 上下文窗口（context window）。上下文窗口指模型一次能「看到」的文本量——包括指令、此前对话以及粘贴进来的文档——以词元（token）计，词元大致相当于词片。窗口之外的内容，在模型作答时是看不到的。因此 128K 的窗口意味着，长报告、源代码文件或整段对话可以一次性交给模型，而不必先切块。

OpenAI 还表示，GPT-4 Turbo 的知识截止到 2023 年 4 月^[1]。模型从训练前收集的一批固定文本中学习，知识就停在那一点上；截止时间越靠后，模型对近期发生的事一无所知的可能就越小。同时，OpenAI 还发布了更新版的 GPT-3.5 Turbo，默认上下文窗口为 16K^[1]。

第二项主要内容是 GPT：用名为 GPT Builder 的工具搭建的定制版 ChatGPT^[3]。用户不必直接调用 API，而是在这个搭建工具里，为特定用途组装出一个 ChatGPT 的变体。

Whisper large-v3 也在大会上发布^[4]。Whisper 是 OpenAI 的语音识别系统，负责把音频转成文字；名字里的 large 指该系列中最大的模型规格，large-v3 是这一规格的新版本。

关键细节

OpenAI 称大会上有数十项新增与改进，并下调了平台许多部分的价格^[5]。对开发者来说，价格比聊天订阅更要紧：做一个产品，每一次请求都要付费，单位词元的价格下降，会改变哪些应用跑得起、哪些跑不起。公司还表示，新功能会在大会当天太平洋时间下午 1 点开始向客户推送^[5]，而不是等到之后某个日期。

影响

开发者大会是模型提供方从面向终端用户，转而面向在其之上开发产品的人；DevDay 的发布组合也反映了这一点。其中几项是在拆掉实际限制：更长的上下文窗口省去了把文档切碎的麻烦，更新的知识截止时间缩小了训练与当下之间的差距，更低的价格压低了产品运行成本。定制 GPT 走的是另一个方向——把搭建专用助手的一部分工作，从 API 移到 ChatGPT 内部的搭建工具里^[3]。

大会同时也是一块公开的成绩板。台上给出的用户与开发者数字^[2]，是在描述这个平台铺开的范围。