Anthropic 发布 Claude 2.1，上下文扩至 20 万 token

背景

Claude 2.1 接在 Claude 2.0 之后，Anthropic 的结果报告也以该前代版本为对照。^[1]

发生了什么

2023 年 11 月 21 日，Anthropic 通过 API 并在 claude.ai 中发布了 Claude 2.1。^[1]

关键细节

上下文窗口翻倍，达到 20 万（200,000）token，约合 15 万词，或 500 多页内容。在 claude.ai 中，完整窗口只保留给 Pro 用户。^[1]

Anthropic 报告，与 Claude 2.0 相比，错误陈述减少为原来的一半（即 2 倍的下降）。^[1]

工具调用（tool use）以测试功能形式推出，允许 Claude 调用开发者定义的函数和 API。这里的函数指开发者编写的代码，Claude 可以请求运行它，以获取信息或执行操作。^[1]

系统提示（system prompt）被引入，让用户设定 Claude 的角色和风格。系统提示是在对话开始前给出的一组指令。^[1]

Anthropic 还推出了 Workbench，即控制台中的提示词试验场，并在同一时间更新了各模型的定价。^[1]

影响

这次发布显示了 Claude 2 系列的发展方向：更长的输入、更少的错误陈述，以及让开发者把模型接入自有软件的更多途径。这些功能主要面向构建产品和工作流程的企业客户。^[1]

上下文窗口是模型一次能够考虑的文本量。窗口翻倍意味着用户可以一次粘贴更多材料，例如长篇报告或一组合同，并在同一段对话中就全部内容提问。

工具调用（tool use，有时也称函数调用）是让模型请求软件执行某项操作并返回结果的方式。开发者定义可用的函数，由模型判断何时需要调用。由于它是测试功能，其细节仍可能变动。

系统提示（system prompt）是一条长期有效的指令，在整段对话中影响模型的回应方式，例如它扮演的角色或回答的格式。