Anthropic 称可能已接近递归自我改进

文件新增了什么

2026年11月2日，Anthropic 在修订版 S-1/A 文件中新增了关于递归自我改进（recursive self-improvement）的风险因素表述。^[1] 递归自我改进通常指用 AI 系统帮助构建能力更强的 AI 系统，再由这些系统继续参与后续开发。文件把这一点同时当作能力问题和安全问题：它说，用 AI 帮助构建更强的 AI 可能带来相当大的安全风险，尤其是如果这种做法急剧加快进展速度。^[1] Anthropic 表示，这一领域由其责任扩展政策（Responsible Scaling Policy）覆盖。^[1]

距离门槛有多近

文件补充了关于时间判断和监测的细节。Anthropic 说，过去它直到显著加速已经发生之后，才发现自身开发速度出现了这种加速。^[1] 文件还说，其内部对未来模型的估计和预期，而不是对当前模型的估计，表明它可能很快就会达到其政策对归因于 AI 的急剧加速进展的定义。^[1] 这一表述的关键在于区分当前系统与未来模型：公司没有说当前模型已经达到门槛，而是说基于对未来模型的预期，可能很快就会达到。Anthropic 同时表示，它尚未把任何当前模型认定为超过该门槛，并仍在评估底层数据。^[1]

公司说了什么，没说什么

这种谨慎措辞很重要。公司可能很快达到某项政策门槛，与某个模型已经越过门槛，是两种不同的说法。Anthropic 在文件中同时保留了这两层意思：内部预期指向一个可能临近的门槛，但公司尚未正式把任何当前模型认定为超过该门槛。^[1] 公司还说，它仍在评估底层数据。^[1] 这意味着评估仍在进行，而不是已经结束。

自主性与人类监督

文件还谈到完全自主的问题。Anthropic 表示，它不预计能够安全地使用 Claude 在缺乏有意义的人类监督或理解的情况下，完全自主地设计和构建一代又一代前沿模型（frontier models）。^[1] 这不是说这类工作不可能，而是说公司不预计自己能够安全地做到。放在风险因素的语境里，这句话为 AI 驱动的 AI 开发的最极端版本划出边界：让 Claude 在没有有意义的人类监督或理解的情况下，设计和构建后续前沿模型。

财务背景与表述的意义

这一披露出现在同一份载有更新财务数据的文件中：收入上升，但支出也上升。^[1] 因此，风险因素表述与财务信息并列出现，而不是单独的研究说明。对读者来说，这份文件集中表达了 Anthropic 的立场：递归自我改进被视为一个可能临近的政策门槛；当前没有任何模型被认定为超过该门槛；而在缺乏有意义的人类监督或理解时完全自主地设计并构建后续前沿模型，并不是公司预计能够安全做到的事。^[1] 其意义正在于这种组合：文件把能力问题写进正式风险披露，并与政策门槛挂钩，同时区分了对未来模型的预期与当前模型的状态。