TellWorldAI 世界档案
问档案English

首页›动态›合作

合作生成式 AI 普及

OpenAI 启动嵌入式安全评估,邀请四家外部机构入驻

OpenAI 于 2026 年 11 月 16 日宣布嵌入式安全评估第一阶段,Apollo Research、METR 等四家机构将进驻公司内部,检验模型对齐与安全措施。

半透明玻璃球里是柔和发光的神经网格,四架小型独立检测无人机停在球的四周,各自向核心投射细细的扫描光束。

背景

安全评估用于检查模型的行为是否符合开发者的意图,以及围绕模型的安全措施是否有效。独立评估机构,即不受开发者雇佣的外部团队,是完成这类检查的一种方式。OpenAI 这次的做法是让这类评估者在一段时间内进驻公司内部。

发生了什么

2026 年 11 月 16 日,OpenAI 表示其嵌入式评估第一阶段涉及 Apollo Research、METR、Transluce 和 Goodfire。[1] OpenAI 将这些评估描述为对模型对齐、安全保障和监测系统的独立评估。[1] 对齐(alignment)指模型的行为与开发者为其设定的目标相符的程度。监测系统则用于观察模型的行为,以便及时发现问题。

关键细节

据 TechCrunch 报道,评估者将嵌入 OpenAI 内部工作,Apollo 的试点与该消息同一周开始。[2]

Apollo 的试点将检验模型是否会试图颠覆自身或后继模型的对齐或控制机制。[2] 颠覆这类机制意味着模型与用于约束它的人类监督相抗衡,因此这是安全研究者关注的核心问题之一。

根据 TechCrunch 的报道,Apollo 无法就 OpenAI 员工提出的机密信息,向其批准小组之外的人进行跟进;Apollo 还表示,若要公开说明其工作的条件和限制,需要获得 OpenAI 的同意。[2]

OpenAI 表示,这项工作支持其在「超级智能白宫协议」(White House Accord on Super Intelligence)下、依靠独立评估安全控制的承诺。[2]

影响

这一安排展示了嵌入式评估在实践中的样子:外部研究者从内部获得测试实验室系统的机会,而这种访问的条款,包括哪些内容可以对外披露,决定了公众能够了解多少。读者可以把公司对评估的描述,与评估机构自己说明的限制放在一起对照阅读。

来源

  1. 1
  2. 2

引用本页: OpenAI 启动嵌入式安全评估,邀请四家外部机构入驻. TellWorld, https://www.tellworld.net/zh/news/openai-embedded-assessments-2026. 更新于 2026-11-18

相关动态