英国将 AI 安全研究所更名为 AI 安全研究院

背景

AI 安全研究所（AI Safety Institute）是英国已有的机构。2025年2月14日，英国科学、创新和技术大臣在慕尼黑安全会议（Munich Security Conference）宣布，该机构将更名为 AI 安全研究院（AI Security Institute）。^[1] 英国科学、创新和技术部的年度报告也记载，2025年2月，AI 安全研究所重新启动并更名为 AI 安全研究院。^[2] 因此，这次变化既是一个新名称，也是对机构公开使命的重新表述。

名称与重点

大臣表示，新名称更能反映机构对具有安全影响的严重 AI 风险的关注。他举出的例子包括：技术可被用于开发化学和生物武器、实施网络攻击，以及助长欺诈和儿童性虐待等犯罪。^[1] 这些例子把机构的工作放在严重伤害和滥用风险的方向上，而不是放在 AI 引发的全部社会与伦理问题上。在公共政策语境中，英文里的 safety 与 security 常被用来标示不同的侧重：safety 可以覆盖较广的伤害，security 更直接指向可被利用、会造成安全后果的风险。宣布更名时，新名称中的 security 与这些例子相呼应。

范围边界

大臣还为机构的工作划出边界。他表示，机构不会关注偏见或言论自由等问题，他的部门将通过其他举措处理这些问题。^[1] 这句话很重要，因为它把机构以安全为重点的技术工作，与更广泛的社会政策问题分开。它也说明，更名并不是要让该机构承接所有与 AI 有关的关切。相反，机构被引向具有安全维度的风险，其他问题由部门的其他举措推进。^[1]

模型测试与犯罪滥用团队

大臣要求该机构在测试 AI 模型方面发挥主导作用，不论模型来自哪里，是开放还是封闭。^[1] 这一表述的意义在于，机构的测试职责不应取决于模型由谁开发，也不应取决于模型是开放还是封闭。也就是说，机构要面向这些不同类别的模型开展工作，而不是只检查范围很窄的一类系统。机构内还新设了一个犯罪滥用团队，直接与内政部（Home Office）合作。^[1] 这个团队在机构的技术工作与内政部之间建立了直接联系。把两者放在一起看，机构既承担测试职责，也获得了处理犯罪滥用的组织安排。

变化意味着什么

更名把机构的公开重点从英文中的 safety 移向 security。年度报告确认了组织层面的变化，记载 AI 安全研究所在 2025年2月重新启动并更名为 AI 安全研究院。^[2] 宣布内容给出了方向：关注具有安全影响的严重 AI 风险，测试开放和封闭系统，并新设一个与内政部直接合作的犯罪滥用团队。^[1] 这些内容共同描述的是一项使命，而不是一组成果。它们说明机构应在哪些方向上集中力量，以及它如何把技术评估与安全和犯罪政策连接起来。