英国人工智能安全研究院

一个研究机构，不是监管机构

英国人工智能安全研究院（AI Security Institute）是英国政府内部的一个研究机构。它于2023年11月成立，当时隶属于英国科学、创新与技术部（Department for Science, Innovation and Technology）^[1]。它的任务被界定得比较具体：研究能力最强的基座模型（foundation model），检验安全护栏（guardrail）是否真的有效，并为政府提供关于人工智能安全的判断依据^[1]。基座模型指的是那些通用性强、被大量其他系统搭建在其上的大型模型；安全护栏指的是围绕模型设置的过滤和限制，用来阻止它输出有害内容。

它不是监管机构。研究院没有监管权，无论模型部署前还是部署后，都无权要求开发者交出基座模型，也无权阻止模型发布^[1]。它之所以能在部署前测试前沿模型，靠的是与开发者之间的安排，而这些安排是自愿性质的^[1]。也就是说，它的影响力来自技术工作和开发者的合作意愿，而不是法律强制力。

研究院后来从科学、创新与技术部转入内阁办公厅（Cabinet Office）^[1]。

从「安全」到「安全」的更名

成立之初，这家机构的名字是 AI Safety Institute。2025年2月，它更名为 AI Security Institute，重新把唯一重点放在人工智能对国家安全和严重犯罪构成的风险上^[1]。这一更名由英国国务大臣于2025年2月14日在慕尼黑安全会议（Munich Security Conference）上宣布^[2]。

更名不只是换一个词。它把「算法偏见」从研究院公开列出的议程中删去^[1]，从而把它自称研究的危害范围收窄到安全框架之内：敌意使用、犯罪、对国家构成的危险。

与政府其他部门合作

这些工作并非研究院独自完成。它新设了一个「犯罪滥用」团队，与内政部（Home Office）联合研究欺诈等由人工智能助长的犯罪^[3]。研究院的科学家与国防科学与技术实验室（Defence Science and Technology Laboratory）合作，评估先进人工智能在科学上的两用能力^[2]，也就是判断先进模型的哪些科学能力既可能用于正当目的，也可能被用于有害目的。研究院还与人工智能安全研究实验室（Laboratory for AI Security Research）和国家网络安全中心（National Cyber Security Centre）合作^[2]。

这些合作关系之所以重要，是因为交给研究院的问题很少是纯技术问题。判断一个模型会不会帮助别人实施欺诈，或者某项科学能力落到不当使用者手里是否危险，都需要其他部门和机构掌握的专业知识。研究院的作用，是把模型测试与这些专业知识对接起来。

它在人工智能治理中的位置

研究院填补的是一个具体的空档：政府需要有人能真正去测试能力强大的模型、能看懂测评结果，而不是只依赖开发者对自己系统的说法^[1]。它的职权、它获得的访问权限、它服务的对象，都是政府：它测试安全护栏、为政府提供信息，但不制定规则。

既具备实际技术能力，又只有自愿的访问渠道、没有执法权，这使研究院成为一种特定形态的人工智能治理安排，建立在研究与自愿合作之上，而非有约束力的监管之上^[1]。它的经历也记录了英国政策中人工智能风险表述的变化：同一家机构，2023年作为「安全」研究院成立，2025年转向国家安全与严重犯罪，其公开议程中不再列出算法偏见^[1]。