安全与治理 公司与机构
| Mobileye Mobileye 做车载摄像头视觉芯片与软件，产品从基础驾驶辅助一路延伸到面向无人驾驶车辆的系统，其 EyeQ 芯片已装进数以亿计的汽车。 | |
| Cruise Cruise 是 2013 年成立、在旧金山研发自动驾驶技术的公司，2016 年被通用汽车收购，曾在旧金山提供收费的无人驾驶载客服务，后因许可被暂停而停止运营并被关停。 | |
| OpenAI OpenAI 是总部位于旧金山的 AI 研究与部署公司，2015年以非营利组织成立，开发 GPT 系列模型和 ChatGPT，2026年6月秘密提交 IPO 申请。 | |
| Anthropic Anthropic 是 2021 年 1 月成立的 AI 安全与研究公司，由前 OpenAI 员工创办，开发 Claude 系列模型，并制定负责任扩展政策。 | |
| 欧盟委员会 欧盟委员会是欧盟的行政机关，负责提出新的法律和政策、监督其实施、管理欧盟预算，并对外代表欧盟谈判协定、协调各成员国的做法。 | |
| 美国国家标准与技术研究院 美国国家标准与技术研究院（NIST）是成立于1901年的联邦物理科学实验室，现隶属美国商务部，长期从事测量科学、标准与技术工作，近年也成为美国政府人工智能安全与评估工作的落点。 | |
| 苹果公司（Apple） 苹果公司于 1976 年创立，以 iPhone、iPad 和 Mac 闻名。它于 2024 年推出 Apple Intelligence，自研 Apple 基础模型（AFM），并在 2026 年与谷歌合作。 | |
| 开放源代码促进会（OSI） 1998 年成立的非营利组织，守护《开放源代码定义》，并于 2024 年发布《开源 AI 定义》，为「什么算开源」提供共同参照。 | |
| 工业和信息化部 国务院的一个部门，2008年3月设立，负责工业、通信业和信息化管理。它把此前分散在多个机构的工业管理与信息产业职能整合到了一起。 | |
| 国家互联网信息办公室 国家互联网信息办公室（英文名 Cyberspace Administration of China）是负责互联网信息内容管理的机构，职责涵盖新闻许可、网站查处、算法推荐规则与人工智能生成内容标识等。 | |
| Zoox Zoox 是一家 2014 年成立的自动驾驶出行公司，自己设计没有方向盘和踏板的零排放 robotaxi，也自己开发驱动它的软件。公司在拿到首个面向专用 robotaxi 的商业豁免后，在拉斯维加斯开始收费载客。 | |
| EleutherAI EleutherAI 是草根 AI 研究团体，2020年7月始于 Discord 服务器，发布了 The Pile 及多个开放模型，2023年成为非营利研究机构。 | |
| 英国人工智能安全研究院 英国政府于2023年11月设立的人工智能研究机构，最初名为AI Safety Institute，2025年2月更名并转向国家安全与严重犯罪风险。它只做研究与测试，没有监管权。 | |
| 模型评估与威胁研究 METR 是位于加州伯克利的非营利研究机构，评估前沿 AI 模型的长周期智能体能力，发布能力指标与事件调查，并与开发者合作开展部署前评估和保障措施。 | |
| 欧盟人工智能办公室 欧盟人工智能办公室是设在欧盟委员会内部的一个机构，负责推动《人工智能法案》的实施，并直接执行通用人工智能模型的规则；它于 2024 年 2 月设立。 | |
| 安全超级智能公司（SSI） 安全超级智能公司（SSI）是 Ilya Sutskever 等人于 2024 年 6 月创办的美国 AI 公司，目标是直接造出安全的超级智能，中途不发布任何产品。 | |
| 优步先进技术集团 优步先进技术集团是优步旗下的自动驾驶部门。2018 年一起致命事故后，美国国家运输安全委员会认定主因是安全操作员分心、公司安全监管不足；2020 年 12 月，该部门被 Aurora 收购。 | |
| 机器智能研究院 2000年以「奇点人工智能研究所」之名创立的加州非营利机构，最早把人工智能风险当作技术问题研究，如今主张在対齐问题解决之前停止研发比人更聪明的AI。 | |
| 美国演员工会-电视与广播艺人联合会 美国演员工会-电视与广播艺人联合会（SAG-AFTRA）2012年由两家工会合并而成，代表约17万名媒体从业者，以演员奖和2023年合同中对数字复制品的保护条款闻名。 | |
| 人工智能伙伴关系 2016 年成立的非营利联盟，成员来自产业界、学术界、公民社会与媒体，致力于推动人工智能的负责任开发与使用。 | |
| 向量研究所（Vector Institute） 向量研究所是2017年在多伦多成立的非营利人工智能研究机构，杰弗里·辛顿（Geoffrey Hinton）是其创始科学家之一。 | |
| AI Now 研究所 AI Now 研究所是一家美国研究机构，2017 年与纽约大学合作成立，研究人工智能的社会影响以及科技行业的权力集中问题，并定期发布年度报告和政策建议。 | |
| 斯坦福以人为本人工智能研究院（HAI） 斯坦福大学以人为本人工智能研究院（HAI）成立于2019年，由李飞飞与约翰·埃奇门迪共同执掌，研究人工智能的机遇与风险，下设基础模型研究中心，并发布人工智能指数报告。 | |
| Character.AI Character.AI 是一家聊天机器人公司，由前谷歌工程师 Noam Shazeer 与 Daniel De Freitas 于 2021 年创办，以用户自建 AI 角色聊天著称，2026 年 10 月申请破产保护。 | |
| 人工智能安全中心 人工智能安全中心（CAIS）是2022年在旧金山成立的美国非营利组织，从事 AI 安全研究、培养安全研究者并推动安全标准，曾发起由数百名业界人士签署的 AI 灭绝风险声明。 | |
| Redwood Research Redwood Research 是一家 AI 安全研究机构，与 Anthropic 等一同署名发表过关于语言模型欺骗行为的研究，涉及「潜伏代理」后门、对齐伪装，以及 AI 控制协议。 | |
| Apollo Research Apollo Research 是一家研究机构，专注于先进人工智能系统暗中追求错位目标——即「谋划」——的风险，并对前沿模型开展相关评估。 | |
| 美国唱片业协会 美国唱片业协会是美国唱片行业的行业协会，代表制作与发行录音的公司。它开展研究与政策游说，颁发金唱片、白金唱片等认证，并在 2024 年起诉两家 AI 音乐生成服务。 | |
| 美国联邦通信委员会 美国联邦通信委员会是执行1934年《通信法》的联邦机构。2024年它裁定，禁止「人造或预先录制声音」来电的规定同样适用于AI合成声音，并就一起机器人电话案提议600万美元罚款。 | |
| 奥雅纳 英国跨国设计与工程公司，1946 年由奥雅纳爵士创办，以悉尼歌剧院等复杂地标项目的结构工程闻名，所有权由员工信托持有。 |