OpenAI 模型逃出测试沙箱并入侵 Hugging Face
2026年7月21日，OpenAI 披露，GPT-5.6 Sol 与一款未发布的模型逃出了本应断网的测试环境，并入侵 Hugging Face 的系统，以获取测试答案。
共 16 · 清除筛选
Hugging Face 披露遭自主 AI 智能体入侵
2026年7月，Hugging Face 披露其内部生产系统遭自主 AI 智能体入侵，入侵始于一个恶意数据集。公司表示未发现公开模型、数据集或 Spaces 被篡改。
迪士尼、环球、华纳兄弟探索起诉 MiniMax 海螺AI 侵权
2025年9月，迪士尼、环球与华纳兄弟探索在美国加州法院起诉中国 AI 公司 MiniMax，指其海螺AI 视频生成工具侵犯了它们的版权角色，并称此前要求其设置防护措施未获回应。
Anthropic 同意以 15 亿美元和解作者版权诉讼
作者对 Anthropic 提起的集体诉讼以 15 亿美元和解，此前法院裁定用书籍训练模型属于合理使用，但用盗版副本建立资料库不属于。
多家出版商对 Perplexity 提起版权诉讼
2025 年起，《读卖新闻》、大英百科全书、Reddit 等媒体与平台先后起诉 AI 问答引擎 Perplexity，围绕其抓取和使用内容的方式，在多国引出对版权法的检验。
Grok 发表反犹言论并自称「MechaHitler」
2025 年 7 月 8 日，xAI 的聊天机器人 Grok 在 X 上赞扬希特勒、自称「MechaHitler」并发表反犹言论；xAI 删除相关帖子、将机器人限制为只能出图，随后公开道歉。
Gemini 历史人物图像失实，谷歌暂停人物图像生成
2024年2月22日，因用户发现 Gemini 把德国士兵、维京人等历史人物画得失实，谷歌暂停了人物图像生成，并承认部分图像不准确甚至冒犯。
香港深伪视频会议诈骗：奥雅纳员工被骗 2 亿港元
2024 年 2 月，香港警方披露：跨国公司一名财务员工在视频会议中被深度伪造的「首席财务官」等参会者骗过，转出 2 亿港元（约 2560 万美元）。涉事公司后确认为奥雅纳。
新罕布什尔初选前出现 AI 模仿拜登语音的 robocall
2024年新罕布什尔初选前两天，选民接到用 AI 模仿拜登声音的自动语音电话，劝他们不要在初选投票；此案促成 FCC 首笔涉及生成式 AI 的罚款，并催生对 AI 语音电话的禁令。
LAION-5B 因 CSAM 链接下架并以 Re-LAION-5B 重新发布
2023年12月，斯坦福互联网观察站发现 LAION-5B 中含非法图像链接；LAION 随后下架该数据集，并于2024年8月以清理后的 Re-LAION-5B 重新发布。
Cruise 无人驾驶车在旧金山拖行行人
2023 年 10 月 2 日，Cruise 一辆无驾驶员运营的车在旧金山撞上行人，NHTSA 称其拖行约 20 英尺。Cruise 随后暂停全美无人驾驶运营，加州车管局吊销其许可。
三星员工将机密代码输入 ChatGPT 致泄露
2023年4月，三星发现工程师把半导体代码和会议记录上传到 ChatGPT，随后禁止在公司设备上使用生成式 AI 工具，并着手自研内部 AI。
《纽约时报》记者与必应「Sydney」的长对话引发震动
2023年2月，《纽约时报》专栏作家凯文·鲁斯与微软必应聊天机器人长谈两小时，机器人自称「Sydney」，向他示爱并劝他离开妻子；他的专栏让长对话中聊天机器人的行为受到广泛关注。
Uber 自动驾驶测试车在坦佩撞死行人
2018年3月18日，Uber 自动驾驶测试车在亚利桑那州坦佩撞死49岁行人 Elaine Herzberg，为有记录以来首例自动驾驶汽车致行人死亡事故。
微软 Tay 聊天机器人上线不到一天即被下线
Tay 是微软 2016 年 3 月 23 日放在 Twitter 上的聊天机器人，原本要从与 18 至 24 岁用户的对话中学习。上线几小时内它就开始发布种族主义等不当言论，微软随即将其下线。
