三星员工将机密代码输入 ChatGPT 致泄露

背景

以大语言模型（large language model）为基础的聊天机器人靠生成文字来回答问题。要让它真正帮上工作的忙，用户往往得先喂给它一些材料：一段代码、一份草稿、一份会议记录。麻烦也正出在这里。粘进输入框的内容会离开这台电脑，进入另一家公司运营的服务，既不在雇主自己的系统里，也不在雇主的控制范围内。

三星的半导体业务由设备解决方案（Device Solution, DS）事业部负责。2023年3月11日，公司允许 DS 事业部的员工开始在工作中使用 ChatGPT ^[2]。不到20天之后，泄露事件就浮出水面 ^[2]。

发生了什么

2023年4月，DS 事业部发现3起工程师在工作中把敏感的公司信息上传到 ChatGPT 的案例 ^[1]。上传的并不是闲聊内容，而是源代码和会议记录：半导体设备测量数据库的代码、与生产和不良设备相关的软件，以及一份会议记录的摘要 ^[2]。这类材料说明的是内部系统怎么搭建、出了问题怎么处理——通常是公司锁在自己墙内、不会对外公布的信息。

这3起案例都发生在同一个事业部，距离该事业部获准使用这一工具，只过了几周。

公司的反应

三星发布了一份备忘录，禁止在公司自有的电脑、平板和手机上使用生成式人工智能（generative AI）工具。该禁令于2023年5月1日生效，从设备体验（Device eXperience, DX）事业部开始执行 ^[1]。公司同时要求员工在使用个人设备时也不要向 AI 聊天机器人上传与公司相关的信息，并警告违规可能导致纪律处分，最重可至解雇 ^[1]。

三星并不只是立规矩。它把输入 ChatGPT 的信息量限制为每个问题 1,024 字节——大约1千字节的文字，差不多一小段话——同时启动了内部调查 ^[2]。这样的上限会明显限制这款工具处理源代码的能力，因为代码通常远长于一段话，但短问题的空间仍然保留了下来。

三星还表示，正在开发自己的内部 AI 工具，用于翻译、文档摘要和软件开发 ^[1]。这类工具能把工作留在公司自己控制的系统里，而不是发送给外部服务商。

这种担忧并不只存在于管理层。三星对 DX 事业部员工的一项调查显示，65% 的受访者认为在工作中使用 ChatGPT 可能带来安全风险 ^[1]。

影响

三星并非个例。SK 海力士、浦项制铁（Posco）、亚马逊（Amazon）以及多家美国大型银行等企业，都出台了类似的生成式 AI 工具禁令或限制 ^[1]。这一事件后来成为一个常被引用的案例，用来讨论这类工具带来的一个现实问题：它们之所以有用，恰恰是因为员工可以把真正的工作交给它们，而科技公司真正的工作往往就是机密。

三星走的那套流程——先开放使用，再发现泄露，然后禁止在公司设备上使用、给输入内容设字节上限、启动内部调查、规划自研替代方案——在同一时期的其他公司身上也重复出现。它摆出了企业可以走的两个方向：限制流入外部聊天机器人的内容，或者干脆在内部建一个员工可以放心使用的东西。