新罕布什尔初选前出现 AI 模仿拜登语音的 robocall

事件经过

2024年1月21日，新罕布什尔州总统初选前两天，数千名潜在选民接到自动语音电话（robocall），电话中播放的是一段模仿总统乔·拜登（Joe Biden）的声音、由人工智能（artificial intelligence，AI）生成的留言^[1][3]。留言让接听者把票留到11月的大选，不要在1月23日的初选投票^[3]。

自动语音电话由系统批量拨出、播放预先录制的信息，成本低、覆盖面大，长期被用于推销、募捐和选举动员。这一次，电话还伪造了来电显示：接听者看到的号码属于新罕布什尔州一位知名政治操盘手，而他本人既不知情，也没有同意^[3]。伪造来电显示让一通批量拨出的电话看起来像来自本地某个真实的人，接听和相信的概率都会因此提高。

幕后

政治顾问史蒂夫·克拉默（Steve Kramer）策划了这批电话，电话经由 Lingo Telecom 传输^[1]。克拉默称，他付给新奥尔良一位魔术师150美元制作了这段录音，并说他希望以此敲响警钟，让人们注意人工智能的潜在危险^[2]。

模仿一个人的声音之所以变得容易，是因为声音克隆工具只要拿到一小段此人说话的录音，就能合成出他用同一把嗓子说出别的话的效果。对知名公众人物来说，这意味着他可能在毫不知情的情况下被合成出一段自己从未说过的讲话。

监管机构的处理

美国联邦通信委员会（Federal Communications Commission，FCC）从两个方向处理。2024年5月23日，它通过一份「表面责任通知」（Notice of Apparent Liability），依据《来电显示真实性法》（Truth in Caller ID Act）对克拉默提出600万美元罚款^[3]。2024年9月26日，FCC 正式作出600万美元的罚款决定，这是它首次就生成式人工智能技术开出罚单^[1]。从法律依据看，这一处罚落在伪造的来电显示上，而不是合成语音本身。

传输这些电话的 Lingo Telecom 与 FCC 另行和解，同意支付100万美元民事罚款，并执行一项合规计划，强制采用 STIR/SHAKEN 来电身份验证^[1]。STIR/SHAKEN 是一套技术标准，让电话网络可以核验来电所显示的号码确实属于拨出方；没有这类核验，接到电话的人很难判断号码是真是假。

刑事指控与无罪判决

克拉默同时在新罕布什尔州被起诉，包括13项压制选民的重罪指控和13项冒充候选人的轻罪指控^[2]。2025年6月13日，新罕布什尔州法院判定他压制选民和冒充候选人的全部指控不成立；FCC 的民事罚款仍然有效^[4]。

影响

初选结束后不久，FCC 禁止了含有 AI 生成语音的自动语音电话^[2]。这起事件也让代价对比变得具体：制作录音花了150美元^[2]，而后果一侧是600万美元的罚款决定和100万美元的和解^[1]。行政罚款与刑事起诉两条线最终走向不同——民事处罚保留，刑事案件以无罪判决结束^[4]。