Uber 自动驾驶测试车在坦佩撞死行人

背景

涉事车辆是 Uber 的一辆自动驾驶原型车，车型基于沃尔沃（Volvo）XC90 改装，在亚利桑那州的公开道路上以自动驾驶模式行驶，驾驶座上配有一名人类安全员^[1]。这类测试受到怎样的监管，后来成为事故调查的一部分^[2]。

事故经过

碰撞发生在 2018 年 3 月 18 日深夜，地点是美国亚利桑那州坦佩（Tempe），时间约为当地时间晚上 9 时 58 分^[1]。49 岁的 Elaine Herzberg 正推着自行车横穿一条四车道道路，被这辆 Uber 原型车撞上^[1]。车辆从当晚 9 时 39 分起就处于自动驾驶模式，也就是碰撞前 19 分钟^[1]。人类安全员 Rafaela Vasquez 坐在驾驶座上，未能及时介入^[1]。

系统看到了什么

美国国家运输安全委员会（National Transportation Safety Board，NTSB）于 2018 年 5 月 24 日发布了初步事故报告^[1]。该调查的编号为 HWY18MH010，最终报告编号为 HAR-19-03^[2]。

按照最终报告的记录，自动驾驶系统记录到这辆 SUV 以 45 英里/小时的速度在右侧车道接近事发地点^[2]。NTSB 的结论还指出，车辆首次探测到 Herzberg 时的速度为 43 英里/小时，此时距撞击还有 6 秒；而在长达 4.7 秒的时间里，自动驾驶系统没有推断出需要紧急制动^[1]。最终报告把首次探测时间记为撞击前 5.6 秒，并指出系统始终没有把她准确识别为行人，也没有预测出她的行进路径^[2]。

遥测数据显示系统曾反复改变分类：它先把她当作未知物体，随后当作车辆，再当作自行车，每种分类对应不同的预测路径^[1]。等到系统判定碰撞即将发生时，情况已经超出了其制动系统的响应能力范围^[2]。

制动还受到设计上的限制。软件在碰撞前 1.3 秒发出了制动指令，但当车辆处于计算机控制之下时，紧急制动操作并未启用^[1]。系统设计本身就排除了为减轻碰撞而启动紧急制动的可能，转而依赖人类操作员介入^[2]。遥测数据显示，操作员在撞击前不到 1 秒转动了方向盘，在撞击后不到 1 秒才踩下刹车^[1]。

原因认定

NTSB 认定，事故的可能原因是操作员没有持续观察路面，她在整个行程中一直因看个人手机而分心^[2]。NTSB 列出的促成因素包括：Uber ATG 的安全风险评估不充分、对车辆操作员的监督无效，以及缺乏应对「自动化自满」（automation complacency）的机制——即人类监控者在系统看似正常运转后逐渐不再关注任务的倾向^[2]。此外，NTSB 还指出行人当时处于受损状态（impaired）并在人行横道之外横穿道路，以及亚利桑那州交通厅对自动驾驶车辆测试的监督不足^[2]。

影响

NTSB 提出了 6 项新的安全建议：两项给美国国家公路交通安全管理局（NHTSA），两项给亚利桑那州，一项给美国机动车管理者协会（American Association of Motor Vehicle Administrators），一项给 Uber ATG^[2]。其中给 NHTSA 的两项编号为 H-19-47 和 H-19-48，内容涉及公开道路测试的安全自我评估报告^[2]。

这起事故被记录为已知首例涉及自动驾驶汽车的行人死亡事件，正因如此，软件在最后几秒钟里究竟做了什么，才会被如此细致地检视^[1]。