在 Uber 自动驾驶测试汽车撞死路人的 20 个月后，美国国家运输安全委员会（NTSB）公布了一个让人感到不安的发现 —— Uber 的自动驾驶系统「看」到了推着单车过马路的受害者，但由于当事人并不在斑马线上，系统无法识别出她是人。在 NTSB 长达 400 页的调查报告中， 我们可了解事故发生的更详尽过程。2018 年 3 月 18 日晚上，自动驾驶汽车在亚利桑那州坦佩市以 43.5 英里/小时（约 70 公里/小时）的速度行驶。49 岁的 Elaine Herzberg 正推着单车横过马路，她离最近的人行横道约 109 米。事故发生前 5.6 秒，自动驾驶系统首次「看」到 Herzberg。出于设计缺陷，自动驾驶系统并没有被赋予识别人行横道以外的路人。于是，系统开始猜，她也许是「车辆」，然后依次将判断改为「其它」-「车辆」-「其它」-「单车」-「其它」，但最后还是将决策落在了「单车」上。在自动驾驶系统「改变想法」的过程中，它每变一次「主意」，系统就得重新估算眼前物件的移动趋势。事故发生前 1.2 秒，系统确认汽车将撞上 Herzberg，想绕开又不可行，于是系统决定，得刹车了。这时，另一个被诟病的功能开始起作用 —— 「行动抑制机制（action suppression）」。当出现需刹车的情况，「行动抑制机制」会将紧急停车的动作延后 1 秒，以二次确认「风险本质」，规避误判。同时，这也是驾驶座上的安全员可直接刹车的时间，只是当时驾驶员正在看手机，并没有留意到眼前的行人。事故发生前 0.2 秒，自动驾驶系统发出警告声，安全员接手方向盘。在汽车撞上 Herzberg 后接近一秒之后，安全员才踩下刹车。从很多个方面来看，Uber 的自动驾驶技术无法考虑人类在实际生活中的行为选择。此外，NTSB 指出，Uber 当时并没有为自动驾驶设立独立的安全部门，设计正式的安全规划、操作准则或是任命专门负责防止事故的管理者，唯有向全公司员工传递的价值，譬如「做对的事情（do the right thing）」。Uber 表示，他们当时有安全规定和操作流程，只是没有正式的安全规划而已。目前，NTSB 虽然描绘了自动驾驶的安全问题，但并没有直接指出车祸发生的原因。NTSB 将于 11 月 19 日在华盛顿举办会议，届时，调查员将发布车祸的完整报告并公布最后的调查结果，判定意外到底是谁/什么的责任，并为政府管理者和科技公司提供建议。我们很重视 NTSB 对车祸的详尽调查，期待在月底 NTSB 会议后了解他们的建议。车祸发生后，有报道指时任 CEO Dara Khosrowshahi 曾考虑取消自动驾驶项目，但最后还是没有这样做。事实上，在事故发生后 9 个月，Uber 宣布重启自动驾驶路测。重新上路的 Uber 自动驾驶汽车在测试，图片来自 MashableUber 保证在车上配备两位安全员，而且不会在晚上以及天气恶劣的时候进行测试。此外，Uber 也弃用了「行动抑制机制」，在新设置下，汽车会提早 4 秒开始刹车。在自动驾驶已经成为科技公司、汽车公司甚至零售业（无人车配送）都不愿放过的研发方向时，Uber 的坚持也不会让意外。毕竟，自动驾驶未来是个千亿美元级别的市场。但也正是在这样激烈的竞争环境下，《卫报》科技编辑 Alex Hern 描绘的情况才尤其让人担忧。此前，我们曾讨论未来自动驾驶汽车也许会面临困扰了哲学家数十年的「有轨电车难题」—— 在车祸面前，自动驾驶系统是应该选择救车里的乘客，还是路上的行人？但在 Hern 看来，自动驾驶行业真正的困局是另一个：自动驾驶的冲突从来都未曾像「有轨电车难题」那样。这个行业面对的哲学难题只有一个：「如果你要做好安全测试，你的竞争对手也许会抢在你之前进入市场。拉下这一杠杆，把人命输入到系统里，你也许能赢。」
关注公众号：拾黑（shiheibook）了解更多
[广告]赞助链接：
四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/
爱范儿
关注网络尖刀微信公众号
