酷应用

无人驾驶迎来大考，安全守则出炉仍然困难重重

百家作者：大数据文摘 2019-11-22 05:58:00

大数据文摘出品

来源：IEEE

编译：张卓骏、张秋玥

艾萨克·阿西莫夫在曾他的科幻小说里提出了机器人三定律。尽管看上去简单明了，但随着小说的展开你会发现它蕴藏着意料之外的复杂性。

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观;
第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外;
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

为无人驾驶汽车设计安全规则的专家们试图沿用这种易懂的方式来阐述他们的意图，然而很多团队在设计无人驾驶汽车与人的交互规则时发现，我们所面临的现实社会话题远比科幻小说复杂得多。

无人驾驶车祸引热议，如何保证驾驶安全？

无人驾驶汽车的拥护者们声称，全球每年有超过130万人死于机动车辆事故，如果机器人能够取代人类掌控驾驶盘就能有效降低这一数字。但社会也普遍意识到，即便是机器人，同样也会造成交通事故。

美国国家运输安全委员会上周公开的文件将2018年3月发生在亚利桑那州的一起Uber自动驾驶汽车致行人死亡事故的矛头指向了汽车安全驾驶员、Uber公司和州政府，认为这是他们共同的安全失职。甚至那些并不致命的安全事故也饱受谴责，例如有一辆处于辅助驾驶模式下的特斯拉直接一头撞上了前方一辆停在路边但闪着警示灯的消防车。

“自动驾驶汽车的安全守则将是公众接受这项新科技的必要前提条件。”密歇根大学Mcity自动驾驶汽车测试实验室的助理总监Greg McGuire解释说，“没有安全守则，我们如何确认它们是否安全？它们又能如何取得大众的信任？这种信任的建立需要基于公开的、大众能够监督的流程设计的规则，并且甚至可能要求来自政府部门的监管。”

事实上，研究开发自动驾驶技术的企业早已意识到这一点。年初包括安波福、奥迪、百度、宝马、戴姆勒、英飞凌、英特尔和大众在内的11家行业领导者共同发表了一份名为《自动驾驶安全第一》的安全白皮书。这些公司呼吁在开发自动驾驶功能时要加入安全设计要素，加强网络安全性来确保重要数据的完整性（这些数据包括车辆的位置、移动以及车辆环境中其他物体的识别等），以及在各种运行环境下验证并确认机器人的驾驶性能。

《自动驾驶安全第一》安全白皮书

无人驾驶“定律”

11月7号，国际电信联盟宣布成立一个名为人工智能应用于自动化和辅助驾驶的特别小组（AI4AD）。该小组致力于为应用于管理自动驾驶汽车的人工智能系统提供性能标准。（国际电信联盟自1865年发展至今，以为电信服务的运营确立标准为己任。）

国际电信联盟

自动化驾驶联盟暨特别小组主席Bryn Balcombe认为，国际电信联盟此举是希望该标准能在开发人工智能的道路上起到图灵测试的作用——所谓的图灵测试就是当一台电脑成功地让人误以为它是人类时即为通过。“人工智能的图灵测试对于确保人类驾驶员和自动驾驶汽车背后的人工智能系统相互理解并有效预测彼此的行为和所产生的风险至关重要。”

国际电信联盟的一份规划文件认为人工智能的发展应符合公众的如下期望：1.人工智能绝不发生粗心、有危害性或鲁莽的驾驶行为；2.人工智能对事故保持时刻警惕，有意愿也能够避免事故；3.人工智能的驾驶能力需超过一个谨慎且有能力的人类驾驶员。

上述适用于自动驾驶人工智能算法的广泛目标近似于阿西莫夫的三定律，因为两者都同时要求禁止伤害人类、遵守人类命令且能够保全自己。然而国际电信联盟发布的规划文件还包括了15个“可交付成果”，包括制定评估人工智能的规范，以及起草验证人工智能路面性能所需的技术报告。

我们能将驾驶托付给人工智能吗？

无人驾驶推广的核心问题，在于说服公众将驾驶这一可能关乎生死的活动托付给一项频遭失败的技术。一个很令人尴尬的例子是，因为面部识别技术经常会对少数族裔错误识别，旧金山市禁止了警察和政府机构使用面部识别技术。

McGuire认为测试人工智能的驾驶性能非常复杂，而正是人的适应能力才使我们能够驾驭汽车。“人类开车也并不完美，但表现已经非常好了。两起致命交通事故往往相隔几亿英里里程。”

但现实世界中用几亿英里来做测试是不切实际的，而这仅仅是在统计显著性需要的数十亿行车距离中的极小部分。开发人员因此只能借助于模拟，利用计算机来设计虚拟行车里程以发现可能仅在罕见情况下出现的潜在安全漏洞，例如遭受暴风雪或大雨，亦或是驾驶在施工道路上。

“即便如此还无法确保人工智能的安全驾驶，”McGuire还认为，“无人驾驶的运作模式必须得到人类的理解。”例如，目前的自动驾驶汽车有时会在大多数人类驾驶员都不会想到停车的情况下停车，从而导致被追尾。相反，即便一辆自动行驶下的卡车绝对安全，但如果它距离骑自行车的人太近，人们依旧会非常不安。

除上述组织和公司外，也有其他的利益相关方在为自动驾驶制定标准：

国际电信联盟的研究同时覆盖完全自动驾驶和自动驾驶辅助两方面；
Underwriters Laboratories在为完全无人驾驶汽车制定标准；
由Lyft、Uber和SAE International（前身为美国汽车工程师协会）组成的团体为SAE四级和五级的自动驾驶汽车起草安全准则；
BSI集团（前身为英国标准协会）制定了英国标准下针对联网和自动驾驶车辆的战略，并正在自行研究标准。

那究竟需要多久才能制定好标准？McGuire回答：“这取决于研发进程。建立公众信任和确保社会利益需要多久，这个标准的制定时间就可能有多久。”

在不久的将来，Mcity将与底特律市、美国运输部和Verizon联合测试在城市街道上运送老年人的自动驾驶汽车。然而该领域最终需要具备可持续发展的能力，而这在他看来还需要很长的一段时间。