酷应用

《自然》杂志专访Bengio：谨防AI被滥用的危险

百家作者：大数据文摘 2019-04-16 08:37:11

大数据文摘出品

来源：medium

编译：刘佳玮、倪倪

Yoshua Bengio对人工智能的贡献毋容置疑，上个月他和Geoffrey Hinton和Yann LeCun共同获得了图灵奖。

Bengio在从事研究的同时，也担任着蒙特利尔学习算法研究所（MILA）的科学主任一职，他对潜在的滥用技术的风险表示担忧。

12月，在蒙特利尔的神经信息处理系统（NeurIPS）会议上，Bengio提出了一套人工智能领域的道德准则，被称为蒙特利尔宣言。

1月，Nature在伦敦采访了Bengio。在采访中Bengio提到，欧洲在人工智能方面确确实实落后于中国和美国。另外他还提到，许多最令人担忧的事情并非在光天化日之下发生。

Q：您是否看到很多公司或国家不负责任地使用AI？

A：有许多这样的情况，而且实际上可能会有更多，所以我们必须在坏事发生之前发出警示。许多最令人担忧的事情并非在光天化日之下发生。它发生在军事实验室、安全组织，以及为政府或警察提供服务的私营企业中。

Q：您能举一些例子吗？

A：杀手无人机很让人担忧，这里既有道德问题也有安全问题。另一个例子是监视。当然你也可以说它具有潜在的积极效益。但特别是对于独裁政府，滥用的危险是非常现实的。从本质上讲，人工智能是一种工具，可以被掌权者用来保持并强化他们的权力。另一个问题是，人工智能可以放大歧视和偏见，例如性别歧视或种族歧视，因为这些人类行为都已体现在了训练数据中。

Q：蒙特利尔宣言与其他类似的宣言有什么区别呢？

A：我认为这是第一个不仅涉及人工智能研究人员，而且涉及社会学和人类学圈子里的广大学者以及公众的宣言，这样的变化可谓意义深远。由于与专家和公众进行磋商，我们将原则从原来的7条增致10条。各个组织可以承诺遵循这些原则。

Q：什么平台最适合进行人工智能道德的讨论？

A：我们正试图在蒙特利尔建立一个这样的组织：关于人工智能和数字技术社会影响的国际观察站。它应该邀请到所有行动者加盟：政府——因为他们是要采取行动的人，民间社会专家——包括人工智能技术专家，社会学、卫生保健和政治学领域的专家，以及正在建造这些智能产品的公司。

Q：我们可以打开人工智能的黑盒吗？

A：可以，但我们必须谨慎行事。因为毋庸置疑，商业公司可能会将事情推向有利于其底线的方向。

Q：您是否认为这一举措将导致人工智能的政府或国际法规的推出？

A：是的。自我监管不会起作用。

Q：你认为自愿征税有效吗？

A：没有。遵守道德准则的公司相对于没有遵守道德准则的公司将处于不利地位。这就像开车一样，无论是左侧还是右侧，每个人都需要以同样的方式驾驶；否则，我们就会陷入麻烦之中。

Q：您曾担心公司从学术界偷走了人才，这还是个问题吗？

A：这种现象依然存在，但也有一些好消息。因为蒙特利尔的人工智能生态系统不断发，我们已初见一些成功的人才逆流，开始有来自加拿大以外的人到加拿大进行人工智能研究。

另一个在蒙特利尔出现的现象（我认为在世界各地都有），就是在工业界从业的学术级研究人员开始担任兼职教师的角色，以培育或共同培育大学的研究生。这正发生在MILA。

我们也在致力于更好地培养学生。蒙特利尔的机器学习教授人数翻了一番，这得部分归功于加拿大政府对这种泛加拿大人工智能战略的投资。

Q：你认为欧洲在人工智能方面落后于中国和美国吗？

A：是的。但我不认为欧洲应该接受这一点。欧洲有巨大的潜力成为领导者。欧洲有非常优秀的大学。事实上，我们在MILA的许多学生来自欧洲。最近还有一个充满活力的欧洲初创公司技术社区，分布在几个地方。政府开始意识到它的重要性。法国政府可能是第一个朝这个方向迈出重要一步的欧洲政府。

Q：人工智能的下一个重大事件将是什么？

A：现如今，深度学习在感知方面取得了巨大进步，但它尚未能够在发现高级表征上取得进展，比如我们在语言中使用的概念类型。人类能够很好地概括使用这些高级概念，甚至婴儿都能做到这一点，但机器学习非常不擅长。

我们有推断数据中实际没有发生的事情能力。例如，我们在生成对抗网络方面取得了一些进展（这种技术建立了一个图像生成网络与图像识别网络进行竞争，以帮助改善两个网络的性能)。

但人类在这方比机器要好得多，我认为重要因素之一是人类对因果的理解。