蒙特利尔宣言：为什么必须以负责任的方式发展人工智能

原文: The Montréal Declaration: Why we must develop AI responsibly

源: https://theconversation.com/the-montreal-declaration-why-we-must-develop-ai-responsibly-108154

导读：

1. 机器不像人类那样具备谅解和宽容的品质。

2. 根据自动化替代物的经济效益，市场力量决定了哪些工作将消失，哪些工作的工作量将减少。但我们也是公民，由于我们的专业知识，我们能以独特的方式，参与有关这些问题的社会和政治讨论。

3. 技术创新的目标是减轻而非加重人类的不幸。技术创新也不是为了加剧歧视和不公，但AI可能加剧二者。

原文翻译：

随着AI迈入社会，其影响可以是正面的，也可以是负面的。未来在我们手中。

我研究智能已经有30年了。和我的大多数同事一样，我不涉足技术客体的研究，但我对智能概念的抽象性质感兴趣，所以我希望了解智能。这就是科学：了解万物。

 

然而，当一群研究人员了解了某个新东西的时候，那些知识既能用之以善，也能用之以恶。

这就是我们现在面临的局面——人工智能（AI）科学离开大学实验室迈入社会的转折点。在过去五六年里，Facebook和谷歌等大公司对该领域投入了极大的热情，斥巨资收购AI公司，并进行内部研发。于是，AI研究取得了巨大进展。企业非常希望利用这方面的知识，来开拓新的市场和开发新的产品，提高他们的效率。

 

随着AI迈入社会，必然会对社会产生影响。结果会怎样？这取决于我们自己的选择。未来在我们手中。

杀手机器人，失业

从一开始就让我担忧不已的一个问题是致命性自动化武器，也被称为杀手机器人。这是一个道德问题，因为在心理和道德层面上，机器不像人类那样具备谅解和宽容的品质。而同时这也是一个安全问题，因为杀手机器人可能破坏世界秩序。迅速浮现的另一个问题是自动化导致的失业现象。我们不禁要问：为什么？我们试图造福何人，防止什么？路上的卡车司机不高兴？他应该被非人的东西替代？

机器已经在很多方面取代了人类。它还会走多远？

我们这些科学家似乎对此无能为力。根据自动化替代物的经济效益，市场力量决定了哪些工作将消失，哪些工作的工作量将减少。但我们也是公民，由于我们的专业知识，我们能以独特的方式，参与有关这些问题的社会和政治讨论。

计算机科学家关心失业问题。不是因为他们担心自己会失业，实际上恰恰相反，他们的饭碗更有保证。他们觉得自己负有责任，不希望他们的研究让无数人流落街头。

 

调整社会保障体系

因此，计算机科学家，尤其是AI领域的计算机科学家，强烈主张调整社会保障体系，建立某种保证工资制度，我称之为有保证的人类尊严。

技术创新的目标是减轻而非加重人类的不幸。

技术创新也不是为了加剧歧视和不公，但AI可能加剧二者。

有人说，歧视是因为AI是由男性创造的，技术行业里的女性极少。事实并非如此。歧视主要是因为AI所使用的数据反映了人们的行为。不幸的是，那些行为存在偏见。

也就是说，如果一个系统依靠的数据来自于人们的行为，那么这个系统将拥有和那些人同样的偏见与歧视。该系统将不是“政治正确”的，它不是按照社会的道德观念行事，而是按照人们的共同特性行事。

社会是带有歧视的，如果我们不小心谨慎，系统可能保留或加剧那种歧视。

这也可能形成恶性循环。例如，警方使用这种系统来识别犯罪率较高的地区，向那里派出更多的警察，他们将报告更多的犯罪。于是，统计数据强化了系统的偏见。

好消息是，科学家目前正在研究开发最大程度减少歧视的算法。尽管如此，政府必须出台措施，迫使企业采用这些算法。

 

挽救生命

还有另一个好消息。医疗领域将是受到AI影响最大的领域之一。这不仅仅关系到省钱。

医生也是人，也会犯错。因此，我们用越多的数据来开发系统，错误就会越少。这样的系统比最优秀的医生都更加准确。他们已经在使用这些系统，以免漏掉重要因素，比如在医学影像中难以发现的癌细胞。

AI提供的数据将使患者的医疗档案得到更有效地解读

还有新药物的研发。在分析关于药物和其他分子的大量数据（超过人类力所能及的范畴）方面，AI能做得更好。我们还没有实现这一点，但潜力在那里，患者的医疗档案能得到更有效地分析。

 

未来的工具将让医生发现在其他情况下难以发现的联系，帮助医生制定可以挽救生命的治疗方案。

 

医疗系统在10年内彻底革新的可能性非常高。显然，这种进步对所有人都极为重要。

我不担心医疗行业的失业问题。我们将始终需要医疗专家的能力和判断。不过，我们必须加强社会规范（法规条例），以保护隐私（患者的数据不应该被不当使用），积累数据，好让AI被用来以更好的方式治愈更多的人。

 

解决之道在于政治

由于上述的所有这些问题和即将出现的其他问题，《人工智能负责任发展蒙特利尔宣言》具有重要意义。该宣言于12月4日在艺术与技术学会签署，当时有大约500人在场。

它是以广泛的共识为基础。我们在网络上和书店里向人们咨询建议，收集各学科专业人士的意见。哲学家、社会学家、法理学家和AI研究人员参与了宣言的制定过程，所以其中包含了方方面面的专业知识。

这一宣言有多个版本。第一版是在2017年11月2日蒙特利尔大学组织的一个AI负责任发展论坛上起草的。

那是该宣言的诞生地。

其目标是确立某些原则，为采用新法规奠定基础，确保AI以负责任的方式发展。当前的法律并不完全适应新的形势。

技术的滥用

技术的伦理或滥用问题最终会变成政治问题，因此属于集体决策的范畴。

社会如何组织？这是政治问题。

知识如何利用？这是政治问题。

我感受到了地方和中央政府致力于负责任发展的强烈意愿。

加拿大是AI领域的科学领袖，是率先认清AI潜力并制定全国性计划的国家之一，也拥有担任社会领袖角色的意愿。

 

两年来，蒙特利尔处于这种意识的最前沿。我在欧洲也感受到了同样的意愿，包括法国和德国。

一般而言，科学家不愿与政治牵扯过多。但如果他们关心的问题将对社会产生巨大影响，他们肯定会担起自己的责任，参与讨论。

 

在这场谈论中，我意识到，社会已经给了我发言的机会。由于我是AI科学发展的先行者，政府和媒体很想知道我对这些话题的看法。

因此，就我而言，这不仅仅是责任，还是我的义务。我别无选择。

「完」

---

转自：品觉 公众号 ；

版权声明：本号内容部分来自互联网，转载请注明原文链接和作者，如有侵权或出处有误请和我们联系。

关联阅读

原创系列文章：

1：从0开始搭建自己的数据运营指标体系（概括篇）

2 ：从0开始搭建自己的数据运营指标体系（定位篇）

3 ：从0开始搭建自己的数据运营体系（业务理解篇）

4 ：数据指标的构建流程与逻辑

5 ：系列 ：从数据指标到数据运营指标体系

6:   实战 ：为自己的公号搭建一个数据运营指标体系

7:  从0开始搭建自己的数据运营指标体系（运营活动分析）

数据运营 关联文章阅读：  

运营入门，从0到1搭建数据分析知识体系    

推荐 ：数据分析师与运营协作的9个好习惯

干货 ：手把手教你搭建数据化用户运营体系

推荐 ：最用心的运营数据指标解读

干货 : 如何构建数据运营指标体系

从零开始，构建数据化运营体系

干货 ：解读产品、运营和数据三个基友关系

干货 ：从0到1搭建数据运营体系

数据分析、数据产品 关联文章阅读：

干货 ：数据分析团队的搭建和思考

关于用户画像那些事，看这一文章就够了

数据分析师必需具备的10种分析思维。

如何构建大数据层级体系，看这一文章就够了

干货 ： 聚焦于用户行为分析的数据产品

80%的运营注定了打杂？因为你没有搭建出一套有效的用户运营体系

从底层到应用，那些数据人的必备技能

读懂用户运营体系：用户分层和分群

做运营必须掌握的数据分析思维，你还敢说不会做数据分析

合作请加qq：365242293  

---

更多相关知识请回复：“ 月光宝盒 ”；

数据分析（ID : ecshujufenxi ）互联网科技与数据圈自己的微信，也是WeMedia自媒体联盟成员之一，WeMedia联盟覆盖5000万人群。

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/