如何应对AI时代的最大风险 |《未来简史》作者赫拉利最新演讲

大数据文摘作品，转载要求见文末

作者 | 毛丽 

如果要评选当前全球最酷、粉丝质量最高的作者，尤瓦尔·赫拉利一定赫然在列。连续出版《人类简史》和《未来简史》两本严肃的畅销书，这位来自以色列的历史学家吸引了各类科技学界大咖的目光。7月6日，由中信出版集团和百分点主办的“XWorld大会”上，这位AI世界的反思者也发表了最新的演讲《人工智能与人类社会》。

在演讲中，尤瓦尔提出，未来人们会把决策权让渡给人工智能，这会导致决策权掌握在少数的精英阶层手里，同时产生“无用阶层”。这是21世纪，也即是AI时代的最大风险。

大数据文摘从现场带来第一手资料，以下为演讲内容速记，在不改变愿意的前提下部分内容有删改。

 今天我要跟大家介绍的可能是我们这个时代最著名、最重要的科学发现，或者是整个21世纪最重要的一个人类历史上的演变，我们称之为人工智能。

人工智能不仅仅是21世纪最重要的科学进化，也不仅仅是我们人类历史上最重要的科学进化，甚至是整个生命创始以来最重要的变化。历史发展到今天，方方面面都有了巨大变化。但是最重要的原则，根本的规则没有发生变化，过去的40亿年当中都是保持一致的。过去40亿年当中所有生命都是按照优胜劣汰的原则进行演变，所有的生命完全按照有有机化学的规则进行了演化。因为我们的生命是有机化合物组成，不管你是巨大的恐龙，还是一个阿米巴虫，还是一个土豆，还是一个人，都是按照物竞天择的规则。都是有机化合物组成的，所以我们完全遵守有机化学规律。这样一个40亿年的规则将会随着人工智能出现而发生根本变化，人工智能将替代物竞天择，自然选择的结果就此终止。

这个过程当中，我们的生命将根据计算机智能设计，我们生命将脱离原先有机化合物的限制，脱离原先有机化学的限制，突破原先限制而进入一个无机的世界。在我们的有生之年，我们有可能看到，有机生命会逐步被无机生命所替代。我们会逐步看到有机化学规律和无机智慧性的生命形式并存。原先我们是碳基的，未来生命形式当中硅基会成为主要的生命形式，这是我们有生命以来的40亿年当中出现的一个第一次的这种重大变局，在过去的40亿年当中，40亿年大家可以想象一下，所有生命都是局限在地球这样一个行星上面。没有一个生命，阿米巴虫或者任何一种生命形式，有能力突破地球去其他的星系进行殖民。这是因为自然选择规律让所有有机物有机体局限在非常独特的就是我们这个地球的环境当中，一个非常独特的地球温度，气候，非常独特的太阳的照射，非常独特的重力这样一个环境当中。

所有我们的有机生命都是为了适应这样一个环境而存在和繁衍的。我们不能够在其他的空间环境当中，其他的星球，星系当中去生存。因为太难了，几乎不可能。因为我们的条件，我们的有机生命的条件，和在火星月球等等这些星球上面的环境太不一样了。一旦我们从原先有机的生命形态转变成为无机的生命形态，比如机器人，人工智能计算机等等，这些就没有限制了。机器人在火星上面也可以生存。人类不可以，但是无机的生命形式可以在火星上面生存。我们在科幻小说或者电影当中看到的这些场景，现在对于人类来说仍然是非常困难的，因为我们这样一个有机生命体在地球以外的外太空是很难生存的。但是计算机、机器人、人工智能相对来说是比较容易能够在地球以外的其他星球和星系当中进行生存。

所以我们有生命以来40亿年，我们有可能突破地球的限制而可以进入到其他星系。不是人类而是人工智能可以做到这一点。另外一个重大突破性的演变，也是在我们有生之年可以看到的，事实上大家已经从某种程度上经历了这样一种变革，什么样的变革呢？我们人类上万年以来在演变过程当中获得了越来越多的力量，在21世纪的时候人类将会失去这些力量。这些力量将逐步从我们这个物种让渡给人工智能，我们人类的权威在做决策的过程当中，比如说世界上在发生什么，甚至我们自己生命在发生什么，这些权力，我们掌控的力量，不管重要的还是不重要的，将会逐步拱手让给计算机或者人工智能的这些算法。

举一个很简单的例子。很简单的决定，比如你读哪一本书，下一个月看什么书，这是我们生活当中很简单的决定。我们可以有很多的选择，大家是怎么来选下一本书你读什么？以前很多人一般会依赖你自己的感觉、喜好、口味，或者依赖你朋友的推荐，家人的推荐，他知道你的感觉，知道你的品味，知道你的喜好会给你推荐一本书，所以选择一本什么书来阅读目前取决于我们自己的感觉、喜好、口味，但是进入21世纪以后，今天2017年，我们逐步的把阅读什么书，购买什么书这样的权力让渡给了电脑、计算机、算法、让渡给了亚马逊网站。

所以当我们进入到亚马逊未来的书店当中去，是有一个算法告诉你：我知道你，我一直在跟踪你，我一直在收集你的数据，你喜欢什么不喜欢什么我都知道。亚马逊的算法会根据它对你的了解，以及它对于数以百万亿上千万计读者的了解，向你推荐这本书或者那本书，你肯定会喜欢这本书。但这个仍然是处于初级状态，这只是人工智能迈出的一小步，亚马逊网站对你的算法仍然非常有限。进入到下一个阶段，我们看到这样的算法越来越了解你。今天越来越多的人看书不是看纸版书还是电子书，在手机上面看书或者一些电子阅读器上面看书。当你在这个设备上读这些书的时候，这个设备也在读你。

所以有史以来第一次不仅是人类在阅读一本书，你在读的那本书同时也在读你。当你在读书的时候，你的智能电话，你的智能平板，也在读你，跟踪你，监测你，搜集你的数据。这个设备可以了解到哪一页你会很快的翻过去，哪一页你是慢慢读的。这个给了他一些指标，哪些对你来说是无趣的章节，哪些是你喜欢的章节，他也知道哪一页你不读了。这本书我必须要看，我买了这本书，读到一定时候不喜欢了，但是我告诉每一个人这本书非常好，非常了不起，因为我不想丢脸，因为别人都说这本书很好。别人会被你骗，但是计算机这个算法不会被你骗。他知道你读到第五页不读了，或者第42页的时候不喜欢了。这也是非常初步的。

下一步它的设备可以连接面部识别的一个软件。今天面部识别的算法很初级，但是慢慢地，它会学会通过看你脸部的表情去判断。这就跟我们看别人一样，我知道你的表情背后掩盖着什么样的感情，什么样的感觉，看你非常小的面部表情，肌肉的变化就会知道你是在笑还是在生气，或者只是无聊了。

这是人来认知情绪的方式，今天计算机也在学会对于情绪的识别能力，甚至比人类做得更好。他们能够找到面部活动的规律，并且用这种规律来分析和评判我目前的情绪状态是怎样。我们把这样的一个软件和kindle这样的电子阅读器结合在一起，kindle能够去判断你在读的书对你产生的情绪影响。你在看书的时候笑了，这时候，他知道你笑了；你看到某一章生气了，他知道你生气了。我作为一个作者，经常努力想象，我这本书这一章那一节他们会笑吗？他们会不会理解到我埋在这之中的笑点？能不能看出我写这段文字是表达讽刺？我不知道，但是亚马逊会知道。是的，87.3%的读者在读到这一段的时候，这个笑话没有笑。说明这不是一个有效的笑话。即使这样还不是最后一步。最后一步把设备和生物识别传感器结合在一起，这些生物识别传感器是植入在体内。这不是科幻小说，已经实实在在用了。生物特征传感器能够持续不断的监控我身体各种生物指征。我现在给大家做讲演，我的血压心率是多少，血糖水平或者是我的激素水平是多少。但是你不知道，计算机通过刚才讲的这样的技术能够知道我每一刻血压的变化。根据这样的数据，我们大家想象一下你现在读一本非常长的书，比方说托尔斯泰的《战争与和平》，当你读完的时候，实际大部分情节都忘了，但是亚马逊、腾讯或者百度任何一家公司，它的电子阅读器通过生物识别传感器把你读这本书的整个状况记下来。

在我读完战争与和平之后，这个设备就知道我是一个怎样的人以及性格特点是什么。根据这样的一种知识和了解，设备不光能够向我去推荐书籍，而且也能够围绕着我生活当中更加重要的决策做出建议。比方我应该学什么，该生活在哪，应该在哪儿上班，甚至和谁结婚。人生当中最重要的决定之一可能就是你的一生要和谁度过——你伴侣的选择，大家知道在选择伴侣上很多人犯过糟糕的错误，我们主要是有赖于自己的感觉以及亲友家长的建议。现在有一个男朋友女朋友，该结婚还是分手，二三十年以后你可能问亚马逊百度腾讯这样的问题。今天你是靠自己的感觉和亲友的意见。但到时，亚马逊等对于我个人，对于和我相处的人已经如此了解，问他们的建议，他们会说好，你迄今为止所有的邮件我都知道，所有微信我都知道，手机通话我都在追踪，看书看电影时我在监控你血压心率的变化，你每次约会的时候，和这位男朋友女朋友提问题的这个人我也是在监控你水平的变化，我对于你这个人所有信息的了解以及男朋友女朋友的了解，以及基于我对几百万人的成功或者是不成功的伴侣关系的理解，这样我就可以告诉你，你现在和你的男朋友或者女朋友结婚90%的概率会是成功的，因为在你一生当中找不到更好的伴侣了。

因为我如此的了解你，我可能知道你并不喜欢我提的这个建议，你心里想我有能力找到一个更好的伴侣，更好看更漂亮的伴侣，我知道你这样想的错误来源所在，你对外表太看重了，我知道你犯错的来源。你现在在选择的时候，你考虑的因素，还是五万年前我们的远祖祖先在非洲的大草原上择偶的标准。那个时候大家看重外表，现在机器会告诉你根据我的统计数据，即使外表对于关系的成功与否是有重要性的，但是这个重要性是比较小的，可能只占整体权重的10%，在一个成功的关系当中只有10%是取决于外表、美貌。

机器会告诉你我已经看到了这样的现实，我仍然告诉你从长远来看，你和现在这个人在一起会是最幸福的，你应该和他结婚。这样的一种设想当中，决策的权威、权力已经转移了，从人上移交给了算法。我们在这需要理解的是，做出决定的能力就像一组肌肉一样，这样的肌肉你不用的话就会退化，你对计算机信任越多，依靠人工智能来做决定越多，你就会失去自己做决定的能力。

 给大家举一个简单的例子。就是找路，在北京找一条路，要去一个地方，比方从这去火车站，过去我们怎么认路？基于自己的本能知识经验，到一个十字路口我是该左转还是右转，你会有赖于自己的经验。今天我们越来越多的有赖于智能手机，各种各样的GPS，地图的应用。你的本能告诉你应该右转，但是智能手机告诉你左转。你越来越多的相信智能手机而不是直觉，经过一段时间之后你的认路找路的能力就丧失了，即使你还想这样做。在北京这样的空间找路认路能力今天我们靠机器，二十年以后我们在自己的人生当中碰到了这样的十字路口要做决策的时候，很多人会用智能手机，人工智能来做决定，他们会告诉你该怎么做。

随着人工智能变得越来越好，有可能人工智能会把人从就业市场当中挤出去，对于整个社会的经济和政治都产生革命性的影响。十年前如果大家想一下，计算机比人更好驾车的话，大家觉得这是一部科幻小说。但是今天所有专家都达成了共识，可能再过一两年时间，计算机就能够比人类驾驶员的平均水平要好得多，那么届时数以百万计的出租车、卡车、公交车司机会失业，让位于自动驾驶汽车。它不仅开起来好，安全性要高得多，今天的世界上汽车事故造成的死亡人数比战争暴力还要多出来一倍，战争，恐怖主义犯罪，每年造成60-70万人死亡，汽车每年造成130万人死亡。大部分汽车事故都是由于人为造成的，酒驾，开车的时候打电话，或者睡着了，或者发信息，今天交通事故当中人是主要的因素。有了人工智能就不会有这样的问题。自动驾驶的汽车永远不会喝酒，自动驾驶的汽车也不会开车的时候，行驶的时候睡着了，也不可能在开车的时候接打电话，那这样的自动驾驶汽车就能替代人员驾驶员的作用。

人工智能能做一些关于伦理道德的决定。比方自动驾驶汽车开的过程当中突然前方有两个孩子，在踢球追球，这个时候负责自动驾驶的计算机通过算法可以算出来避免撞死这两个孩子的办法是猛的转向另一条车道，前方有卡车迎来而来，但是这样后面打瞌睡的乘客会死亡。有一个解决方案可能就是让客户来决定，车厂来决定无论奔驰还是丰田，比方说丰田让客户来决定自己要选用哪一款车，有一款车碰到这样的决定会决定让你死，那么另外一款车会决定刹车但是仍然会撞死前面两个孩子，你会买哪一款车选哪一种算法？世界上最优秀哲学家先把这样的程序做好，我们在理论上考虑的所有东西，有各种各样的哲学伦理上的理论，但是这些理论对于遇到危机的时候作用甚少。大家可以说有道德的选择是牺牲自己的生命救前方的孩子，但是一旦你真正上路了几分之一秒必须做出这个决定你就会忘记刚才的，会根据你的本能情绪来采取行动。

那些理论哲学上的行为之间和人类实际行为是有巨大差距的，但是有了计算机人工智能我们就能解决这个问题，能够把世界上最优秀的哲学家集合在一起，让他们坐在一个房间，给他们一年时间讨论道德上的难题，不管最终拿出了什么方案就把这个方案写到自动驾驶汽车的程序当中。

谈到伦理道德决策，人工智能也有可能是平均意义上比人要更好。因为这就是意味着这样的自动驾驶汽车，假设每一辆车里面驾驶员都是孔子。对于人类驾驶员来说，他们被人工智能替代之后，当然一方面会带来很多优势更加安全更加便宜，与此同时另一方面会使决策权从人民大众手中转向人数很少的一批精英的手中。过去这样的权力和福利是由数以百万计出租车司机，公交司机，卡车司机来分享。现在不是，现在都交给了人工智能，他们就掌握了世界上所有的出租车、卡车、公交车。

不光是公交车司机，甚至是医生这个工作都会发生变化，在人工智能当中这样的事情已经开始发生。人工智能在疾病诊断方面能够做得更好，提出治疗方案比平均水平的医生更好。普通的医生他的知识和能力是有限的，不可能每天都在更新知识，不可能一个人知道全世界所有的疾病药物和研发结果，对于一个医生来说他拥有的数据是有限的，但是对于人工智能来说这都是无可限量的，可以收集信息分析信息，熟知全世界所有疾病，能够24小时不间断地跟踪一个患者。今天我的私人医生在以色列，每年给我做一次体检。他告诉我的健康状况如何。有了人工智能之后相当于你身边就有一个医生，随时的来追踪你的血压，即使我现在在中国，我私人医生在以色列，但是我的人工智能应用会像一个医生一样随时了解我的健康状况，每0.5秒了解一下我血液的状态。这不再是每年做一次体检。意味着对于癌症这样的疾病不是等到癌细胞扩散已经疼的时候再去医院检查，而是在癌症非常早的阶段刚刚出现病灶癌细胞的时候就能够被发现，我没有不好的感觉，但是人工智能已经发现了。所以他会发现癌症早期的症状，提出诊疗方案。

一个好医生不仅仅是了解你病情，还需要一些情感方面的智能。了解病人是不是害怕了，或者生气了，愤怒了等等。所以有人认为人工智能做不到，事实上人工智能他比人类医生还能够抚慰病人心灵。人类医生怎么判断呢，可能看你的面部表情，某一个声音语调的变化，但是人工智能可以分析你面部的表情更加精确，可以了解你说话语调变化更加精准，更加精准的比人类医生了解病人情绪的变化，监控某一个病人内部身体情绪的变化。很多人的医生做不到，他比病人自己更了解我现在情绪上经历哪些变化。他非常愤怒，人家说你生气了，他说我一点都不生气，有时候病人自己都不知道自己是什么状态，但是人工智能可以，因为他在不断监控你的心跳血压状况等等。当然很多问题需要去解决，很多技术难题没有被最终突破，创造出这样一个人工智能医生。

我们技术上只要突破一次就可以解决一切的问题。人工医生怎么培训？可能八年大学硕博连读，临床实习之后才会培训出一个合格的医生来。十年之后，我们花了这么多资源钱等等只不过培养出了一名人类医生，这时候培养第二名又需要花十年时间。但人工智能只要技术上实现一次突破，你拿到的不是一个机器医生而是无穷多的人工智能医生，他们可以复制出来，这个比培训人类医生要效率高得多。虽然一开始要花数百万亿美元去研发，但是一旦研发出来就可以无穷复制。

随着技术发展我们可以用机器替代出租车、司机、医生其他职业，人工智能逐步都可以替代，这时候出现一个非常大的人类社会学问题。正如第一次工业革命使得城市无产阶级出现，人工智能的出现会出现一个新的阶层，就是无用阶层，数以亿计的人将找不到工作，他没有办法和计算机人工智能竞争，对这些人来说他已经丧失了经济的价值，没有经济价值也就没有政治权力，这个会产生巨大的社会政治经济方面的问题。

当然大家说会出现一些新的职业，但你没有办法确定会出现哪些新的职业替代那些正在消失或者被机器抢走的职业。我们可以说人会自己不断的去学习，不再需要卡车司机出租车司机，会有新的职业。比如设计3D计算机游戏，你想想一下一个50岁的出租车司机失业之后他有多大能力去培养自己，太晚了。我们会看到这样非常危险的革命会严重的改变，从根本上改变我们的教育体系。我们要想一下今天的孩子，你教孩子什么？今天在学校里面我们应该教孩子什么，大学里面应该教孩子什么，让他们能够在二三十年之后能够适应当时的就业市场，事实上我们没有人能够描述三十年后，二十年后的就业市场，换句话说我们现在的教育系统没有办法了解今天应该教我们孩子什么，今天我们孩子在学校里面学到的所有知识二三十年后完全无用，我们不知道现在应该教他们什么，才能够让他们在二三十年后找到工作。

所以即使我们会产生新的工作，二三十年后可能产生新的工作，但是今天孩子到那天是不具备那些新工作的就业能力的。那么这个时候出现了数百万数千万甚至上亿失业人口，他们丧失了经济价值，这个基础上会产生进一步威胁。

人类未来的精英阶层是否还会有动力去照顾那些弱势群体？现在，世界各地的政府还会投资于那些弱势群体，为什么？因为政府精英群体需要这些弱势群体。即使是独裁的像德国的纳粹希特勒，他也要投资于这些弱势群体，他要变强大，需要有强大的军队，需要普普通通的数以百万计的德国人去给他当兵，成为工厂的工人，才能支撑他打这样的战争。所以投资大量的资金用于教育和医疗。

但是未来如果人工智能替代人类，他可以替人去打仗去做工，这样国家精英阶层就没有动力去投资医疗教育，帮助弱势群体。人类社会会分成两大阶层，一个是非常少的精英阶层，就像上帝一样，他们在创造大量的人工智能，绝大部分人将变成没有任何经济价值任何无用的阶层。这是21世纪最大的风险。

最后一点在我结束演讲之前这也是非常重要的一点，有很多关于人工智能的讨论，但是也有很多关于人工智能究竟意味着什么的迷惑和疑问。智能和意识之间究竟有什么区别？很多人迷惑。智能是解决问题的能力，比如我们诊断一个疾病，或者找到某一个疾病的治疗方法这个是智能，但是人类的意识是感受某一种外界的能力，你的情绪你的感情你的痛苦、愉悦、爱，等等。人类和其他的哺乳动物，大猩猩猴子等，他们的意识和感情是合二为一，利用这样的感情和意识加上智能一起去解决问题，智能感情情感和意识是合二为一的。

但是计算机不一样。随着水平越来越高，他们也能产生意识。很多科学的科幻小说或者其他的科幻电影当中我们经常看到人工智能逐步逐步产生了意识，机器人计算机变得非常智能，同时获得了意识和情感，机器人变得非常愤怒。他想杀掉所有的人类，我们在这些科幻小说电影中都看到过，他不是科学只是科幻。科学告诉我们智能和意识是完全不一样的两个东西，到目前为止，我们计算机或者人工智能发展到今天，智能水平在不断提高，但是人工智能的意识还是零，换句话说我们现在没有任何指标证明或者任何迹象表明计算机和人工智能在未来能获得这种意识，计算机只是以一种完全不同的方式在工作，和人类其他的哺乳完全不一样，这是我们面临的风险或者最大的风险，计算机会比我们智能得多，比人类水平高好多好多，他会控制这个世界，开始向宇宙其他星系去扩张，但是他们仍然没有意识，我们会有一个充满智能机器的宇宙而丧失任何意识和情感，大家可以去想象生命过去的演变在逐步的向更高的智能去发展，人类或者其他哺乳动物，在演变过程当中是非常慢的。上亿年的生命通过我们的意识不断摸索，慢慢演变到今天的智能状况，速度是非常慢的，演变需要数百万年的时间。突然有一个计算机突然杀出来，他们用完全不同的路径、方式，完全不同的发展模式，超级的智能在赶超有机的生命体，他们智能的进化和演变速度比我们快得多，他们的发展演变比我们快得多，他们会控制整个世界甚至宇宙但是是没有意识的。

最后想做一个总结，我讲的东西不是一个预言，没有人会知道未来是什么样。一切还悬而未决。同样一个技术你可以创造出完全不同的社会和世界，我们在21世纪曾经看到过这一幕，我们的技术、汽车、广播、电视、计算机，可以利用相同的技术创造出社会主义的国家，资本主义的国家，法西斯国家。同样，人工智能的技术毫无疑问会改变我们的世界，但是我们未来的社会究竟怎么样，有很多选择，而不是完全由技术来决定的。一切都悬而未决。。如果大家不喜欢我刚才描述的这个世界，大家仍然可以用自己的行动去改变决定未来世界的形态，去消除风险发挥技术好的那一面。

最后我想讲的就是当你作为一个个人，一家企业，政府部门，或者作为一个精英阶层，我们在做人工智能的时候，做各种各样决定的时候，一定要注意人工智能不是一个技术问题，不仅仅是单纯的技术问题，同时也要注意到人工智能以及其他技术的发展将会对社会经济政治产生深远的影响，我们一定注重人工智能它的技术层面的问题，还要严密的去关注人工智能的发展对社会可能产生的影响，所以我们在投资与技术发展的时候还要投资于社会影响的研究，谢谢。

*本文速记和照片来自主办方

关于转载

如需转载，请在开篇显著位置注明作者和出处（转自：大数据文摘 | bigdatadigest），并在文章结尾放置大数据文摘醒目二维码。无原创标识文章请按照转载要求编辑，可直接转载，转载后请将转载链接发送给我们；有原创标识文章，请发送【文章名称-待授权公众号名称及ID】给我们申请白名单授权。未经许可的转载以及改编者，我们将依法追究其法律责任。联系邮箱：zz@bigdatadigest.cn。

点击图片阅读

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/