12年后，人工智能和人类会是什么样？这是900位专家的看法|报告

来源：机器之能

摘要：有分析师预计，到2030年，在复杂的数字系统中，人们将更加依赖于网络人工智能。 有人说，随着对这些网络工具的广泛使用，我们将继续沿着历史的轨迹生活地更好。也有一些人说，对人工智能和相关系统的日益依赖，可能会让我们遭遇更多困难。你认为，到2030年，先进的人工智能和相关技术系统最有可能增强人类的能力并赋予他们权力吗？也就是说，大多数时候，大多数人会比现在过得更好吗？还是说，先进的人工智能和相关技术系统最有可能削弱人类的自主权和能动性，以至于大多数人不会比现在过得更好?

在皮尤研究中心和伊隆大学的互联网创想中心于 2018 年夏天进行的一次专家调查中，大约有 979 名技术先驱、创新者、开发者、商业和政策领袖、研究人员和活动家回答了这个问题。

大约有 979 名受访者的答案包括：

• 63% 的人认为大多数人会过得更好；

• 37% 的人认为大多数人不会过得更好；

• 25 名受访者没有选择任何一个选项；

调查报告还对受访者提出了这样的问题：「你为什么选择这个答案，并描绘 2030 年人机/人工智能协作将如何运作的愿景。请举例说明典型的人机交互在特定领域是什么样的，例如工作场所、家庭生活、保健环境或学习环境中。为什么？你的希望或恐惧是什么？可以采取什么行动来确保最好的未来?」

专家们预测，网络人工智能将会增强人类的效率，但也会威胁到人类的自主性、能动性和能力。 他们谈到了广泛的可能性；计算机可能在诸如复杂的决策、推理和学习、复杂的分析和模式识别、视觉敏锐度、语音识别和语言翻译等任务上匹敌甚至超过人类的智力和能力。 他们说，在社区、汽车、建筑物和公用事业、农场和业务流程中的「智能」系统将节省时间、金钱和生命，并为个人提供机会，去享受更加个性化的未来。

许多人的乐观言论集中在医疗保健和许多人工智能应用上——这些应用能够帮助诊断、治疗患者或帮助老年人过上更充实、更健康的生活。他们还对人工智能在广泛的公共卫生计划中的应用充满热情，这些计划围绕着可能在未来几年中获得、从个人基因组到营养等各个领域的大数据所构建。此外，一些专家预测，人工智能将助推期待已久的正规和非正规教育系统的变革。

然而，大多数专家，无论他们是否乐观，但是都对这些新工具对人类基本要素的长期影响表示担忧。在这次非科学调查中，所有的受访者都被要求详细说明他们认为人工智能会让人们过得更好或更糟的原因。许多人都有深切的担忧，也有很多人提出了解决问题的途径。

一、大家的担忧主要集中于以下5个方面：

1.个人正在失去对生活的控制

数字生活关键方面的决策被自动过渡给了由代码驱动的「黑匣子」。人们缺乏输入，也不了解工具是如何工作的。他们牺牲了独立性、隐私权和选择权；他们无法控制这些过程。随着自动化系统变得越来越普遍和复杂，这种影响将进一步加深。

2.数据滥用

大多数人工智能工具现在和将来都掌握在追求利润的公司或追求权力的政府手中。价值观和道德规范往往没有被纳入数字系统，让人们为自己做决定。这些系统是全球联网的，不容易管理或控制。

3.失业

基于代码的机器智能的效率和其他经济优势将继续干扰人类工作的各个方面。一些人预计新的就业机会将会出现，另一些人则担心大规模失业、经济分化加剧以及包括民粹主义起义在内的社会动荡。

Relationship Economy eXpedition 的创始人杰里·迈克尔斯基说：「我们还远未达成一个更好的社会契约。在一个更加公正的世界里，人工智能可能会带来乌托邦。然而，许多力量正把我们推向相反的方向。 1）企业正在竭尽全力裁减全职员工，因为他们会生病、脾气暴躁、需要退休金、需要加薪，而软件却变得越来越好、越来越便宜。无产者将会增多。2）软件就像食肉菌：被它吃掉的任务会从就业市场上消失。与以往的技术飞跃不同，这次技术飞跃所导致企业解雇员工的速度比重新培训和重新雇佣员工的速度更快。3）我们的安全网络很糟糕，我们对人类动机的信念很糟糕。4）消费主义仍然驱动着欲望和期望。」

4.个体认知、社交和生存技能的降低

许多人认为人工智能可以增强人的能力，但也有一些人认为恰恰相反——人们对机器驱动网络的依赖程度日益加深，将会削弱他们独立思考、独立于自动化系统采取行动以及与他人进行有效互动的能力。

5.大混乱：自主武器、网络犯罪和武器化信息

公民将更加脆弱，例如暴露于失控的网络犯罪和网络战中。

一些人预测，由于自主军事应用的加速增长以及对使用武器化信息、谎言和宣传危险地破坏人类群体的稳定，传统社会政治结构将进一步受到侵蚀，并可能造成重大的生命损失。 一些人还担心网络犯罪分子会侵入经济系统。

二、针对AI的负面影响，大家给出了怎样的解决方案？

1.促进跨国界和利益相关群体之间的合作。

为人类最大利益服务的数字合作是当务之急。必须设法使世界各地的人达成共识和协议——联手促进能被广泛接受的方法的创新，以解决邪恶的问题、维持对复杂的人类数字网络的控制。

威康信托基金会的数据与创新部门主管丹尼尔·米哈伊洛夫说：「我认为， 2030 年，人类和人工智能间会形成良好的互动。在我的领域——健康领域——大数据分析和基因组学的进步在创造个性化药物、改善诊断、治疗和研究方面具有巨大的潜力。 虽然我对人类适应、学习和进化的能力持乐观态度，但技术创新并不总是一帆风顺。在这一点上，我们可以从以往的技术革命中吸取经验。例如，(英格兰银行首席经济学家)安迪•霍尔丹正确地指出，在 19 世纪，最初的『勒德分子』感到不满，有合理的理由。他们遭遇了严峻的失业潮，需要一代人的时间才能创造出足够的工作岗位以弥补失去的工作岗位。

这提醒我们，新技术的引进会让一些人从中受益，而另一些人则会受到伤害。为了抓住未来的机遇，我们需要认识到这一点，并做好充分的应对措施，例如，资金充足的成人教育计划。

同样重要的是，专家、媒体和公众之间要坦诚地对话，讨论如何将我们的个人数据用于社会公益项目（如医疗保健），既考虑行动的风险（如对隐私的影响），也考虑不行动的机会成本。事实上，今天的技术可以挽救世界各地丧失在卫生系统中的生命，更不用说 2030 年的技术了。」

2.制定政策，确保人工智能的发展将用于增进人类的共同福祉和共同利益。

采用「登月者心态」，建立包容、分散、「充满同理心」的智能数字网络，确保技术符合社会和道德责任。一些新的监管和认证程序将是必要的。

一位来自北美的研究科学家写道:「立法是确保社会利益分配的主要机制，但是立法的车轮却行进缓慢。尽管人工智能/自动化的好处会很快惠及那1%的人，但其他民众想要感受到好处，将需要更长的时间。而且这只有在我们的代表领导人有意制定强有力的社会和财政政策的情况下才会实现。

例如，人工智能将节省数十亿美元的劳动力成本，同时也削减了劳动力在与资本谈判中的议价能力。任何使用人工智能技术的公司都应该被课以重税，这些钱将用于强有力的社会福利项目，如就业再培训和联邦就业项目。 另一个例子是，任何公共资助的人工智能研究都应该被禁止私有化。公众应该从自己的投资中看到回报。不要让人工智能重蹈大型制药公司利用公开许可的《贝多法案》的覆辙。」

「知识贴士：1980 年 12 月，美国国会通过了著名的《贝多法案》，该法案旨在通过激励美国联邦资助的大学科研成果向产业部门的转移，促进产业技术创新和国家经济发展。经过二十多年的实践，该法案取得了显著成效。但与此同时，该法案也引发了美国大学技术转移领域的激烈争论，社会对其质疑声此起彼伏。一些批评家认为，《贝多法案》给美国创新系统带来了不利影响，改变了公共研究事业的性质。斯坦福法学院的马克·雷姆磊教授从大学学术发展的角度指出：《贝多法案》对大学的发展产生了一定的负面影响，即大学在制定许可优先项目中太注重短期应用性研究价值，过分追求高新技术的独占性许可，从而限制了新技术知识更广泛的传播和流动，未能充分发挥大学的社会公共服务职能。（参考资料来自科学时报）」

西东大学（Seton Hall University）的总经理马克•马本写道：「为了确保人类精神在一个由人工智能管理和统治的世界中蓬勃发展，我们需要改变当前的工作观念。 对于一个大多数社会和经济利益来自于传统工作的全球经济体系而言，这是一项艰巨的任务。由于经济不平等和工作性质的变化，我们已经看到民主制度的衰落和威权主义的抬头。如果我们现在不开始为人工智能导致就业完全中断的那一天做打算，这种压力可能会导致政治不稳定、暴力和绝望。通过提供满足人类基本需求和鼓励重新定义工作的政策可以避免这种情况，但政治家、政府、企业和经济精英迄今为止的表现，让我对他们领导我们完成这一转变的能力缺乏信心。」

一些受访者表示，无论社会如何团结起来解决人工智能问题，仍然会出现问题。

一位汽车行业的开源技术专家写道，「我们必须拥有独立的人工智能系统，这些 AI 系统必须对数据的访问进行严格把控，要有明确的治理，让个人数据拥有被遗忘权。」

一个主要地区互联网注册中心的主任说,「政府适当监管先进技术的能力跟不上这些技术的发展。这使得许多技术在没有足够的通知、分析、审查或监管以保护公民利益的情况下（ Facebook 就是一个典型的例子）向前发展。」

一位来自硅谷的大学教授说，「如果不把技术进步不纳入到一个整体的、生态可持续的、政治上公平的社会愿景中，它们只是服务于封闭和特定的社区。」

3.改变经济、政治和教育系统的优先顺序，使人类在「与机器人的竞争」中保持领先地位。

一些专家建议，制定政策、法规或道德和操作标准，应该将企业和政府的优先事项转移到全人类的进步上来，而不是利润或民族主义。他们敦促主要的组织改进他们的做法，并确保人工智能的进步旨在为所有人服务，不论经济阶层。

全球网络开发研究机构Packet Clearing House的执行董事比尔·伍德科克评论说：「从短期、务实的角度来看，学习算法将通过自动完成诸如导航、递送包裹和购物等大量任务来节省人们的时间。但只要人工智能的主要应用是从人们身上榨取更多的钱，那战术上的胜利就会带来战略上的损失，因为这与我们作为一个物种的利益相悖——牺牲其他所有人的利益帮助少数人致富。利用人类心理弱点向我们推销东西的人工智能，是我们第一次创造出的早于我们人类这个物种的东西。从根本上来说，这是一个糟糕的主意，需要监管，它就像可以自我复制的生物武器一样。」

三、人类和人工智能如何在未来十年共同发展？

大多数受访者表示，由人工智能驱动的自动化系统已经在改善他们工作、娱乐和家庭生活，他们预计，这一趋势会在未来十年持续下去。尽管他们担心人工智能进步带来的负面影响，但他们希望随着网络化的智能系统彻底改变一切——从最紧迫的专业工作到数以百计的「日常生活」的方方面面。

1.人工智能将融入生活的方方面面，提高效率、增强人的能力。

随着人工智能工具的不断发展，它们会为更多人做更多事，许多权威专家都对其未来的发展前景表示乐观。

《带有人类道德偏见的守门算法》一书的作者、荷兰蒂尔堡大学人工智能助理教授马丁•范•奥特罗写道：「尽管我看到了许多关于人工智能的伦理问题，潜在的问题——尤其是权力失衡/滥用 AI（甚至没有开始出现奇点问题和失控的人工智能），但我认为人工智能会让大多数人的生活变得更好，尤其是看好到 2030 年的短期前景，因为人工智能的不良影响可以被大多数人视为主要是『好』的。例如，剑桥分析公司的案例向我们展示了，市场经济条件下，现代社交网络巨大的隐私问题，但总体而言，人们重视 Facebook 提供的非凡服务，这些服务旨在改善交流机会、分享能力等等。」

受访者蒂姆•摩根没有提供具体的细节，他表示：「未来 12 年，人类与人工智能的合作将通过寻找解决持续性问题的新方法，来改善整体生活质量。我们将使用这些自适应算法工具在各行各业和研究领域进行全新的探索，比如材料科学、生物技术、医药、农业、工程、能源、交通等。……这超越了可计算性，进入到人际关系范畴。人工智能开始理解和使用人类的情感语言。

情感计算的潜力包括提高生产率的自适应界面、在机场和其他聚集场所实行安全监控预防犯罪、『宠物』伴侣对它们年迈的主人进行监控，并与之进行互动，以改善他们的健康和性情。是否会有看不见的危险或后果?答案是肯定的。这就是我们工具模式。我们发明它们，使用它们来改善我们的生活，然后在发现问题的时对它们进行改进。人工智能也不例外。」

一家提供营销解决方案的机构的数据分析师表示，「假设已经制定了政策以防止滥用人工智能，并有计划为那些可能失业的人找到新工作，那么人工智能集成/一体化就有很大的潜力。 到 2030 年，大多数人工智能将被用于市场营销，由于个性化广告和推荐的狂轰滥炸，人工智能将会比其他任何东西令人讨厌。 

人工智能的其余用途将是集成到跨职业领域、更繁琐和具有重复性的任务中去。这将会为人类省出更多时间投入到长期、深入的任务中去，使社会得到进一步发展。例如，人工智能可以被训练从调查、评论、文章中识别和编纂定性信息，其速度和数量也会远远超过人类团队。

让人工智能执行这些任务，可以让分析师有更多时间分析数据以获取趋势和信息，然后用这些信息更快地做出更明智的决策，并缩短周转时间。小的产品故障可以在产品普及之前得到解决，科学家可以每半年提交一次环境变化报告，而不是每年或每两年提交一次。」

有些人认为，到 2030 年，不会有太大变化。

丹尼尔·伯宁格是一位互联网先驱，他曾在 Verizon、惠普和美国宇航局领导了首次 VoIP 部署，目前是语音通信交换委员会(VCXC)的创始人，他说，

「那些宣称人工智能将超越人类智能、倡导机器人崇拜的杰出人物想象，计算能力指数级的提高，会将科幻小说中的机器变为现实。谷歌、 Facebook、亚马逊、特斯拉等公司都依赖于对这种机器主导地位的炒作来销售无限规模的产品，这让他们获得了巨大估值。

像所有炒作一样，假装现实不存在并不会让现实消失。摩尔定律并没有把未来拱手让给机器，因为人类对地球的主宰并不归功于计算。任何授予机器自主权的路线图都包含『奇迹』这一步骤。你不能把一块木头变成一个真正的男孩。人工智能仅仅是『模仿』人类活动。在这些模型的开发过程中，再多的改进也不能把『模型』变成『事物』。机器人崇拜通过摧毁人类潜力和能力的广度来证明其合理性。

它通过『否认主义』运作，拥护者否认任何他们无法模仿的东西的重要性。特别是，超级人工智能需要假装人类的意志和意识不存在。人类仍然是一切意图的来源和所有结果的判断者。从意图到结果，机器仅仅提供了便利和效率。自动化的非人性本质以及人类智能规模的不经济性已经引发了令人头疼的问题，这表明，另一个人工智能的冬天将在 2030 年前到来。」

2.人工智能将优化和改善人们的生活。

该样本中，充满希望的专家普遍期望人工智能能够优化、增强和改善人类活动和经验。他们说，这将节省时间，并将通过改善健康状况、减少风险和贫困来拯救生命。他们希望这能刺激创新，拓宽机会，提高人与人之间经验的价值，使人的力量变得更强，并提高个人对生活的总体满意度。

3.一些人预测，会有新的工作或解决方案出现,而另一些人则对大规模失业和社会分崩离析深感忧虑。

（1）对人工智能和工作前景持积极态度的受访者的观点有：

新泽西理工学院社交互动实验室主任、人机交互专家 Yvette Wohn 评论道，「人工智能将自然地融入我们的日常生活。尽管人们担心计算机会取代人类的工作，但最好的情况是，技术增强人类的能力，并做人类不喜欢的工作。智能农场和相互连接的分配系统有望消除城市食物沙漠，使不适合农业生产的地区实现粮食生产。人工智能还将更好地将人连接起来，并为处于危机中的人提供直接支持。」

一位在美国一所主要科技大学里工作的计算机科学专业的教授写道：「到 2030 年，我们应该期待人工智能、以及由人工智能和网络带来的网络和其他技术进步，例如，有说服力的、激励性的技术的发展，能够以多种方式改善工作场所，不再仅仅是用机器人取代人类。」

一位匿名者表示：「人工智能可以大大改善可用性，进而从技术中获利。 如今，许多强大的技术工具需要详细的专业知识，而人工智能可以将更多的技术工具带给更大范围的人群。」

（2）担心人工智能影响工作的受访者的观点有：

如果不尽快采取措施开始适应人类就业机会大幅减少的未来，人工智能对社会经济的未来有潜在的负面影响。其他许多受访者也对此表示担忧。

亚利桑那州立大学社会技术副教授亚历克斯·哈拉维斯写道，「人工智能可能会在未来 10 年里迅速取代许多工人，因此，短期内，将会对社会和经济层面产生一些潜在的重大负面影响。」

芝加哥大学管理与通信应用科学学院通信系教授 Uta Russmann 说：「许多人将不会从这一发展中受益，因为机器人会做好自己的工作。不会减少对蓝领工人、在超市货架上工作的人的需求，但就业市场不会为他们提供其他选择。随着对高技能和高收入人才需求的增加，对低技能工人的需求的大幅减少，贫富差距将会扩大。」

《全球劳动力: 组织的官僚模式》一书的作者、威斯康星大学麦迪逊分校教授 A. Aneesh 回应道：「正如美国作为一个国家更富裕一样，自动化使大量劳动人民落在后面，人工智能系统有可能以类似的方式使服务部门自动化。 除非福利国家卷土重来，否则很难看到总财富的增加会为社会底层带来任何有意义的收益。」

Feel The BenefIT 网站的创始人、数字可用性和可访问性顾问格里•埃利斯回答说：「在世界上较富裕的地区，技术的发展和应用速度要远远快于较贫穷的地区，因为较贫困地区通常负担不起新技术。人工智能不能作为一种独立的技术，而是与增强现实、机器人、虚拟现实、物联网、大数据分析等融合技术相结合。 

据估计，到 2030 年约 80％ 将完成的工作尚不存在。技术含量低、重复性强的工作迁移到贫穷国家的原因之一是低廉的劳动力成本，但人工智能与机器人的结合，会从事许多此类工作。

综合所有这些原因，地球上大部分生活在欠发达国家和发展中国家的人很可能被技术发展甩在身后。除非在设计人工智能相关技术时考虑到残疾人的需求，否则，他们也会被甩在身后。（或者我应该说『我们』，因为我是盲人）。」

4.人们对拯救、延长和改善许多生命寄予厚望，同时，对滥用职权和贫富差距感到担忧。

许多专家对医疗保健和延长寿命的持续性进展寄予厚望。他们预测，各种工具的使用率将会提升，包括能够进行基本检查而无需访问诊所、减少医疗差错以及更好更快地识别风险和解决方案的数字代理。他们还担心，那些能够负担得起尖端工具和治疗的人与那些条件较差的人之间的医疗保健差距可能会不断拉大。他们还对可能出现的数据滥用表示担忧，例如拒绝保险，或者是为特定人员或程序提供保险或福利。

人们担心，在获得最佳医疗服务方面的不公平现象仍将存在，也担心私人医疗数据可能被用来限制人们的选择，这削弱了人们对医疗保健未来的总体希望。

5.教育的未来: 人们对先进的适应性和个性化学习寄予厚望，但也有些人怀疑是否会有任何重大进展，并对数字鸿沟感到担忧。

在过去几十年里，专家和业余爱好者都预测，互联网将对教育产生巨大的影响。其中许多希望并没有达到预期的效果。一些受访者表示，人工智能的出现可能促进这些变化。他们希望看到更多可选择的适应性和个性化学习解决方案，包括数字代理或「人工智能助手」，以加强学生与教师间的互动、提升效率。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/