酷应用

人工智能伦理如何设定，从种群层面看人类的知识积累和进化

百家作者：人工智能学家 2019-10-15 16:17:33

前言：9月份中宣部出版局《中国图书评论》对《崛起的超级智能》进行了推荐和评论，对其中阐述的种群知识库扩展观点给予了重点关注。应该说种群知识库扩展是互联网大脑架构不断发展的抽象推论，这个推论对于人工智能及其伦理的建立也应有相应的价值，这篇文章将对介绍《中国图书评论》的推荐评论，《崛起的超级智能》一书中关于种群知识库的内容进行介绍。

第一部分，《中国图书评论》：从种群的层面来看人类的知识积累和进化

推荐书籍：2019年7月《崛起的超级智能:互联网大脑如何影响科技未来》，刘锋著，中信出版社。

本书主要是在探索互联网进化的若干规律性问题，归纳出了互联网的诸多“类脑”特征，其中一些很有启发性的观点也让人惊叹。

比如作者提到“种群的知识库”这样一个概念，即一个种群所拥有的知识库容量和使用知识改造世界的能力。纵观人类对知识的掌控状况，时至今日我们最常见的传统的知识存储方式，在规模上从一本一本的书籍、学有专长的个人，再到大型的综合性图书馆、专家智囊团，在知识协作上发挥了巨大的作用。

而互联网蓬勃发展以来，各种专业的数据库在信息资源上带来的效率提升，更是有目共睹。本书作者通过对一个种群所拥有的全部生物基因信息、发现的自然界现象和运行规律、掌握的改造自然的技术这三方面来考察评估，认为种群的知识和智能是生命进化的核心。

由此，更进一步前瞻性地探讨在人类的大脑、互联网、人工智能这三者融合以后，所形成的超级智能的进化前景。正是因为互联网使人类的知识协作更普遍、更深人，这种全景视角也逐渐变得易于接受。人类种群作为一个命运共同体，在知识的积累与进化上，由此有了明确、一致的方向，而这种积极面向未来的乐观态度也会增强人们探索的信心和勇气。

第二部分，《崛起的超级智能》书摘：种群知识库与人工智能伦理的设定

人工智能先驱尼尔逊教授曾经对智能下了这样一个定义：“智能是关于知识的学科，怎样表示知识以及怎样获得知识并使用知识的科学。“，从上面的探讨中可以看出，无论是脑的进化、互联网的进化、智能系统的智力等级划分，知识和智慧的提升都是生物进化的核心。

恐龙是生活在距今大约2亿3500万年至6500万年前、能以后肢支撑身体直立行走的的一类动物，恐龙支配全球陆地生态系统超过1亿6千万年之久，但在6500万年前白垩纪结束的时候，恐龙突然几乎全部消失。一种主流的观点是一颗珠穆朗玛峰大小的陨石撞击地球，引发特大火山爆发，进而导致恐龙的大范围灭绝。无论在体型上还是活动区域上，恐龙都进化出种类繁多的种类，包括体型巨大的地震龙，能在空中飞翔的翼龙，令所有恐龙恐惧的暴龙。但在大脑发育和智力提升上，恐龙一直没有大的进展，没有创造出属于自己的科技文明，当危机来临时只能被动的接受大自然安排的命运。

另一个典型的案例是熊猫，大熊猫的历史可谓源远流长。迄今所发现的最古老大熊猫成员——始熊猫的化石出土于中国云南禄丰和元谋两地，地质年代约为800万年前中新世晚期。在长期严酷的生存竞争和自然选择中，和它们同时代的很多动物都已灭绝，但大熊猫却坚持了下来，成为“活化石”保存到了今天。

但是在21世纪的今天，大熊猫确同样面临着灭绝的危险，这次不是因为自然灾害，而是由于食物来源单一，只吃竹子，一旦竹子遭到破坏，其生存就会受到影响，同时大熊猫本身的繁殖能力降低，其生殖系统受到某些细菌的感染，雌性的产卵率降低，雄性的交配欲望降低。作为活化石的大熊猫虽然存在了至少800万年，但同样在智力发育和自身科技上一直处于非常低的水平上，这样当遇到生存危机时，它同样无法利用智能和技术来解决。

与此同时，人类在近200万年里，在知识和智慧上不断扩展和加速，首先掌握了制造工具和使用火的技能，从此在自然界有了更强的竞争力；20万年前，人类掌握了用语言进行交流的能力，由此知识和技能从此可以快速在种群内传播。英国牛津大学遗传学专家安东尼·玛纳克教授领导的研究小组发现，对人类产生语言起决定作用的“FOXP2基因突变”发生在大约12万至20万年前，恰恰与现代人人口迅猛增加的时间相一致。

大约4-5万年前，这时的人类的进化出现了明显的加速，在形态上已非常象现代人，在文化上，已有雕刻与绘画的艺术，并出现装饰物。通过雕刻和绘画，人类的知识第一次通过外界媒介进行保存和传播。加大了人类种群知识库的容量和稳定性。这是之前任何生物都不具备的。这一进程在经历了造纸术，印刷术的发明得到了进一步加速。

50年前，互联网的诞生让人类又一次经历了巨大的智能飞跃，这次革命应该说不亚于200万年前人类第一次使用工具，也不亚于20万年人类第一次开口交流。

互联网的发展让人类拥有了容量更为庞大，反应更为快速的外部知识库，同时由于互联网的类脑化变化，让众多前沿科技以更高的效率为人类进化提供保障与支撑，在互联网的帮助下，人类进一步确立了在自然竞争中的绝对统治地位。

从恐龙、熊猫、人类的例子可以看出，生物种群知识库的膨胀速度是生物进化的焦点，很多生物的知识库停滞，走向死胡同，在千万年里没有进一步的变化，往往在面临巨大自然灾害时，由于生存环境的变化导致灭绝，或在地球的生命圈中处在越来越低的地位。而人类的种群知识库在过去10万年间发生了飞跃性的提升，由此在自然界处于绝对的统治地位。

从上面的案例可以看出，一个种群拥有的知识库容量和使用知识改造世界的能力，把它们合称为这个种群的知识库（PKB），这将是判断生物进化方向和生物高低等级的基础（如图9.4）。我们可以从该种群拥有的全部生物基因信息（GENE）、发现的自然界现象和运行规律（SCI）、掌握的改造自然的技术能力（TECH）三个方面考察种群知识库的发展

我们可以尝试用这个图示和公式对人类、恐龙、熊猫、鲨鱼、狗等生物的种群知识库（PKB）进行研究，绘制近200万年来他们种群知识库的变化过程。

由于缺乏人类和相关生物在远古时期的具体知识库和能力运用数据，我们用常识分析和假设估计的方法进行示范，表明人类的种群知识库是如何在进化中脱颖而出的，更为科学和可靠的数据研究留待未来深入。（详细阐述文字请阐述请参阅《崛起的超级智能》一书相关内容）

人类、鲨鱼、狗、和熊猫的种群知识库曲线图

大脑、人工智能、互联网在21世纪的融合，形成一个前所未有的超级智能。这个超级智能的发展与进化，使生命共同体第一次有了一致和明确的进化方向。

无论是大脑近十亿年来的进化、人工智能的最新发展、还是互联网大脑模型的形成，无一不在提醒我们，种群的知识和智慧是生命进化的核心，当一个种群的知识和智慧趋近于无穷大时，生命进化终极目标“全知全能”将因此产生。

法国著名进化论哲学家德日进20世纪上半叶在《人的现象》一书中提出人类进化的终极状态是全知全能，也被称作Ω（欧米伽）点，“上帝”之点。由此可见，人类或其他种群知识库到达”全知全能”时，德日进的预言就实现了。

人类的伦理是指在处理人与人，人与社会相互关系时应遵循的道理和准则。是从概念角度上对道德现象的哲学思考。它不仅包含着对人与人、人与社会和人与自然之间关系处理中的行为规范，而且也深刻地蕴涵着依照一定原则来规范行为的深刻道理。

由于伦理的设定往往与文化、宗教、地域、价值观、世界观有关，在人类数千年的文明史，至今我们也没有一个统一的、标准的、明确的伦理体系，仅有一些大部分人承认的大体的原则。新时代关于机器人和人工智能的的伦理冲击，因为这个领域的不完善导致争议变得更为突出。

从上面的讨论看，知识和智慧的提升是生物进化的核心，可以用种群知识库变化判断生物进化的方向和生物的高低等级。当时间趋于无穷大时，种群知识库将实现全知全能，从而到达“上帝之点”。

这说明生物的进化存在方向和终点。由此我们可以得出判断标准，在生命进化的过程中，那些促进和保护种群知识库发展的行为，可以看过正向的伦理标准；那些阻碍和危害种群知识库发展的行为，可以看做是负面的伦理行为（如图9.11所示）。

通过种群知识库判断伦理规则的示意图

依照这个标准，我们可以从生物进化方向的角度对人类、机器或者人工智能伦理涉及的问题进行判断和回答。

“扳道工困境”中，能否判断一个小孩或者一车厢人类哪一边对人类未来的知识和智慧贡献大？在没有第三种选择和无法判断的情况下，选择让人数更多的一车厢人类存活下去，应为无奈之举。

泰坦尼克号出现的紧急逃生问题，在无法判断乘客身份的紧急情况下，选择优先逃生的为妇女和儿童，主要是因为她们更多代表了人类繁衍的继续和人类发展的未来。

在2012电影中，总统选择让科学家乘坐飞机到达安全之地，并表达 “一个科学家比几十位官员更重要“，除了总统对国家的忠诚之外，也是基于科学家对人类未来知识的创新更重要的判断上。

对于波士顿动力机器人在进行科学实验时，受到测试科学家的攻击，导致站立不稳摔倒的问题，这并不涉及对生命的虐待问题，因为从标准智能模型的构造和生命进化的本质看，机器人和人工智能系统还不能看做与人类同权的生命体，甚至根本就不在生命的范围内，这主要是因为机器人目前既没有自动进化的动力，也没有判断是否正确进化的能力，机器人或AI分担了人类的部分知识和智慧功能，但在创造性和评审创造性价值方面无法替代，更为重要的是AI无法确定自己的进化方向和进化目标，也没有正确进化的自然动力，它的进化动力来源于人类，因此机器人和人工智能依然是辅助人类进化的工具。

应该着重指出，在非紧急情况下对应对个体利益应进行特别保护，不能以群体利益侵占个体利益，发挥个人探索的能动性对种群知识库的提升应是非常重要的方式。

这一点首先在基础科学的探索中体现特别明显。纵观科学发展史，哥白尼、牛顿、门捷列夫、爱因斯坦等科学巨匠们，主要是靠个人探索时“灵光闪现”做出的伟大贡献，是靠自由的探索，而非有组织有目的规划。

附：关于种群知识库对人工智能及其伦理的影响，相关论文在ICIS2018智能计算与信息系统国际会议上首先发表，“Research on Artificial Intelligence Ethics Based on the Evolution of Population Knowledge Base

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”