酷应用

关于机器意识的对话

百家作者：人工智能学家 2019-06-30 00:42:05

来源：人机与认知实验室

S教授德高望重，建立了一个关于人工智能的微信群，吸引了很多关心人工智能的专业人士参与讨论。群中常有热烈的讨论。前些天恰好有一场关于机器意识的对话。感觉比较有意思，觉得放任这些讨论在微信群里被遗忘就的确有些可惜。因此费力从微信里面把这些对话淘出来，并且稍加编辑，且隐去讨论者的信息，用客某指代（来的都是客嘛！）。在最后，也加入一些自己的评论。

-----讨论-----------

客1：个人认为，将意识纳入人工智能好比把宇宙装进人造卫星。

客2：事物五觉(色香声味触)都可以产生经历(经)，经历夹杂着主体对事物的操作体验，进而生成一个认识……当认识会包含事物发生与发展相关条件&作用结果匹对时，会浓缩成主体的先验反应模型，这个模型就是意识，可以在相关条件出现时瞬间激活对结果的预测……

客3：意识可能永远装不到以计算机为平台的人工智能系统里面去。不过，由于有些生物智能系统确实具有意识，所以意识仍然可能装进某种非计算机平台的人工智能系统中去。至于如何装，那是另外一个问题。

客4：机器如果演化出自主意识，那也是有别于人类意识的另类意识，可以叫做机器意识。

客3：关于机器意识不同于人类意识的观点，我早就在我的文章中讨论过。

客4：机器智能也应有别于人类智能。

客3：机器智能的实现方式，肯定也可以有别于人类智能。事实上，在计算机平台上产生的人工智能，就不同于人类智能，但也可能用于完成相同的目标，比如下棋。

客5：不是应，而是根本就有别于人类智能，人类智能是人类独有的，地球上只有人类才具备人类智能一样，机器有了智能，就是机器的智能，与人类智能只能是模仿与被模仿、模拟与被模拟、参考与被参考。

人工智能里的智能一般默认的是人类的智能，而机器已经实现的智能无论在机制还是性能上都不于人类，现实中，往往将机器的智能与人类的智能划等号，加上科幻小说电影媒体的误导。因此，人工智能实际上充其量只是人工智能技术。从这个角度，现实中不存在真正的人工智能，而是机器智能。如果人工智能中的智能不只是人类的智能，则重新划分各个类型。

客3：把机器智能和人类智能分开，是必须的。不过，由于机器智能和人类智能有时可以用来实现相同的目标，所以从功能的角度，是很难把它们完全分开的。

客6：会不会在智能的基础原理上是一致的，只是实现的路径不同如飞行，实现飞行的原理是相同的，实现的路径不同：生物的翅膀和人工的翅膀
还有就是因为实现的路径不同，导致实现的智能的完整程度和强弱程度也不同，人工智能在强度上一般较强，但在完整程度上弱

客3：实现途径不同，是显然的。可能是因为同样的功能，可以通过不同的智能信息处理过程来实现吧。
我们做计算，可以用二进制，也可以用十进制。
我们从甲地到乙地，可以自己走去，也可以让导盲犬带过去，或者让无人驾驶带过去。

客1：我的意思是意识的概念太大、太抽象，不是智能所能反包的。

客3：智能的概念应该比意识还要大，可以分为有意识的智能（比如人类智能）和无意识的智能（比如在计算机上实现的人工智能）。

客1：那在这一点上我们就没有共同语言了，很遗憾[抱拳][抱拳]

客3：那您认为智能是意识的一部分吗？

客1: 不是一个层次的东西，人智能可能是意识的在外表现。意识者精神也，和物质对立统一。
人的智能

客3：那就是说，您也认可人类智能是有意识的，对吗？

客1：可能有意识驱使

客3：那在计算机上实现的人工智能，就应该没有意识驱使了，是不是？

客1：对。关于intelligence，牛津词典上的定义很明确，建议看一下。

客3：这么说，智能至少可以分为有意识驱使的智能和无意识驱使的智能两大类。智能的概念，是不是应该比意识更大呢？

客1：智能分人的智能和非人的智能，由此能推出智能比人大吗？我的老弟

客3：应该这么比。智能=人类智能+非人类智能。所以，智能的概念大于人类智能的概念。
同理，智能的概念大于有意识的智能

客1：这是没问题的

客4：意识与智能的确不在一个层面上，意识应该更基础一些，傻子也是有意识的，昏迷的人意识丧失也就无所谓智能。智能更多地与意识的自主程度有我。

客2：我个人认为，智能大致包括意识(人特有的跨领域/通用&特定领域内/专用/机器可模拟)、技能(心理动作程序)、认识(客体信息导向的基础认知活动&主体情境导向的高级思维活动) 等三个相互关联的层面。

客3：我认为智能的层次更基础一些，才可以分为有意识的智能和无意识的智能。

对于有意识的智能，意识和智能几乎融为一体，已经很难把它们分开了。

客2：梦游是无意识的智能吧？

客3：梦游，到底是不是智能，有点不好说。如果是的话，应该认为是无意识的智能。

客2：美国有个特别司法案例，一男子在梦游态驱车40公里杀死他母亲，事后并不知道，经法院核实被判无罪，即随有技能表现(开车)但无主观故意。

客6：功能性意识是智能系统的一项功能。

客3：怎么确定他是在完全梦游状态下杀死母亲的？他也可能在意识状态下说谎！

客1：智能是指学习、理解、决策等能力。人工智能实现的就是这些能力。
随意放大智能的内涵，甚至将意识包含其中会引起伦理上的问题。

客2：说谎这些可能性都排除了，陪审团、警方、检方、法院那么多社会调查又都不是傻子。公审司法实践说明杀人的主观故意(属于有意识)可以与驾车的技能分离……

客3：对于什么是智能，可能有数十种甚至上百种定义。

客1：最好看权威词典。要还其本来面目。现在借题发挥的“人工智能”太多

客3：我看过一篇关于智能的学术论文，专门探讨通用智能的定义，也挺权威的。

客1：首先通用智能的提法就很没有根据

客3：那篇论文把智能定义为在一个比较宽泛的环境中实现给定目标的能力。当然，也只是一家之言

客1：通用和非通用的界限在哪里？也许只能靠创造技术规范。。。呵呵

客3：智能不一定要有意识，但有意识的智能可望产生更高水平的智能！这一点，应该可以得到大部分人的赞同。

客8：【对意识与智能之间关系的一点思考】
1、意识与智能是二个不同维度的概念，二者之间不存在简单的包含逻辑关系。
2、意识是主体（生命体）的特有现象表征；而智能是特定系统的行为或功能等，表现出现对环境与互动的适应性与最优选择性等。
3、基于生命体的意识可以发展出生命体智能，但是意识不只是演绎出智能，可以演绎出情感、自我幸福等。
4、非生命体系统虽然不具有意识，但是也可以体现在特定功能中的智能性，即机械智能、计算机智能等。
5、所以既不能说意识包括（大于）智能，也不能说智能包括（大于）意识。主流的科学文献对智能与意识的解释都是特定时期学者们认知的一种总结，不能作为深刻剖析意识与智能之间关系的判断准则或依据。

客1：人工有意识智能首先要研究意识的实现，这是否符合伦理都是个问题。

客3：伦理和法律是可以根据技术的发展而变化的

客1：技术改变伦理是可怕的事情

客3：严格的说，有意识的智能，才能算是真正的智能。原子弹的发明，就改变了伦理

客7：首先要确定意识和智能的概念内涵，然后才能讨论其关系。否则，每个人都有自己理解的智能和意识，讨论下来只能是各说各话。

客3：好像大家也基本相安无事

客1：基本伦理是不可动摇的，如机器永远是人的工具，人工智能也是如此。

客2：要讨论关系，最好先亮出自己的定义来

客1：意识是人特有的属性，不应赋予机器。

客3：确实，大家现在都说不清楚什么是意识和智能，所以才需要讨论，逐步形成共识。

动物也可能有意识。意识不仅仅是人类特有的属性。

客2: 鸟诱捕有没有意识？不是人特有的

他转发一个鸟捕鱼的视频

客1：查查词典吧

客2: 关键是你怎么看，词典经常换

客1：无语了

客3：把意识赋予机器，应该也没有那么可怕。原子弹是被人类意识操纵的，虽然可以毁灭人类，但确定好使用规则，就没那么可怕了。其实，很多心理学家都认为动物有意识，特别是研究动物心理和行为学的那些人。

客2：CCTV动物世界中，主播经常使用意识一词来赋予动物行动，不能说主播员都因为没查词典而都用错了吧……

客3：词典是主要面向大众的，通常要规避学术争论，跟学术定义往往有所不同。

客2：
举例来说——

例如：“饭前便后要洗手”是作为知识（水平3：程序性知识）来传授的，为什么孩子总说“知道”但不做？（虽然拥有知识的记忆但没有形成意识）

信息或知识会在心智程序（例如：重要性检查和能效检查）的帮助下，按作用结果（后果）反向提取出条件来（形成知识水平4：条件性知识）。

条件&作用结果之间的双向先验反应模型被主体建立起来，这种从条件到结果，从结果到条件的双向反应模型（或称关系的双向映射）可以被主体在应用情境中不假思索地瞬时激活并诱发思维定向和行为操作，意识便在此刻形成了。

此后，那个记忆中“饭前便后要洗手”的知识信息，被提升为孩子的意识——只要处于“饭前、便后”的情境状态，当孩子认识到洗手的作用结果很重要时，“饭前、便后”的情境状态就变成激活条件了，孩子就去操作“洗手”。

客1：这是一个及其狭义的意识的概念。通常说的意识，是人类心理活动的全部。一个个体，除了意识不知道还有什么。如果机器有了自主意识，就和人没有区别，就要给它人权，就不能再把它当人的工具。这就是我的基本观点[抱拳][抱拳][抱拳]

客4：关键是自我意识。

客1：此外，下意识和意识是两码事

客6：我们可以让这个类人的锤子在敲击钉子时，发出痛苦的声音，甚至可以让它有图像识别作用，当看到钉子时，也可以让它向使用者求饶，但这样一个工具与生命相比，缺失了什么呢[太阳]

客3：动物有意识，我们并没给它们人权啊！

客4：人的认知是随着自我意识的成长而逐渐清晰的。痛何以为痛？

客3：鸡鸭有意识，牛羊有意识，但随时都可能是人类案板上的肉！

客1：动物的下意识是否是意识还是个辩题，意识是完整的心理活动

客6：前面讨论，不同的路径实现智能，在基本原理可能一致，但实现的智能部分会有差异，而向上图那样的类人锤子机器人无法实现智能的一些关键部分，包括“真正的意识““自我意识”，这一点可能与技术和算法无关，而与化学元素有关

客1：如果动物有与人一样的意识，就与人没有差别

客6：我们对这种特殊的智能工具产生同情，恐惧，因该还是由于移情的作用，它们有智能，但缺失了智能最核心的哪一或若干要素，导致无法从工具跨过生命的红线，也就是无法跨越拥有真正自我意识的红线？[太阳]

客3：现在关键是如何让机器有意识。至于人权和伦理问题，可以后面再讨论。

客2：宏观说不明白，往往是微观没搞清楚。大脑思维有一种特性，瞬间使用意识总和来决策，那个属于多种意识的按重要性和能效来排序，并总体决策。例如：在瞬间可能有几个或几十个意识同时出现，瞬间决策哪个最重要，按哪个来定向行动。

客6：我们有时会被这些智能工具在某些特定智能方向上的飞跃式发展而震惊，但可能忽视它们欠缺的关键智能要素，和无法跨越红线的原因是否是在当前环境下无法突破的

客3：根据我的认知相对论，机器即使有意识，也跟人类的意识是不同的。所以也不用给机器什么人权。

客1：关键恰恰是机器不应有意识。那你说的就不是真的意识

客6：模仿的“伪自我意识”实现起来并不难，但与“真正的自我意识“应该有本质上的区别

客3：能不能，和应不应，是两个不同的问题。大猩猩的意识，难道不是真正的意识吗？

客1：我相信无法实现机器意识

客3：大猩猩的意识，难道跟人类意识没有区别吗？

客6：大猩猩的意识属于真正的意识[太阳]，作为自然涌现的智能生命因该都有意识，只是强弱不同？

客1：因为我们永远无法搞清意识是什么

客3：既然动物的意识可以不同于人类的意识，那推而广之，机器也可能有不同于人类的意识。

客1：那你就是努力实现一个不同于人的意识的意识，不矛盾吗？

客3：我们可能确实用永远无法搞清其他动物的意识内容，但是我也确实可以判断其他人或动物具有意识。至少我认为你是有意识的，你也认为我是有意识的。

客6：在没有更基础的理论确定智能和意识的精确定义之前，这个问题很难统一，感觉机器可以有智能，但在当前人类环境下无法实现生命才有的智能属性之一“意识”，这个也因该属于哪个难以逾越的红线之一

客1：知道有是远远不够的，意识在数学上如何定义？物理上如何实现？恐怕永远无法回答。

客3：实现至少一种不同于人类的机器意识，是揭开意识奥秘的基本评判标准。

客2：智能、意识、技能、认识等是主体处于同一个内涵关系网络中棱镜折射出的不同视角之侧重命名。

客1：想是可以的[抱拳][抱拳]

客3：意识需要通过物理和化学上的相互作用来实现，纯数学是描述不了的。
我的想象是有一定逻辑的，并不完全是空想。

客1：没有数学模型还是现代科学技术吗？没说你没逻辑

客3：至少需要跟物理器件结合起来的数学。不是纯数学

---------我的评论-------------

的确查了词典。如下是结果。

网上词典http://cd.hwxnet.com的解释：
人的头脑对于客观物质世界的反映，是感觉、思维等各种心理过程的总和，是人的高级心理反映形式。?例句：存在决定意识。

英文的词典：

Cambridge Academic Content Dictionary
https://dictionary.cambridge.org/us/dictionary/english/consciousness

1. consciousness noun (UNDERSTANDING)?
the state of understanding and realizing something:
Her consciousness that she's different makes her feel uneasy.

2. consciousness noun (AWAKE)
?the state of being awake, thinking, and knowing what is happening around you:
He lost consciousness after his accident and never recovered/regained it.

也用了谷歌的机器翻译：存在决定意识 --> Determining consciousness 哈哈哈！

可见，的确有词的使用的问题。在谈机器的意识的时候，多数人应该是用的“consciousness”，即“the state of understanding and realizing something”，而不是“对于客观物质世界的反映，是感觉、思维等各种心理过程的总和”。但是，完全可能有人自觉不自觉用到了后一种意思。这样看，是否有必要用一个更准确的中文词来对应consciousness？这是我对大家的问题。

咬文嚼字过了，现在来对前面的讨论说几句。首先，咬文嚼字还是需要的，通过它，可以看到客1和其他的客人使用的“意识”的意义的确有所不同。不过，这样的错位其实也有帮助，使得大家多说几句，更有意思一些。

其次，如果我们的焦点在于机器的意识（在没有更好的词之前，还是用意识来对应consciousness吧），这是一个非常难的问题。显然现在的机器不具备意识。但是，1. 是否可以使得机器具备意识？2. 怎样使得机器具备意识（哪怕是非常初等的）？这才是问题所在。

4年前，物理学家Tegmark有一个著名的讲演，题目就是：意识其实是一种数学的模式。他的论点是：计算是物质形成某种模式后就可以做的，进一步，意识就是计算形成某种模式后就可以实现的。这个论点当然有争论，但是，至少他把讨论放到了可以验证可以着手的地方，那就是说，是否可以用某种特殊安排的计算，使得可以实现意识（哪怕是非常初等的）？

因此，需要问计算是什么呢？计算就是图灵机可以做的（还有很多等价定义）。

可以说，可以计算的非常多。但是，现在我们知道了，可以用人工来编程到达的计算，其实是可以计算的一个非常小，非常小，非常小的一个部分（说了3个非常小！）。仅仅局限在人工编程的范围内，恐怕非常难以实现意识。那么，就没有办法了吗？我认为有。如果我们搞清楚了学习机，我们就有希望。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”