酷应用

CCAI 2017 | AAAI 执委 Toby Walsh： AI 是中性技术，如何用它更好地为人类服务

百家作者：AI100 2017-07-23 13:59:04

澳大利亚新南威尔士大学教授、AAAI 执行委员会成员 Toby Walsh

文/CSDN

7 月 22 - 23 日，在中国科学技术协会、中国科学院的指导下，由中国人工智能学会、阿里巴巴集团 & 蚂蚁金服主办，CSDN、中国科学院自动化研究所承办的 2017 中国人工智能大会（CCAI 2017）在杭州国际会议中心盛大召开。

在本次大会上，澳大利亚新南威尔士大学教授、AAAI 执行委员会成员 Toby Walsh 发表了主题为《人工智能如何造福人类》的演讲。

在 Toby Walsh 看来，虽然埃隆马斯克、霍金等大佬对人工智能心存怀疑，但这并不影响人工智能造福人类。Toby Walsh 用“食物银行”和“器官银行”两个案例证明，人工智能在解决贫穷、医疗等问题时，大有可为。

本文根据 Toby Walsh 主题演讲整理，略有删减：

在中国，人工智能技术非常有潜力，而且我相信这种潜力是无法预估的，因为每次我来到中国，都会惊异于中国人工智能的发展是多么如火如荼。

今年的 IJCAI 会议在澳大利亚举办，我是会议主席，今天早上我看了会议投稿系统，发现现在向 IJCAI 提交论文数量最多的国家是中国，中国学者向 IJCAI 提交的论文数量已经超过了欧美。会议的注册人数已经达到历史最高水平，至少有 2000 人，很多参会者都来自中国，希望下个月在墨尔本能够与在座的诸位再次见面。

相信大家都关注过 AlphaGo 的新闻，来自中国和韩国的顶级棋手最终都败在了它的手下，结果令人惊讶。2014 年，法国研究人员写出了围棋程序，他当时预测：要让计算机打败专业棋手还需要花费几十年时间。然而事实证明他的预测错了，我们只花了几年的时间就实现了这一点。Google 在 AlphaGo 项目所花费的精力是其他项目的十倍，取得的结果令人惊叹。

我们只花了几年的时间就实现原本要十几年才能实现的目标，这得益于快速增长的计算能力，拥有这样的能力，不管是围棋还是其他的领域（比如肺病的诊断），我们都能通过程序来实现，然而现在人工智能技术并没有非常广泛的应用。再例如，在胚胎移植过程中，我们可以用深度学习技术和程序来找到最佳的移植细胞，这将比任何医生都要做得更好。

在英国，我们可以用聊天机器人获得医疗服务，它能够为你诊断病情，告诉你头痛是否真的病情严重，还是只需要吃点止痛药就可以了。

有时候软件做得要比人更好，比如说最近日本有一家人寿保险公司，采用了 IBM 的Watson ，用它来替代公司数十名雇员。

如果说你要在 Expedia 这样的网站上预定航班，也可以通过机器学习技术来找到最适合你的航班组合。

所以，我们看到人工智能技术已经应用在很多的领域，这并不让人感到意外。那到底人工智能要走向何方？未来机器是否会取代很多人的工作，甚至取代人类？我的演讲就是要解决这样的一些担忧，我们要想想到底人工智能和机器对我们产生了什么样的影响。

人工智能是中性技术

在澳大利亚，我们建立了一个新研究所——Centre on Impact of AI and Robotics，我是其中的研究员。我们想了解技术到底发展得多快，它会走向何方，以及会带来什么样的挑战。

先讲讲未来人工智能对伦理会产生什么样的影响。我们能从工业变革中学到一些东西，因为在未来人工智能会改变社会，而社会又将做出什么样的改变？答案是，从心理学和社会学角度，生活的方方面面都会受到影响。因此要开展这样的对话，来迎接这样的变化。

其实还有很多的领域也是相当重要。第一个就是教育，如果未来要和机器抢饭碗，人类要做好准备，其中将改变的一个领域那就是教育。教育毫无疑问是我们能够在未来生存，能够在这样的变革中维持人类繁荣中很重要的一点。工作是不是存在，或者说工作是不是被机器取代，还是说机器是否带来更多的工作？而在未来，能确认的一点是新工作、新技能需要交互，所以教育是我们在这样一个过渡时期需要非常关注的一个领域。

这里有一份教育白皮书，是澳大利亚刚刚发布。来看看教育在发生什么样的变化，要做什么。如果要和人工智能技术在未来 20 年内共存，要应对怎样的变化？小孩要应该具备怎样的技能，当他们以后工作的时候才会适应人机共存的这样一个时代？现在已经有很多人来谈劳动力的教育了，现有劳动力的教育又该怎样？所以教育和工作是分不开的，人工智能一定会带来巨大的变革，特别是工作方式的改变。

以后驾驶会被越来越多的机器所掌控，现在数百万人死于车祸，其实大多都是人为错误导致的。如果机器能够更好地干预驾驶系统，将会更加安全，但是前提是要有一个可靠的系统。

自动驾驶技术也能降低经济开销，里斯本有这样一个预估，只需要原来 1/10 的车辆就能满足整个城市的交通；而且到后面，私人小汽车会变得越来越便宜，这对于绝大多数人来说这是好消息。而且在车里面的时间你可以工作，可以看书，看一部电影，回邮件。机器可以帮助我们做更多的工作，我们就可以休息、享受，这是一方面；但是另外一方面，是不是对某些人来说他们就没有工作了？人工智能在多大程度上会影响到生活？可能有些人说我没办法相信机器人。

看待这个世界的观点一定是变化的。我们和其他监督委员会成员在纽约的联合国开了这样的会议：人工智能和机器人如何改变生活？我们是否需要担心呢？我觉得担心是必要的，担心是否会人机大战，就像核弹、核武器完全被机器控制，机器完全取代和控制了整个社会，下个月联合国关于人机道德的会议将会有新的消息出来，大家可以拭目以待。

现在人们对人工智能有些担心和反馈，所以我们要考虑好、准备好，要未雨绸缪。接下来我想从研究学者的角度来谈，如何找到“人工智能好的一面”。

人工智能是中性技术，它可以用于好的方面，也可以被坏人利用。它可以让生活更加美好，提高经济繁华度、降低贫穷，提升医疗质量、教育质量，可以极大地提升生活质量，但是同一个技术也可以引发战争，可以带来伤害，可以带来大规模的失业等。

同样的一个技术它亦好亦坏，作为研究人员，我也很荣幸能够在这么多的问题当中选择一个研究点，而我所选择的这一点，就是能不能让 AI 带来很好的社会效益。上个月我在日内瓦的联合国大会参加了一次会议，也代表了 AI 界来谈一谈对 AI，对于社会和我们所生活的星球的畅想，其实 AI 可以让每个人的生活更好，可以实现联合国新千年的目标。

所以我想跟大家谈一谈，能不能通过人工智能改变人们的生活。

食物银行

我来自于澳大利亚非常小的城市。澳大利亚只有 2300 万人，我知道 2300 万人不算什么，特别是对中国来说。但是有 220 万人是在生活在贫穷之中的，贫穷是说 220 万人没有达到平均的水平，其中有超过 10 万人无家可归，10% 是儿童。

我们有一个很好的慈善的项目，是和新南威尔大学合作的，其实不是谈多少钱投入的问题，而是希望改善人们的生活。这个项目叫“食物银行”，我们希望利用技术让社会变得更加美好，而且它也获得了微软的 Imagine Cup 的奖项，让这些项目和 AI 结合来改善生活。现在，我们把项目拓展到了俄罗斯和美国，希望借鉴这个项目，让他们当地在扶贫和解决社会问题上有很大的进展。

“食品银行“怎样做的呢？其实在超市和餐馆里，每天都会有很多的食品，其中肯定是有剩余的。“食品银行“将会选择不同的剩余食品来进行捐献，并自动地配送给不同的慈善机构和教会，而这需要解决去哪儿把食物收集起来，然后怎样配送给需要的穷人。其实就是把不同慈善机构的信息放在一个平台上，而且它解决了不同的慈善机构收集到的不同量的食品的问题。我们把这样一个研究项目变成具有实际意义的项目，所以只要我们能够解决公平性的问题，那我们就知道这个食物是什么，这个食物分配给谁。其实从本质上来看的话，这就是在解决线上不透明的问题。

在我们谈食品配送的时候，一定要先考虑食物或者是货品的公平分配问题，所以我们就开发了这样一个模型，来保证食品是一个接一个地按顺序去送达，也就是说我们能够看到，一份食品配送以后，进行下一个食品的分配，就是0和1的问题：有和没有。

其实我们还有一个非常激动人心的研究，这是新的功能。当我们谈线上分配的时候，其实是资源和人进行匹配的问题，但是另外一个方面，每一天我们都是在解决一个公平性的问题，换句话说，社会变得越来越公平。你想要的东西我们给不到你，我们会说抱歉，因为我们要给到其他的慈善机构，其他的慈善机构更需要，但是明天可以给你更多想要的物资。从长期来看，这是公平性的机制，而且这是合理的，比如说我有鸡蛋，你给我面粉。如果你给我苹果，那我就不需要香蕉了，这是混合多样化的模式，其实这也是在解决存储的问题，我们自己没有分配完的也会存储到仓库，不会随便地把食品处理掉。所有获得食品的慈善机构，并不是得到生态验证的绿色标签食品机构，很多都是小机构，所以品质上、时效日期上需要做更好地掌控，因此我们需要一些新的方法来解决这样的问题。

还有一些例子，我们可以通过点赞的方式来对商品进行评估和打分。对于多数人喜欢的物品，就可以选出来进行竞标，这是一个非常好的工具，但是这个功能另外一个缺陷就在于说这些商品的选择可能是随机的，有时候不走运的话，可能拿不到这个商品，或者说你另外的人抢了这样一个竞标。这一机制有好有坏，也是如何实现平衡，把商品给到最需要的人手上，而不是让这样的竞价导致另外一个失衡。我们希望通过点赞的方式，最起码知道大家对哪些商品需求量是大的。

另外在这样的技术当中，我们还有一个要研究的点，那就是所谓的规范化的功能。对于点赞这样一个方式，其实你没办法掌控大家的意见，因为这是随机的、自主的，我们不希望有人去操控这样的系统，比如说刻意让某一些商品特别热门，点赞只是个人的行为，你喜欢这个商品你就竞价就点赞，所以这是平衡线的问题。

平衡线机制，有些情况下可以做得非常公平，但另外一方面可以让你有机会控制它，有些人可能是真的有意地以一种团队的方式去操纵，比如说某慈善机构说我特别想要这样的物资，然后让很多人来点赞和竞标。所以这更多是一个数学问题，要保证公平性的机制。也就是说，在能够保证你拿到所要的同时，保证其他人也拿到他们想要得到的东西，如果你嫉妒其他人拿到的东西，那我的机制就不对。

在配送过程中，商品的选择是有时效性的，不能说每次都选这样一个商品，这肯定不行，因此要把握时效性和公平性。

器官银行

另外一个是“器官银行“的项目。医院会把一些器官在不同医院当中进行转送，比如治疗肝脏、肾脏方面的疾病可能需要做器官移植，如果有一些濒临死亡的病人，他们可能会把自己的肾捐献出来，去救治另外一个需要换肾的病人。

但是在澳大利亚，这样一个器官库的建立和维护是很大的问题，成本非常高，比如说对于肾病病人而言，他可能必须花十几万的美元才能获得肾脏移植，而从国家层面要看，要花数亿美元。

根据统计，在 1989 年澳大利亚刚开始做器官移植的时候，平均的器官年龄是 32 岁，而现在平均器官年龄是 46 岁，也就是说捐赠者的年龄越来越高，对于医院来，说引发了一种担忧：能不能把比较老的器官匹配在较年轻的人的身体当中？因为缺少年轻的器官，这就涉及到如何更好地分配器官，就像我们分配慈善机构的食物一样，更多的是线上的问题。

年底的时候我们可以看到有多少器官捐赠，有多少人排队接受器官的移植，你就知道供需之间的关系是怎样的了。我们保证供需最大化的对接，这个问题看上去非常简单，但是其实要考虑的东西有很多，比如说血型上、年龄上的匹配，由于不知道在 24 小时之内匹配出什么样的血型，什么样的器官，因此要收集器官的血型、年龄（尤其是捐赠者的年龄），而且还要考虑到地理位置，比如说可能在新南威尔士城市等待移植的人很多，而偏远地区的人没那么多。

给大家一些例子，看看我们碰到的挑战。这些柱状图可以看到血型的分布，可以看到，在不同的人群当中，不同血型的分布是不一样的，其中 O 型血是比较多的，但是 B 型是比较少的，捐赠者 10% 是 B 型血的人，能够收到的 B 型血器官的人是 14%，还有 10% 的人是在等待，这是一个非常糟糕的消息。

我看到这张图之后，问医生为什么会这样，可能是 B 型血不太容易得疾病。那么怎样使 B 型血的供需分配会更加平衡一些呢？当然我们可以用万能的 O 型血。然而反过来却不行，因为O型血不能用 B 型血，所以这对 O 型血的患者不是很公平。因此可以看到，不同血型上的分配面临着不同的挑战。

我们用了一个 KDPI，就是肾脏捐赠者的指数，我们会对器官捐献者的年龄和其他方面算出来的指数，另外我们对接受器官移植的患者会用 EPTS，也就是预期的移植后的生存率，比如说你是50岁左右的，那可能看到的是处于一个能够在移植后能够存活的比例中的中间值，在年龄上下的生存率不同，比如说你做透析什么的都会对健康产生影响。我们看看 KDPI 和 EPTS 指数，可以看到这两者之间是没有太多的关联性。

所以我们需要有一个新的东西，后来我们有了 Box 机制，它有点像词典编写的方法，然后还有在等待的时间，我们就是通过这样一种标准来推导 KDPI 和 EPTS 之间的关联性。

看上面这张图更清楚一些，第一块是更倾向于年轻的患者、年轻的器官，然后是第二、第三块，我们通过这样的机制，可以看到它的效果有多好。

看看上面这张图，肯定能看出来这比原来好很多，它不是随机的，而是在这之间出现了一定的关联性，当然我们还可以做得更好。

我们可以有一个简单的机制方便大家继续学习，让你在两个指数间有一个完美的关联性，现在这张好多了，KDPI和EPTS之间尽可能地缩短，这让结果更加公平。所以我们可以做得更好，让人们的生活更好，让人们的寿命更长。

同时，我们也看到器官银行和食品银行，两者最重要的是他们的机制，我们要用两侧配对的方式，比如说一方面是患者需要器官，另外一方面器官寻找患者，我们要在两者之间寻找关联性。对于患者来说，肯定是想要最年轻的捐献者的器官，因为这样在移植以后寿命更长一些；另外对医来说，他们也希望将器官放在健康的患者身上，这也是非常经典的两侧匹配的方式。两边都是共同的偏好，两边都是希望更年轻的捐献者的器官。所以我们有一个非常唯一性的稳定匹配。

沃夫几年前获得了诺贝尔奖，他研究的是稳定匹配的问题。这里的话，比如说你要的是男性或女性的器官，他们这种匹配都是唯一的，它需要有一个非常特殊的属性，我们排第一位的年轻的患者可以拿到最年轻的器官，这样的话他们就非常满意了，因为他们拿到了最好的器官。然后的话排第二位的器官，我们对患者和器官都进行排列，然后进行配对，但是我说过这是线上的问题，我们不能等一年以后再对所有的患者和器官进行排名，然后再选择最好的配对方式，因为这是一个动态的过程。

平均来说，他们要对人群进行排列，所以我们让 EPTS 和 KDPI 进行匹配的话就能解决这一问题，这也是我们想要达到的效果。所以我们既能够找到独特、稳定的配对，同时也解决了线上的问题。另外，我们每次也能有一些简单的模型，比如说在每个时间点有一些患者来，有一些患者走，有一些器官到，那我们这个器官在到达以后进行配对，每个器官都有 KDPI，每个患者都有 EPTS，我们也能证明这个功能是非常好的。如果有更多的器官到了，这样的话你能够选择的器官可以更多，如果我们增加患者的数量，那患者拿到更好器官的概率就会下降，这样我们可以有一个决策化的功能。

另外，我们可以看到没有任何一个机制能够满足所有的需求。而唯一能够不受操控的机制就需要采用随机方法。为什么这一点非常重要？在 2012 年，当时德国有一个丑闻，他们发现医生对患者的排列进行了一些操控。所以说澳洲也是非常关注这个系统是否会被人为地进行操控。

我们现在采用这个系统是不会有人为的操控情况，这也是政府非常关心的，他们防止参与其中的人会有腐败的行为，因为之前在德国出现过类似这样的丑闻。患者等待的时间也是非常重要的因素，如果一直等可能会死掉（因为拿不到器官），所以在时间图里面也需要把等待时间放进去，不管采用什么机制，等待的时间基本上是保持一个稳定的状态，所以它的分配是非常公平的，它两头是略微偏离了直线，但是大部分是非常完美的直线，所以不管怎样，等待时间都是差不多的。否则采用其他机制，会对一些年纪比较大的人不是那么公平，所以我们最关注的是配对的公平问题。

再来总结一下，我们看到了非常多的线上分配问题，现在也用到了很多特殊的特征，比如说共同的偏好等。我们也可以做一些非常好的规范化分析，这也是非常有用的，因为我们可以在公平和效率之间取得平衡，我们要知道如何去看待问题。我相信现在人工智能技术已经为社会福祉做了很多工作，如社会安全等、健康、医疗领域等。人工智能技术能够解决社会很多方面的问题，我们要让人过得更加幸福。