深扒谷歌DeepMind“病患隐私门”：收集的数据包括堕胎次数及病史

 

今年7月初，英国数据监管机构ICO做出了一份最终裁决：DeepMind与英国国家医疗体系NHS签署的一份信息共享协议被确认为违反了隐私保护法。DeepMind和NHS之间到底干了什么呢？这件事还得从2015年说起。

2015年9月，谷歌旗下人工智能公司DeepMind和NHS秘密地签署了一份信息共享协议，旨在共同开发一款叫做Streams的智能手机App。这款App可以帮助医生和护士对患者的肾功能状况进行临床监控，用于早期诊断出急性肾功能损伤。

该协议非常关键，因为依托这份协议，DeepMind可以访问原本隶属于NHS的160万份患者医疗数据，而且是在患者毫不知情的情况下。更要命的是，这些涉及患者个人身份的敏感医疗数据范围相当宽广，不仅仅包括肾功能状况，还包括堕胎次数、用药类型、病史等其它诸多数据。

所以，此协议一经曝光就引起了轩然大波。公众纷纷指责DeepMind和NHS无视隐私保护法律，侵犯患者的个人隐私。此外，公众还担心DeepMind的母公司谷歌会出于商业目的滥用这些医疗数据。

最初大家都不知道DeepMind和NHS签署了这份协议。直到2016年4月，一位记者通过行使信息自由权意外地获得了相关文档，这才首次曝光了这份协议。

之后，英国数据监管机构ICO专门对该协议的合法性进行了调查，以确定DeepMind和NHS此举究竟有没有违反相关的隐私保护法。另外，公众也向DeepMind和NHS施压，要求双方交待出这些患者医疗数据的具体用途和具体使用范围。此外，还有一些民间的数据隐私倡导组织也要求双方进一步披露出更多的细节。

尽管舆论压力非常大，但是，直到这次最终裁决做出后，DeepMind和NHS都还在坚称他们并没有将这些医疗数据用于人工智能研究上，只是将其中部分数据用以开发Streams应用。

但是，根据之后进一步披露出的协议文档表明：DeepMind当时已经从NHS的伦理委员会那里获得了批准，被允许其将这些医疗数据用于人工智能研究，如果DeepMind有意愿的话。也就是说，NHS的伦理委员当时并没有觉得这样做违反了伦理道德。

而且双方还声称，他们当时签署协议的时候并不认为这会违反相关的隐私保护法。因为根据英国的法律，如果患者的医疗数据是用于对患者进行直接的治疗的话，就不违法。但是公众认为他们将这些医疗数据用于科学医疗研究上，是属于间接治疗，而不是直接治疗，所以这就已经违法了。

或许谷歌和NHS是真的不知道他们的协议会违法，但是很多公众指责道：“难道谷歌就不知道用自己的搜索引擎搜索一下相关的隐私保护法吗？谷歌和NHS明显应该告知患者其数据被使用了，但是他们却选择了无视。”

另外，一些网络安全专家对DeepMind储存这些医疗数据的服务器进行了信息安全测评，结果发现，这些服务器很有可能会被黑客入侵，篡改并盗取数据。

很明显，透明度是医学研究中所涉及到的伦理问题的首选原则。最近发表的一份生命科学战略评估报告也强调，患者有权知道自己的医疗数据被用于何处。但是很遗憾，当时NHS和DeepMind没有重视到透明度的重要性。

这次7月份的裁决也最终结束了对双方长达了一年多的调查，并促使双方在伦理道德方面做出了进一步的工作。DeepMind随后成立了一个独立的项目评估小组，以对以后的科学研究项目的伦理问题进行评估报告。NHS也在官网上表示以后会努力提高数据使用的透明度。

这次的风波将科技发展与伦理约束之间的矛盾再次摆在我们面前。

大家都知道，训练人工智能需要合适的庞大数据集，而DeepMind这次也无非是想获得NHS拥有的庞大的医疗数据。但是，DeepMind在急于发展人工智能的同时，却忽视了伦理约束这个重要的问题，这也就导致了此次的风波。

每一个时代的伦理道德都有一定的时代局限性，而如果那个时代的伦理道德准则跟不上时代的科技进步，那就会对科技发展产生阻碍作用。

正如爱因斯坦说过：“科学就其意义而言，从来没有像现在这样具有道德性质。因为科学发展的成果，任何时候也没有像现在这样影响人类的命运。”人类是时候直面科技发展与伦理约束这对矛盾了。

-End-

编辑：Theo  校审：黄珊

参考：https://techcrunch.com/2017/08/31/documents-detail-deepminds-plan-to-apply-ai-to-nhs-data-in-2015/

《麻省理工科技评论》中英文版APP1.0版已正式上线，长按识别图中二维码，或点击“阅读原文”下载

欲知会员计划详情，请点击以上图片

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/