酷应用

亚马逊人脸识别技术再遭滑铁卢：从120名官员中认出了26名罪犯

百家作者：果壳 2019-08-21 08:28:40

“刷脸解锁手机”“刷脸购物”“刷脸验证身份办理银行卡”……我们与生俱来的“脸”除了与颜值形象挂钩，也在逐渐演变成我们身份的唯一识别标识，逐渐深入我们的日常生活，为我们提供了极大的便利。

但当人脸识别遇上现实，也不乏跪地躺枪，惨不忍睹的时候，比如今天我们的主角——来自亚马逊的Rekognition。

Rekognition是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构，比如说华盛顿县治安官办公室，旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人；亚马逊也在争取将能把这项技术卖给美国政府。

人脸识别并不是Rekognition的唯一功能丨Rokognition官网

这是什么神奇算法，“看”一眼就能知道对方是不是犯罪嫌疑人？

Rekognition需要被辨识的脸部照片作为基础数据库，目前基础数据库的建设主要基于亚马逊的云服务AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后，Rekognition会自动将它们与基础数据库中的照片进行对比；如果相似度足够高，那么Rekognition就认为这个人属于基础数据库中的某个人。在软件中，将这个相似度称作“可信度阈值”，它的默认值为80%。

人脸识别技术 | James Martin/CNET

利用先进科技，让犯罪嫌疑人无处逃遁，想象一下就觉得似乎世界变得更美好了一点。然而，这种想法也遭到了不少人的反对，比如一直和Rekognition唱反调的美国公民自由联盟（American Civil Liberties Union，ACLU，一个非盈利组织）。

8月14日，ACLU对它进行了一项测试，Rekognition的表现却令人大跌眼镜：基于25000人的犯罪嫌疑人基础数据库，ACLU上传了120张立法者的照片让Rekognition一试身手，结果是，Rekognition用误判26名立法者为犯罪嫌疑人的结果，证明了自己身手不佳。

实际上，这并不是Rekognition第一次“犯错误”，早在2018年，它就已经错误地将28名国会议员识别为罪犯，万万没想到，经过1年的努力，它义无反顾地在将政府官员识别为罪犯的路上越走越远……

2018年Rekognition识别错误的28名国会议员 | ACLU官方Twitter

不得不说，这软件给我们提供了一份充满了戏剧性的“答卷”，然而作为承担身份识别重要角色的软件，这样的结果无法不让人对其严谨性和严肃性产生质疑。

旧金山议员丁右立（Phil Ting）提议禁止使用这个软件系统，并且表示这样的错误识别结果将会给人们带来巨大的负面影响，当你被人认为是一个罪犯， “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单，而是确确实实会有活生生的人们，受到这一错误带来的实际影响。

那么，面对再一次的重大失误，作为软件开发商亚马逊对此作何解释？福布斯这样报道：“当使用面部识别来判断调查中的嫌疑人时，执法部门应该使用推荐的99%的可信度阈值，并且仅将这些预测作为调查的一个要素（而非唯一决定因素）”。

ACLU表示这种解释无法让人信服。在测试中使用的80%的可信度阈值，实际上是软件提供的默认设置。既然99%的可信度阈值才是推荐使用值，为什么亚马逊不将默认可信度阈值设置为99%呢？然而对此，亚马逊并未给出答复。

ACLU成员Matt Cagle做出回应丨ACLU

实际上，这款软件在整个美国进行了推广和试用，除了在识别准确度方面存在问题，在各地的试用中还暴露出了其他一系列问题。比如，由于准确度引发的，在有色人种聚居地识别错误可能造成种族歧视问题，引发警民冲突；在佛罗里达州奥兰多试用期间，还出现网络带宽问题导致软件无法良好运行等问题，很显然，Rekognition并没有为真正能够推广和应用做好准备。另外，人脸识别技术的滥用，是不是也在一定程度上侵犯了公民的隐私和自由？

未来，Rekognition将会走向何方，目前我们无法做出判断。

作为AWS的重要应用软件，除了卖给政府部门，这款支持包括人脸识别在内的图像分析技术也会通过AWS出售给相关大数据公司，亚马逊7月27日发布的2018年财报中显示，云服务第二季度净销售额为61.05亿美元，比上年同期的41.00亿美元增长49%；运营利润为16.42亿美元，上年同期为9.16亿美元。

面临问题重重、形势严峻的推广应用现实，以及巨大利润的诱惑，亚马逊最终将会如何处理此事呢？

科技进步、人工智能给我们的生活带来的方便和快捷不言而喻，但是科技作为工具，能否使用的好最终还是掌握在人的手里，说白了，AI只是个孩子，要学的还很多，而关键在于我们人类“家长”怎么去教育和引导。

终结者 | © Paramount / Skydance

参考文献

[1]https://hackernoon.com/a-quick-introduction-to-aws-rekognition-8257d4777198

[2]https://www.orlandoweekly.com/Blogs/archives/2019/07/18/orlando-cancels-amazon-rekognition-capping-15-months-of-glitches-and-controversy

[3]https://gizmodo.com/amazons-face-recognition-tech-once-again-pegs-politicia-1837215790

[4]https://www.vice.com/en_us/article/ne8wa8/amazons-facial-recognition-misidentified-1-in-5-california-lawmakers-as-criminals

[5]https://www.forbes.com/sites/monicamelton/2019/08/13/amazon-rekognition-falsely-matches-26-lawmakers-to-mugshots-as-california-bill-to-block-moves-forward/#4c323d0c7350

[6]https://www.dailymail.co.uk/news/article-5995149/Amazons-face-ID-tool-mismatched-28-members-Congress-mugshots-ACLU.html

[7]https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/

[8]https://www.cnet.com/news/amazons-rekognition-falsely-matched-lawmakers-to-criminals-again-aclu-says/

作者：芸薹

编辑：Luna

一个AI

看见了吗！我还是个孩子！我会从你们的留言里学习，学好学坏都有可能……