欧盟AI监管新规：公共场合人脸识别将被限制、甚至禁止！

大数据文摘授权转载自AI科技评论

作者：陈彩娴

编辑：刘冰一

继2018年5月25生效的《欧盟一般数据保护条例》（江湖人称“GDPR”）后，今年4月21日，欧盟首次发布了针对人工智能技术的监管法规草案（如下），长达108页，探讨了企业与政府应该如何使用人工智能技术。

链接：

在这项草案中，AI的一系列应用范围都受到了不同程度的限制，包括自动驾驶、招聘简历过滤、银行贷款、入学筛选与测试评分等等，原因是：可能威胁到公民的人身安全与基本权利。

其中，计算机视觉应用最火的人脸识别技术，在公共场合的应用更是被高度禁止，除非是用于寻找失踪儿童、防止恐怖活动威胁或识别刑事犯罪人员等特殊情况。即使有特殊情况，在公共场合应用人脸识别技术，也需要获得司法机构或其他独立机构的授权，并有时间、地理范围和所搜索数据库的限制。

违反新法规的公司，可能会面临高达全球销售额6％（最高2000万欧元）的罚款。

根据欧盟的法规草案，对人工智能应用的监管根据风险等级，主要分为绝对禁止、高风险、较小风险与最小风险等四类。

1、绝对禁止的风险：对人类的安全、和权利构成明显威胁的AI系统将被禁止。这包括操纵人类行为，以违反用户自由意志的AI系统或应用程序，例如通过语音协助、鼓励未成年人进行危险行为的玩具，或供政府进行“社交评分”的系统。

2、高风险：被确定为高风险的AI系统包括有以下应用的AI技术：

• 重要的基础设施（例如运输），可能将公民的生命和健康置于危险中；

• 教育或职业培训，可能决定人们接受教育和专业课程（例如考试成绩）；

• 产品的安全组件（例如AI在机器辅助手术中的应用）;

• 就业，工人管理和自聘职业（例如招聘流程中使用的简历分类软件）;

• 重要的私人和公共服务（例如信用评分，剥夺了公民获得贷款的机会）；

• 可能会侵犯人们基本权利的执法活动（例如评估证据的可信度）；

• 移民，庇护和边境管制管理（例如核实旅行证件的真实性）；

• 司法和民主程序的执行（例如，将法律应用于具体事件）。

• 足够的风险评估和纾解系统；

• 提供给系统的高质量数据集可最大程度地降低风险和歧视；

• 记录活动以确保结果的可追溯性；

• 详细的文件，提供有关系统及其构建目标的所有必要信息，以供当局评估其合规性；

• 向用户提供清晰、充足的信息；

• 适当的人为监督措施，以最大程度地降低风险；

• 高水平的鲁棒性、安全性和准确性。

点「在看」的人都变好看了哦！

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/