酷应用

中美对话：当课堂遇上AI面部识别，学生数据如何保护？

百家作者：硅谷洞察 2019-04-24 01:48:25

硅谷Live / 实地探访 / 热点探秘 / 深度探讨

硅谷洞察此前在《2018年AI+教育美国创投趋势报告》中指出，面对着教育这个庞大的领域、市场，中国在教育创新和教育科技领域的投资总额约是美国的三倍。中国的教育市场体量也是巨大的，仅在线教育市场就高达2000亿。

即使如此，美国作为世界一流强国，其持续不断吸引着世界顶尖的人才，背后教育体系功不可没。

因此，无论中美，在人工智能时代，教育科技所面临的三大核心问题需要所有关注教育行业的人思考：

如何定义真正的AI+教育企业？
人工智能时代，教育领域将面临什么样的伦理挑战，我们该如何应对？
中美两国分别有哪些政策和努力来约束和推动教育科技市场的发展？

4月12日，在硅谷由 RoboTerra 与 WISE（世界教育创新峰会）联合举办的 “人工智能x教育：创造之旅” 峰会上，硅谷洞察合伙人兼研究主管倪松，与来自美国哥伦比亚大学、弗吉尼亚理工大学、乂学教育松鼠AI、芥末堆等学术界、科技教育界的专家代表们，一起就上述问题进行了深入讨论。

小探带你来看，现场专家们都引发了哪些激烈讨论！

真正的AI+教育企业是什么？

科技已经被广泛应用到了教育领域。例如，学生们可以用手机照相，把作业拍下来，然后让AI来回答。VR技术也已被运用在课堂教学上。学生可以在历史课上重回古代罗马的城市，这有助于吸引学生更投入的学习。

面部识别这样的技术也已经被应用。比如通过学生愤怒、沉闷、无聊等表情，来衡量学生的压力、心跳等多个指标。也可以加上一定时间序列的观察，比如脑电波分析等，把脑电波跟背后的意图相连。这些都可以说是AI具体的应用场景。

但是，随着号称AI+教育的公司越来越多，我们不可回避一个问题：到底什么才是真正的AI+教育企业？

人工智能和认知科学背景的 KP Thai 博士表示，有没有运用深度学习、机器学习算法等，是作为判断一个是否为经典 AI 企业的一些标准。如果运用到教育领域的话，则需要通过机器学习、数据等方式，去判断学生的需求、对知识的理解程度，然后机器再基于此，给出学生明智的指导建议。也可以像通过 AI 算法，给学生提供适当其个性的学习路径等。

除了技术给学生提供帮助之外，硅谷洞察在《2018年AI+教育美国创投趋势报告》中也指出，从服务对象来看，AI+教育的初创公司面向教师的比例也很高，比如硅谷一家初创公司Gradescope就使用AI技术帮助教师打分，为教师节省时间。

其次，AI+教育类的初创公司还包括像协助学校管理、为教育信息化企业提供AI模块（toB类型）的公司等。

AI+教育时代：收集数据的伦理问题

教育的接受者，很多时候并非成年人。因此，这是否会使伦理问题对于教育科技行业来说更为关键。倪松提出，硅谷洞察非常关注这个议题，因为孩童并没有能力对于自己的哪些数据应该被搜集和分析做出决策，尤其是幼儿园、小学阶段。那么一旦这种情况出现时，谁来决定到底孩子的什么数据被送给机器去分析呢？

首先，这个现象已经开始出现。正如芥末堆合伙人 Sophie Chen 所分享，如今在中国，已有远程教学课堂应用面部识别技术，辨别哪些学生是快乐的，哪些学生是认真的、分心的等等。

（图片来自杭州某学校的智慧课堂行为管理系统，可以识别学生的面部情绪）

而目前真正缺失的是，数据的获取和运用没有透明性，根本不知道身边这些 AI 到底都在做什么。KP Thai 博士认为，从长远来看，这种现状将是无法被公众接受的，也将潜在制造很多问题。

IEEE 标准委员会副主席、弗吉尼亚理工大学公共行政与政策中心（CPAP）教授 Sara Jordan 博士也分享到，远程教学也在香港大学、澳门、深圳等一些高校中加以运用。

（左二为Sara Jordan博士，Panel现场，图自Angela Shen）

如果成人以某种方式在收集学生的数据，但学生们却没有办法阻止，这便产生了伦理问题。如果真的要收集儿童数据，就应该关注这些数据是否对他们有一个长时间的影响，是否未来会影响他们做其他决定的能力。

谁来监管学生数据？中美都有待加强

既然存在透明度、数据现金化等可能存在并引发道德问题的现象，中美两国政府在这一块有什么作为呢？

Sara Jordan 博士指出，遗憾的是，即使是美国，也没有专门机构会对教育数据的收集进行监管，不像医疗数据的监管有 FDA（美国食品药品监督管理局）这样明确的监管机构来进行。

不过，硅谷洞察发现，尽管美国当前没有专门的机构进行监管，但是从2013年起，美国39个州颁布了120多项法律，规范学校及其服务提供者如何收集、使用和保护学生数据。这些法律大多涵盖小学、初中和高中学生信息的收集。其中也有 35 项法律规定了私立和公立高等教育机构如何使用学生数据。

（数据来自The Education Privacy Resource Center，版权属于原作者）

在这些法律中，仅有4项法律禁止学院出售学生信息或向学生索取社交媒体帐户信息。禁止出售，也就意味着学生的信息将无法被用来赚钱。硅谷所在的加州也是其中一个立法州。

加州在 2014 年通过的这条州法显示，禁止 K-12 网站/应用程序供应商出于教育目的以外的任何目的使用、共享、披露或编译学生信息并改进其服务；如果学校或学区要求他们不能出售信息的话，还必须删除信息。这里面对信息的定义，就包括生物信息（biometric information）。但此条法案仅针对 K-12 阶段。学前阶段，以及高等教育阶段不涵盖在内。

也就是说，美国现今的法律系统有开始围绕学生数据方面进行立法保护，但是，监管机构的缺失问题依旧存在。Thai 博士认为，美国政府对 AI 的关注太少了，因为美国盛行的还是自由市场思维，对AI没有足够的注意力。

那么在中国呢？中国在AI时代对学生数据的监管同样有待提高。

今年1月2日，教育部官网公布《关于严禁有害APP进入中小学校园的通知》，学习类App中色情暴力、网络游戏、商业广告、抄作业、搞题海、公布成绩排名等行为，遭到教育部严令禁止。学校与教育主管部门将建立“双审查”的监督制度，进入中小学的教育类App必须受到严格审查。

但是，围绕面部识别等搜集的学生数据可能存在的泄露和监管问题，当前最主要的还是《消费者权益保护法》、《未成年人保护法》以及《网络安全法》等通用型的法律在监管，并没有专门法律。

曾在国内有着丰富田野调查经验的哥伦比亚大学教师 Henan Cheng 博士认为，中国当前尚未形成足够的公众意识，即自己有权利来保护自己的数据的意识。Cheng 博士回忆，曾在调查时希望所有受访者都要签署同意书，享有知情权，但受访者甚至不觉得需要签署同意书。

“政府需要投入努力，让公众这样意识到这样的权利”，Cheng 博士表示。

回归本源，Cheng 博士认为，教育者也需要思考，因为当教育者需要使用某些技术时，就应该思考为什么要设计这个工具，到底真正想要学生从中学到什么，避免设计出来的产品被用在错误的地方。

专家建议：关注教育内容进步而非技术

讨论最后，倪松希望各位嘉宾预测一下，在这样的技术背景下，五年后中国教育市场会发生何种变化，会取得何种进步。

（右一为硅谷洞察合伙人倪松发言，图自硅谷洞察）

芥末堆合伙人 Sophie Chen 认为，过去五年一个明显趋势是：从线下变成线上。未来三五年的话，更多的学习行为会变成线上进行，那就意味着数据可以被收集，机器会做出更多有条理的分析，从而给出学生更多积极的建议。

KP Thai 博士则认为，如今教育科技在整个教育市场大概所占比例是10%左右。预计五年内，会有更多针对学生个性化能力的指导、提升的工具。但她也一再强调，科技只是一个工具，无论 AI 多好，都要关注学习的内容，因为这才是教育的根本。因此 Thai 博士希望，会有更多关于教育内容本身方面 —— 比如教育方法 —— 的进步，而不仅仅是 AI 技术的进步。

你觉得上述话题中，哪些最值得我们重视？读者里的爹妈们，关于孩子的教育，你们最关心什么？最希望 AI 在哪些方面能帮你们的孩子？欢迎大家留言讨论。

近期，硅谷洞察会呈现更多教育领域的优质独家内容，如果你想了解更多教育趋势洞察、或更多相关活动预告，欢迎感兴趣的读者在留言处留下你们的 email、名字，及工作单位（选填），我们会定向向您推送。

对教育话题感兴趣？欢迎点击硅谷洞察此前相关教育文章：

美国顶尖 AI+教育公司，都在研究些什么？

中美教育科技大碰撞：AI+教育是否会改变教育核心？

斯坦福开设AI法律课，人工智能能否成为法律主体？

2019美国教育科技市场预测：大量输家，少量赢家|行业洞察

（本文头图来自网络，版权属于原作者）