被AI“监控”的孩子：保护安全还是侵犯隐私？爱尔兰的做法给我们敲响了警钟

　　原标题：被AI“监控”的孩子：保护安全还是侵犯隐私？爱尔兰的做法给我们敲响了警钟

　　文 水滴

　　两个孩子的妈妈，青少年心理咨询师

　　少年商学院国际教育专栏作者

　　9月新学期刚开始没几天，南京某大学上了热搜。因为率先在校内试点安装人脸识别技术，继而在采集学生数据和是否侵犯学生隐私的问题上引发了人们的关注和热议。

　　面对此事，近日教育部科学技术司司长雷朝滋，在接受某新闻媒体采访时表示：学校要谨慎使用人脸识别技术。雷司长的话一锤定音，表明了教育部门对此技术的谨慎态度。

　　当然，谨慎操作不代表不发展。任何一个新技术刚刚降临时，都会面对质疑和支持两种态度。现在谁离得开汽车、电脑？我们又为什么要决绝地阻挡人工智能的普及呢？何况，我们阻挡得了么？

　　面对“来势汹汹”的人脸识别技术，我们真正该关注的焦点是，技术为谁所用，使用的目的和使用的手段。技术是无辜的，作为技术使用者的人，“有所为，有所不为”方是问题的根本。

　　对比国外学校在人脸识别技术上的差别，今天我和大家大概说说，为什么人脸识别技术在学校使用要谨慎操作？

　　人脸识别技术用于学校时必须得谨慎

　　在美国，近几年来人脸识别技术得以在部分学校进行试点。随后，因技术和伦理道德上的考虑，并基于巨大的社会压力，被一一叫停。有某州政府今年初已经立法禁止人脸识别技术在该州学校使用：除非得到学生、家长和教育部门的同意，否则人脸识别技术不得在校园推广——这是来自美国的“谨慎”。

　　在澳洲，人脸识别技术公司looplearn得到了政府的资金支持，可以在学校使用人脸识别技术，在这些学校，人脸识别技术主要用于老师点名，了解学生出勤情况。但是这个看起来“单一”的功能依然因为其具有明显的商业前景，引发了人们的担忧和反对。

　　另外有研究者担心：因为在识别技术上尚不成熟，在区分有色人种时人脸识别技术会花更多的时间，并有可能错认，从而引发新的“种族歧视”问题——因为相较于有色人种，白人更容易被识别。

　　而在欧洲，欧盟成员国正在积极地寻求人脸识别技术上的新规定。不知道是不是爱遵守规定的缘故，前不久瑞典有关部门刚刚处罚了一个高中19000欧元。因为该校在去年未经学生的同意就采集了22名学生的脸部信息。欧洲媒体在报道此事时，“夸张”地运用了“难以置信”学校的违法行为和当局处罚实在“轻微”等字眼，理由是按照该法条，最高的罚款额可是100万欧元呐！

　　我所处的爱尔兰，虽然有着欧洲硅谷的美誉，人脸识别技术在爱尔兰的学校存在可几乎是0。至于为什么说是“几乎”呢？因为在学生使用的智能手机里，比如说像FACEBOOK这些app里还是有人脸识别技术的，欧盟一直在试图控制这些社交软件对隐私的侵犯。

　　当然，智能手机里的人脸识别技术是另外一个话题了，我们今天讨论的是，在学校使用人脸识别是否会侵害孩子们的隐私？

　　在爱尔兰学校

　　孩子的形象信息需家长授权

　　孩子有隐私么？不好意思，我说了一个伪命题。因为但凡是人就都有隐私。在爱尔兰，当一个孩子进入幼儿园、学校时，家长都会被提示隐私安全和网络安全。比如我女儿在幼儿园和夏令营参加活动时，校方会让父母授权是否可以拍摄孩子。

　　刚开始老母亲对此很不适应，心想：不就“喀嚓”一个照片么？可是后来想，这个照片拍了是为啥呢？无疑是用在商业用途上，比如广告等。那作为这些小小肖像所有权人的监护人，家长当然需要知情并做出决定。学校得到家长的许可，才可以合理使用这些照片。如果你不同意，也没关系，学校会避免采集孩子的形象。

　　一句话，爱尔兰学校里孩子们的私人形象，如果学校想“有所为“一定是要有授权、有依据的。

　　用人脸识别技术监控孩子的行为

　　难以反映真实的学习效果

　　过度使用人脸识别技术会让家长担心：我的孩子需要的是同理心和爱，请不要随意刺探，还把他们当机器哟！

　　在美国或者澳洲学校推行人脸识别试验时，支持方的理由是：

　　1. 帮助校方排除可能危及学生安全的人员入校，比如已被开除的不良学生或罪犯等。尤其在全球恐怖袭击连连的西方世界，说这个理由似乎可以很大程度上安抚父母的担心；

　　2. 帮助老师管理大课堂，节省时间，提高管理效率。如果一个班级人数众多，老师是没可能用传统的方式点名的，人脸识别技术无疑大大节省了人力。

　　而反对方的理由则十分的“情怀牌”：孩子不是机器，应该被当人来看。

　　在澳洲人脸识别新闻的评论中，有网友就表示，这项技术一旦不加节制地推行，将是政客乐于见到的“政绩”，也是产品公司巴不得的巨大商业利益。可是对于家长而言，除了干巴巴地知道自己的孩子是否出勤、是否听课外，什么也得不到。

　　因为孩子在这些行为背后的原因是什么？这是AI无法告诉你的事。而一旦，有朝一日，当整个教育系统都把“行为”作为评判学生好坏的唯一标准时，那么他们的内心又有谁会去费劲儿了解呢？

　　现在国内学校试点的人脸识别技术，把孩子们低几次头，是否在看手机，走神等作为是否专心听课的标准。这实际上已经远远超过了欧美国家对于人脸识别技术使用的界限和想象：如果说人脸识别技术最早是为了公共安全的需要，那把低头、小动作作为听课指标的运用则显得刻板、生硬且单一，确实有把人当机器之嫌。

　　近日，当我和我的邻居，爱尔兰一家专门负责学校软硬件技术支持的公司COO聊到人脸技术时，他表示，人脸技术用来管理课堂确实是高效的。但是如果把学生打瞌睡、低头等也作为指标是无意义的，因为这些指标不会告诉你孩子的真实情况，至少无法真实反映孩子的学习效果，也无法反映那些需要长期跟踪才可以看到的结果。

　　而当我“腹黑”地表示，也许老师会用这些“开小差”的证据来批评学生时，他耸耸肩表示：如果仅仅用这个监视学生还批评学生，那他就是坏老师！这个评价倒是很简单粗暴，不知道同样简单地用低头次数、面部表情来判断孩子的人怎么想？

　　采集信息的规则应当是双边的