被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟 | 少年商学院

被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟

被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
文 | 水滴
两个孩子的妈妈,青少年心理咨询师
少年商学院国际教育专栏作者
9月新学期刚开始没几天,南京某大学上了热搜。因为率先在校内试点安装人脸识别技术,继而在采集学生数据和是否侵犯学生隐私的问题上引发了人们的关注和热议。
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
面对此事,近日教育部科学技术司司长雷朝滋,在接受某新闻媒体采访时表示:学校要谨慎使用人脸识别技术。雷司长的话一锤定音,表明了教育部门对此技术的谨慎态度。
当然,谨慎操作不代表不发展。任何一个新技术刚刚降临时,都会面对质疑和支持两种态度。现在谁离得开汽车、电脑?我们又为什么要决绝地阻挡人工智能的普及呢?何况,我们阻挡得了么?
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
面对“来势汹汹”的人脸识别技术,我们真正该关注的焦点是,技术为谁所用,使用的目的和使用的手段。技术是无辜的,作为技术使用者的人,“有所为,有所不为”方是问题的根本。
 
对比国外学校在人脸识别技术上的差别,今天我和大家大概说说,为什么人脸识别技术在学校使用要谨慎操作?
 
人脸识别技术用于学校时必须得谨慎
在美国,近几年来人脸识别技术得以在部分学校进行试点。随后,因技术和伦理道德上的考虑,并基于巨大的社会压力,被一一叫停。有某州政府今年初已经立法禁止人脸识别技术在该州学校使用:除非得到学生、家长和教育部门的同意,否则人脸识别技术不得在校园推广——这是来自美国的“谨慎”
 
在澳洲,人脸识别技术公司looplearn得到了政府的资金支持,可以在学校使用人脸识别技术,在这些学校,人脸识别技术主要用于老师点名,了解学生出勤情况。但是这个看起来“单一”的功能依然因为其具有明显的商业前景,引发了人们的担忧和反对
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
另外有研究者担心:因为在识别技术上尚不成熟,在区分有色人种时人脸识别技术会花更多的时间,并有可能错认,从而引发新的“种族歧视”问题——因为相较于有色人种,白人更容易被识别。
 
而在欧洲,欧盟成员国正在积极地寻求人脸识别技术上的新规定。不知道是不是爱遵守规定的缘故,前不久瑞典有关部门刚刚处罚了一个高中19000欧元。因为该校在去年未经学生的同意就采集了22名学生的脸部信息。欧洲媒体在报道此事时,“夸张”地运用了“难以置信”学校的违法行为和当局处罚实在“轻微”等字眼,理由是按照该法条,最高的罚款额可是100万欧元呐!
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
我所处的爱尔兰,虽然有着欧洲硅谷的美誉,人脸识别技术在爱尔兰的学校存在可几乎是0。至于为什么说是“几乎”呢?因为在学生使用的智能手机里,比如说像FACEBOOK这些app里还是有人脸识别技术的,欧盟一直在试图控制这些社交软件对隐私的侵犯
当然,智能手机里的人脸识别技术是另外一个话题了,我们今天讨论的是,在学校使用人脸识别是否会侵害孩子们的隐私?
 
在爱尔兰学校
孩子的形象信息需家长授权
孩子有隐私么?不好意思,我说了一个伪命题。因为但凡是人就都有隐私。在爱尔兰,当一个孩子进入幼儿园、学校时,家长都会被提示隐私安全和网络安全。比如我女儿在幼儿园和夏令营参加活动时,校方会让父母授权是否可以拍摄孩子。
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
刚开始老母亲对此很不适应,心想:不就“喀嚓”一个照片么?可是后来想,这个照片拍了是为啥呢?无疑是用在商业用途上,比如广告等。那作为这些小小肖像所有权人的监护人,家长当然需要知情并做出决定。学校得到家长的许可,才可以合理使用这些照片。如果你不同意,也没关系,学校会避免采集孩子的形象。
 
一句话,爱尔兰学校里孩子们的私人形象,如果学校想“有所为“一定是要有授权、有依据的
 
用人脸识别技术监控孩子的行为
难以反映真实的学习效果
过度使用人脸识别技术会让家长担心:我的孩子需要的是同理心和爱,请不要随意刺探,还把他们当机器哟!
在美国或者澳洲学校推行人脸识别试验时,支持方的理由是:
1. 帮助校方排除可能危及学生安全的人员入校,比如已被开除的不良学生或罪犯等。尤其在全球恐怖袭击连连的西方世界,说这个理由似乎可以很大程度上安抚父母的担心;
2. 帮助老师管理大课堂,节省时间,提高管理效率。如果一个班级人数众多,老师是没可能用传统的方式点名的,人脸识别技术无疑大大节省了人力。
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
而反对方的理由则十分的“情怀牌”:孩子不是机器,应该被当人来看
在澳洲人脸识别新闻的评论中,有网友就表示,这项技术一旦不加节制地推行,将是政客乐于见到的“政绩”,也是产品公司巴不得的巨大商业利益。可是对于家长而言,除了干巴巴地知道自己的孩子是否出勤、是否听课外,什么也得不到。
 
因为孩子在这些行为背后的原因是什么?这是AI无法告诉你的事。而一旦,有朝一日,当整个教育系统都把“行为”作为评判学生好坏的唯一标准时,那么他们的内心又有谁会去费劲儿了解呢?
 
现在国内学校试点的人脸识别技术,把孩子们低几次头,是否在看手机,走神等作为是否专心听课的标准。这实际上已经远远超过了欧美国家对于人脸识别技术使用的界限和想象:如果说人脸识别技术最早是为了公共安全的需要,那把低头、小动作作为听课指标的运用则显得刻板、生硬且单一,确实有把人当机器之嫌。
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
近日,当我和我的邻居,爱尔兰一家专门负责学校软硬件技术支持的公司COO聊到人脸技术时,他表示,人脸技术用来管理课堂确实是高效的。但是如果把学生打瞌睡、低头等也作为指标是无意义的,因为这些指标不会告诉你孩子的真实情况,至少无法真实反映孩子的学习效果,也无法反映那些需要长期跟踪才可以看到的结果
而当我“腹黑”地表示,也许老师会用这些“开小差”的证据来批评学生时,他耸耸肩表示:如果仅仅用这个监视学生还批评学生,那他就是坏老师!这个评价倒是很简单粗暴,不知道同样简单地用低头次数、面部表情来判断孩子的人怎么想?
 
采集信息的规则应当是双边的
在人脸识别上,用途、具体方式、信息保护等都应当是建立在采集方和被采集方平权的基础上。
 
而在本次事件中,该南京高校的发言人则表示,因为学校是公共场合,同时采集信息也可以作为改善教学质量的依据,所以学校采集信息不属于侵犯隐私。
 
且不说同样是公众场合,在大街上你也不能随意拍摄他人。再说,你用拍学生走神的方式来判断老师的教学质量,这个方式得到学生同意了么?老师认可么?
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
难道说,改善教学质量就真的没有效率更高、更本质、更经济、更安全的方式了么?现在不是花钱安设备就完了。后面的维护,以及被采集的信息如何管理,是否定期销毁?校方是否跟进考虑了呢?
想到此不由得感叹亏好自己生得早,否则自己当年在上“大学生修养” 之类的课时,低头打个瞌睡的行为,放到现在被记录了,都有可能要跟着我一辈子,那真是恐怖的事情……
有所为,有所不为
说到底是责任和界限的问题
现在很多家长都知道,面对自己生养的骨肉要慎言“为你好”三个字。学校何尝不该如此?如果学校真的认为学习是学生的责任,那么就把这份责任交还给学生。旷课次数多了,学校可以依法处理,这才是学校的责任
 
我刚来爱尔兰的第一年圣诞节放假,我带孩子回国度假。因为返程时,遇国内大雪航班延误,我索性向学校多请了几周假期。结果学校在准假后,又给我寄了信表示,因为我们请假过多,导致孩子缺课超过了教育部门规定的比例,所以他们必须向上级反映,同时让我做好有可能向该部门解释的准备。
 
孩子学校这种“大惊小怪”的做法其实还挺让我理解的,因为这是他们保护未成年人受教育权利的证明。家长是否注重孩子的出勤率学校虽然管不着,但是当学生出勤率出现问题时,学校可以依法启动相关程序。这是学校的“有所为”——不用家访,不用约谈,不用晓之以情动之以理的苦口婆心说“为你好”,只按章办事,尊重了彼此,也尽到了本分。
 
被AI“监控”的孩子:保护安全还是侵犯隐私?爱尔兰的做法给我们敲响了警钟
而在大学,面对已经成人的学生子,若他们无心向学,我们的学校还要用人脸识别技术“留得住人,留不住心”,这是何必,又是何苦呢?毕竟该读书的时候不读书,受损的是自己。
 
最后我想说个恐怖故事,那时我儿子几年前刚在国内读一年级的时候有天和我说的:“妈妈,老师今天在课上对我们说,我们一出生,爸爸妈妈就放了一枚爱的芯片到我们身上。这样一来,即使不在你们身边,你们也可以随时随地看到我们。所以我们表现得要好,不能犯错误,因为你们都看得到!”
 
恐怖么?这份恐怖不是来自于那片尚不存在的芯片,而在于“因爱之名”
 

发表评论

电子邮件地址不会被公开。