对“人工智能+教育”应持审慎态度
人脸识别进校园引发争议实时监控或让学生变戏精
专家认为—— ● 人脸识别进校园，既有数据安全也有个人隐私问题，包含学生的个人信息要非常谨慎，能不采集就不采集，能少采集就少采集，尤其涉及个人生物信息的。 ● 网络安全法规定，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。 ● 表情监控在某种程度上侵犯了学生的尊严，也是对学生自主学习能力和教师授课能力的不信任。学生长期在监控环境下学习、成长，容易养成“表演性人格”。
随着人工智能不断发展，人脸识别技术被越来越多地应用于校园中。
据了解，一所知名大学2019级新生“刷脸”就能瞬间完成报到程序，系统是这所学校的学生研发的，学生对着摄像头，人脸识别系统就开始进行比对，眨眼间就能完成扫描，整个报到注册手续几乎不到一秒钟。此外，通过人脸识别还可以对学生进行考勤，以及实时观察学生的上课状况等。
对此，教育部科学技术司司长雷朝滋认为，“（对于人脸识别技术应用）我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。教育部已经开始关注这个事情，组织专家论证研究”。
雷朝滋还说，人脸识别进校园，既有数据安全问题，也有个人隐私问题，“包含学生的个人信息都要非常谨慎，能不采集就不采集，能少采集就少采集，尤其涉及个人生物信息的”。
人脸识别进校园究竟会有哪些利弊？《法制日报》记者对此进行了采访。
实时监控课堂表现 老师学生压力增大 近日，中国药科大学试水“人脸识别进课堂”，在校门口、学生宿舍、图书馆及部分教室等场所安装人脸识别系统。这个系统除了能自动识别学生的出勤情况外，还能识别出学生是否认真听讲，课堂上抬头低头了几次，低头是否在玩手机，是否闭眼打瞌睡等。有网友认为，这样的系统在校园广泛应用或涉嫌“侵犯隐私”。
据了解，早在2015年，国内一所知名高校就曾在高校信息化建设中首次引入人脸识别技术。近年来，有些地方的初中出于“提升校园安全”考虑，在校园门口安装人脸识别考勤系统。
“现在是互联网科技时代，到处都讲‘互联网+教育’,这是教育的创新，我们也很乐意看到新技术的应用能给教育行业带来新的生机。”一位从教近10年的高中老师杨妮(化名)对《法制日报》记者说。
“初、高中学生上课自觉性比较差，需要老师的督促，如果上课期间需要老师不停地维持课堂纪律，那么课堂质量就会有所降低。而且传统的点名方式浪费时间，准确率也不高。从这个方面来说，在教室安装人脸识别系统确实能帮助老师维持课堂的秩序，从而专心把精力放在对课堂内容的把控上，很大程度上提高了课堂效率。”杨妮说。
杨妮认为，尽管人脸识别系统能给教学带来一些好处，但是如果老师和学生长期处于人工智能的“监视”之下，有可能会适得其反。一旦学生意识到自己处于监控状态之下，那他们在课堂中的表现就必然是失真的，老师们无法得到真实的教学反馈，也不能准确了解学生们的兴趣点和对知识的掌握情况。
“对于老师而言，在监控之下教学，难免会出现迎合的心态，无法完全放开自主发挥。老师们把课堂教学变成表演，学生们也在表演，长此以往，教学效果就会不断降低。”杨妮说。
西安一名大学生陈霖(化名)告诉《法制日报》记者，没有哪个学生会喜欢这种上课方式。“这就像是有人在一直监视你，没有人会喜欢被监视。对于类似的系统，我们肯定是比较抵触的，如果强制安装，那只会让大家的逆反心理更重，根本达不到提高课堂质量的效果，学习关键还是要靠自觉。”
陈霖就读的大学目前已经开始通过人脸识别进行考勤，出入宿舍也会有人脸识别。
“这些都是出于安全考虑，我们可以理解，但如果人脸识别真的推广到教室里，连大家的细微表情都能监控，那就有点可怕了。”陈霖说。
人脸识别侵犯隐私 教育创新尊重学生
据中国药科大学图书与信息中心有关负责人介绍，目前学校在两间教室试点安装的人脸识别系统，除了自动识别学生出勤情况外，学生是否认真听讲，课堂上是否抬头低头，低头是否在玩手机，是否闭眼打瞌睡，都逃不过系统的“法眼”。
上述人脸识别系统引起关注后不久，该人脸识别系统的开发企业回应称，该图为技术场景化概念演示。针对网友热议的隐私保护等问题，这家开发企业称，在人工智能技术的各种场景中，会坚持正当性、数据隐私保护等核心原则，接受社会的广泛建议和监督。
中国传媒大学法律系主任郑宁认为，人脸识别系统在校园推广确实有侵犯学生隐私的可能性。人脸属于个人生物信息，而且属于可以识别的个人信息，一旦被泄露或被不法分子利用，风险远远高于其他信息。
郑宁说，网络安全法中提到，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定和与用户的约定，处理其保存的个人信息。民法总则也明确提出，自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的，应当依法取得并确保信息安全，不得非法收集、使用、加工、传输他人个人信息，不得非法买卖、提供或者公开他人个人信息。
郑宁认为，人格尊严是法律规定的人的基本权利，表情监控在某种程度上侵犯了学生的尊严，也是对学生自主学习能力和教师授课能力的不信任。
“作为一线教师，我认为，靠人脸识别系统对学生进行表情监控来提高课堂效率，既不合法，也不合理。提高课堂效率，归根到底，还是要靠先进的教学理念和教学方式、丰富生动的教学内容。”郑宁说。
21世纪教育研究院副院长熊丙奇告诉《法制日报》记者，去年，某中学使用“黑科技”打造“智慧教室”，对学生进行表情监控，以提高课堂教学效率，舆论对此普遍质疑，认为此举不尊重学生的人格权利，侵犯学生隐私。学生长期在监控环境下学习、成长，容易养成“表演性人格”。因此，对这种所谓的技术创新应该持十分慎重的态度。
熊丙奇还认为，在资本逐利和学校提高教学效果的双重驱动下，一些企业开发并推广这种以监控学生上课表情、行为的人工智能系统，也有一些学校采用这样的系统，并以使用后的效果，诸如学生上课更投入，老师管理学生更方便，学生成绩提升以及学生间、师生间的冲突与纠纷减少，来论证采用这一系统的科学性、合理性。
“现代科学技术当然可以用于教育教学中，但需要首先分辨清楚教育是什么。很显然，在教室里安装监控，全天无休地对着学生，适时采集学生的表情、动作，这种做法的反教育性质比较明显，但却得到个别教育管理者和学校的认可。这是因为有的教育者和办学者忽略了教育的本质，只是考虑怎么管理方便以及怎样提高成绩。”熊丙奇说，学校是育人的地方，必须帮助学生健康成长，所有的教育创新必须以尊重学生的人格为基本出发点。
新技术推广须谨慎 教育不能偏离正轨
另据了解，除了中国药科大学之外，某小学也在使用同一套系统。这套系统运用在姿态评估、表情识别、语言识别、教师轨迹热力分析等方面，可以捕捉到学生在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为，或者快速奔跑、摔跤、打架、拥挤等危险动作。
郑宁认为，在学校推广人脸识别技术要特别慎重。一些学校启用人脸识别进出校门，作为校园安全管理措施，有其正当性，但应该向师生明示收集、使用个人信息的目的、方式、范围，并取得他们的授权，并且建立完善的个人信息安全保护措施，防止相关信息泄露或被不法分子利用，否则要承担相应的法律责任。在课堂里利用人脸识别进行表情监控，除非经过学生明确授权，否则应当禁止。
在熊丙奇看来，教室里可以安装监控，但应该只在两种情况下使用，一是在考试时监控考场秩序，二是在获得教师和学生同意的情况下，直播课堂教学，与其他学校、课堂共享教育资源。如果一直使用监控，盯着学生和教师的上课情况，会让整个教学活动变为表演，对学生的人格成长产生很大的负面影响。
“也有人说安装监控系统，便于教师管理学生，但其实在监控体系之下，教师也是被管理对象，长期使用监控系统，对教师的职业化、专业化发展也会有很大的负面影响，教师上课就依靠智能系统的‘反馈’，告诉教师哪个学生不认真，哪个学生不专注，这是技术识别的结果。离开了技术手段，老师还会教学吗？教育是有情感和灵魂的事业，无节制地使用人脸识别等技术，会把教育变得没有灵魂和情感，那还不如使用教育机器人。”熊丙奇说。
熊丙奇认为，要让教育创新符合教育规律，应该由教师委员会和学术委员会进行论证，并广泛听取教师和学生的意见，不能由少数人决定。在资本驱动下，某些企业倾向于对一些教育领域的新概念进行炒作，某些学校会因此变得急功近利，让“人工智能+教育”的路越走越偏，因此需要及时正本清源、回归正道。（来源：法制日报）
随着各地智慧校园建设的推进，很多学校都纷纷上马人脸识别系统——报到注册、进出学校、出入宿舍以及图书馆，食堂点餐买饭等诸多场景下都可以刷脸解决，校园一卡通变身校园一脸通，给学生日常生活以及校园安全管理带来了诸多便利。而今年九月初中国药科大学在部分教室“试水”安装人脸识别系统用于日常考勤和课堂纪律管理的新闻，却引爆社交媒体，网友纷纷留言表示“可怕”、“没必要”；很快教育部科学技术司司长雷朝滋就对人脸识别技术应用发表意见“我们要加以限制和管理，现在我们希望学校非常慎重地使用这些技术软件”。新闻虽已过去但关于人脸识别进校园乃至“人工智能+教育”的思考和讨论余波未消，在刚刚过去的一周里又引起了多方共议。讨论最多的，是类似人脸识别这类新技术进入教育行业对老师、学生以及教育本身可能带来的问题。光明网在《人脸识别进校园，当谨慎》中表示“当技术触角深入个体的生活之中，必须划定严格的边界。类似人脸识别这种监控技术，使用时应当紧贴着底线需求”，并强调“对技术不可误用，对教育不要误解。教育更需要的恐怕还是春风化雨的耐心与定力，而不是一两项高效‘管’住学生的黑科技。”法制日报《人脸识别进校园引争议 “人工智能+教育”应审慎》一文中从“实时监控课堂表现，老师学生压力增大”、“人脸识别侵犯隐私，教育创新尊重学生”、“新技术推广需谨慎，教育不能偏离正轨”三个方面来反思这一事件。此前北京青年报的《人脸识别技术不能用来“捆绑”学生》一文中也有类似表述，“经济条件和技术条件的改变应激活课堂活力，而不是用来捆绑和约束学生们”，而“让信息技术助力教学变革，让技术手段赋予课堂教学更多的改变，只有打造更多‘金课’，才能赢得学生们的喜爱”。公众号“中青在线”聚焦电子监控设备在一些校园的使用中引发的关于“监控的边界与尺度问题”发表《教师背后的“眼睛”并不是越多越好》一文，文章指出“各式各样的高科技，确实能够替代人工实现原本难以做到的管理。然而，技术终究是‘冰冷’的，更不能违背合理的人性诉求。离开了信任，空有看似严苛的管理，课堂很可能变得死气沉沉。”AI+教育的作用不能被夸大，而我们更需要警惕技术背后的资本力量，中国青年报在《AI+教育不能做什么？》一文中直视大量资本涌入依托信息技术进行创新型教学的领域背后过热和虚高的现实，提醒注意智能教育领域存在的诸多“忽悠”，而我们需要警惕资本驱动下的“应试技术”泛滥。在《中国民办教育产业发展报告（2019）》中，一位作者表示“对投资人而言，如果想让教育行业有好的发展，投资行为应该更严肃，在盈利的前提下还必须要考虑公德，甚至对创业者要有更苛刻的人品上的要求”。争议不断，关于数据立法的思考也被提及，法制日报就曾在头版刊登文章《人脸识别已进校园数据立法还有多远》来讨论这一问题，相比广为公众关注的隐私安全问题，我国法律法规在数据安全方面还相对空白，“如何确保数据安全，特别是如何确保数据不被滥用、不用于危害国家、集体和个人的利益，同样是值得重视的法律问题”。其实关于人脸识别技术与数据伦理的思考早已开始，公众号“人工智能伦理”在今年四月份的原创文章《玛娜数据伦理评论(No.5)：人脸识别技术且行且珍惜》中写到“任何技术都是风险和机遇的双刃剑，人脸识别技术也是一样。我们既要对其充满信心，用开放包容的态度看待其中不尽完善的地方，也要保持理性审慎的姿态，加快建立健全人脸识别技术使用统一标准，对人脸识别技术应用的场景和范围做出合理规定，制定和遵循伦理法律规范，使人脸识别技术更好地为人们生活服务”。除了对现状的关心，我们还需要更长远的眼光来考虑AI技术可能给人带来的异化和矛盾。中国青年报《校园拒绝摄像头》一文认为“更令人害怕的是，在人脸识别技术无孔不入地延伸后，人类只会变成一台台监控摄像头下流水线上的冰冷机器，或者擅长使用肢体和表情掩饰情感的‘戏精’，而在这背后，是人们关于让渡安全还是让渡隐私的矛盾”。讨论还在继续，AI技术的行业内自律意识也在逐步建立，但我们做的似乎还是不够。10月11日澎湃评论就此发表深观察《该对“人脸识别进校园”浇点凉水了》，文章用行政比例原则的思路分析了人脸识别技术在教学应用中的利弊后表示“人脸识别应用于课堂，并无必要性，也无合理性，甚至有违法嫌疑”。面对中外技术公司开始重视人工智能技术伦理问题，纷纷加强行业自律的现实，文章指出“行业内部的自律，是需要外部社会推动的，遗憾的是，相比欧美社会，某种程度上，中国人对这方面思考得实在太少了”。（澎湃新闻）
