小学装人脸识别系统,安全隐患引起家长热议(4)

“关键要说清楚,出问题后校方承担什么责任,不是说数据出不出的去,而是一旦泄露后造成损失,谁来承担这个责任。”谈剑锋说,“人脸是生物特征数据,生物特征数据有个特点,不可再生性、唯一性。”这意味着,人脸信息一旦泄露,损失不可逆。

而在郭锐看来,学校和教育这个场景,是保护个人信息很敏感的场景,任何人工智能技术的使用,包括人脸识别在内,都要特别谨慎。任何使用都需家长同意,教育主管部门也要审查使用用途。这些用途如果不是学生和家长一起决定同意的,学校的做法就不妥当。

对学校提及的“该系统还可以对孩子可能存在的推搡、打架等风险进行预警,如密度超标报警、语音提示、远程喊话”这一用途。同时也是全国标准化委员会人工智能总体组社会伦理研究负责人的郭锐认为,如涉及校园霸凌问题,用新的技术能帮助解决这一问题当然是好事。但这背后其实体现的是深层次的矛盾,比如学校是否资源不够,很少的老师要管很多的学生,当然很多地方就管不到。技术当然能弥补资源不足的短板,但把它当做一个完全的解决方案,可能会比较表面,反倒产生这些问题的深层矛盾就不会有更多关注。

“很多霸凌都在摄像头看不到的地方发生,甚至在学校外面发生。有时互相瞪一眼就表明了想要霸凌的意向,但技术无论如何是监控不到的。不去解决深层矛盾,想要依靠一个技术,表面化的把问题解决了,这个做法不可取。”郭锐表示。

也有家长担心,该校提及的人脸识别“智管中心”项目在辅助教学方面的功能,如“电子班牌、课堂人脸点名、巡课督导、考试管理”等,是否意味着学校会用人脸识别系统监控学生课堂表现呢?

对此,郭锐认为家长的担心有其道理,比如小孩上课打瞌睡,其实是整体学习的一部分。要把上课表现这一项拎出来,恐怕是把人当做机器对待。“一个真正的教育者不会这样想问题。这都不能真正帮助教育,而且会侵犯学生隐私,不客气地说这都是外行做法。”

郭锐表示,总的来说,在教育里使用人工智能技术,很多人都想用它来达到一个比较简单、直接、明确的目标。但在教育里,很多需要解决的问题是互相关联的,很少有一些事情是只需解决这一个问题。想要追求用技术解决一个老大难问题,这个思路其实不太对。

(责任编辑:卢其龙 CU002)

为你推荐

查看更多 >