美国又跟人脸识别杠上了,AI技术为何永远走不进校园?

   2020-08-16 聪慧网sxxjymy50
核心提示:发表于: 2020年08月16日 21时43分43秒

    2022年之前,纽约禁止在学校中使用任何生物特征识别技术。

    美国跟人脸识别彻底杠上了。

    美国纽约州近日通过了一项法令:2022年之前,禁止在学校中使用人脸识别和其他生物特征识别技术。

    这也将成为全美第一明确规定学校不允许使用该技术的法案。

    据南方都市报报道,这项法案提出的背后,是针对去年发生的一起有关校园AI应用争议的回应。

    2019年5月,纽约州西部城市洛克波特市在全市校园部署人脸识别设备,主要目的是增强学校的安全性。

    洛克波特市学区负责人米歇尔·布拉德利(MichelleBradley)在接受外媒采访时说,“这是让学生、员工和访客更加安全的又一措施”。

    洛克波特市官方信息显示,人脸识别系统将识别学校不允许出现的人员,并在识别到异常情况时发出警报提醒。

    系统重点识别的人员包括二级或三级性犯罪者、被停职的学校员工、法院判决未经批准禁止进入学校的人员、执法部门信息显示会构成威胁的人员等等。

    由于隐私等问题的存在,人脸识别应用在美国向来争议颇多。

    由此,洛克波特市也在纽约州教育厅等部门的监督下反复修改了系统设置,最终决定只让系统记录人员比对的情况,不收集或存储任何信息,学生的照片等信息也不会被添加到系统中。

    另外,根据当地法律要求,监控视频保存60天后将从服务器上删除。

    2020年1月,这一系统在洛克波特市正式投入运营。然而,一些美国民间团体还是认为人脸识别系统太具侵略性,不应在学校这样的场所中部署。

    他们认为,万一系统出现了误报,会给学生带来种种伤害,比如影响学生上课、给学生扣上莫须有的犯罪记录。

    今年6月,纽约公民自由联盟提起诉讼,要求洛克波特市停用该系统。

    这一起诉得到了当地部分官员的支持。

    当地时间6月23日,纽约州议会众议员莫妮卡·华莱士(MonicaWallace)和参议员布莱恩·卡瓦纳(BrianKavanagh)发表联合声明,重申了对隐私问题的担忧:

    “我们担心该技术的使用可能侵犯学生、教职员工和访客的隐私权及其他公民权利。这是一种无效的维护校园安全的形式,并且可能无法安全地存储数据。”

    据悉,目前纽约州参众两院已经投票通过的新禁令。

    接下来,禁令将被提交给纽约州州长安德鲁·库莫(AndrewCuomo)。如果他签字通过,禁令就将成为正式的法律。

    校园装“天眼”

    美国纽约之外,相关应用此前也在中国教室中被另类应用,并引发了一些社会舆论。

    它可以洞察课堂上的一切行为。

    此前,浙江省杭州市某中学课堂上多了一位神奇的新朋友:智慧课堂行为管理系统。

    通过这套系统,校园管理者可以清楚地看清、分辨哪些同学在专注听课,哪些同学在开小差。

    该系统内置三个摄像头,用以捕捉同学们的面部表情和动作,然后进行一系列大数据分析,最终计算出课堂实时考勤数据、课堂专注度偏离分析、课堂行为记录数据以及课堂表情数据,并将结果反馈给校园管理方。

    该校负责人表示,系统每隔30秒就会进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。(其中,仅趴桌子一项为负分行为。)

    若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理及调整。

    据悉,该系统还可与学校医务室等其他后台的数据打通,倘若学生有身体抱恙等突发情况,还可被暂列入“白名单库”。

    换句话说,在这套系统的“加持”下,同学们每天8节课的320分钟,任何行为都可一目了然地得以展示。

    对于该系统的落地、应用,某教育工作者黄老师表示:华而不实。

    “学生有没有开小差,老师在讲桌前可以看得一清二楚。”

    在他看来,如何能将“学”作为主动权紧紧握在学生手中已成教育管理者需要思考的问题。

    学习从来都是一种自主性过程,教育的核心突破不是靠教具形式的升级,学生在课堂的认真程度取决于授课老师的魅力,强行监督只会让很多学生成为“面具人”。

    同时,该系统的应用也遭到了不少网友的痛击:

    暂且避开隐私、伦理等层面不谈,单从技术角度出发,这项技术的落地应用是否真的可行?

    校方称该系统在课堂应用中可以起到两大作用:

    一、课堂实时考勤数据。由于教室学生基数不大;另外教室范围也不大。目前很多人脸识别技术厂商都能够很好满足此项需求,不作详叙。

    二、课堂专注度偏离分析(微表情数据)。

    从系统运行流程来说,它在安装使用后将会进行两步操作:

    一是人脸检测,通过人脸相机检测到同学们的脸部,从而完成第一大点所说的实时考勤;

    二是基于这些人脸数据做实时的深度分析,通过微表情识别来判断学生们是否分神、开小差。

    人脸表情由若干条细微的小肌肉控制,与常见人们发出的较为夸张或者平常的表情不同,微表情持续时间很短、动作幅度很小。

    另外,微表情是一种自发式的表情,在人试图掩盖内在情绪时产生,既无法伪造也无法抑制。

    与其他生物识别技术的研发相比,微表情识别因为太过细微,一直是计算机视觉领域一个具有挑战性的技术难题,该技术的研发门槛较高,技术难点主要体现在三个方面:

    数据收集,这里的数据必须是动态的视频数据;

 
举报收藏 0打赏 0评论 0
 
更多>同类资讯
  • sxxjymy
    加关注0
  • 没有留下签名~~
推荐图文
推荐资讯
点击排行
网站首页  |  用户协议  |  关于我们  |  联系方式  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  浙ICP备16039256号-5  |  浙公网安备 33060302000814号