SEARCH
  • 首页
  • 关于我们
  • 成功案例
  • 解决方案
  • 服务中心

新闻中心

NEWS CENTER

随时随地掌控最新动态!

该对“人脸识别进校园”浇点凉水了

互联网科技 / 人脸识别

互联网科技 人脸识别 人工智能 校园 智能校园 国漫科技资讯

2019.10.11

0

big.png

今年开学,许多高校在新生报到期间都引进了人脸识别系统,的确,很多需要繁琐登记的流程,现在只需人脸识别系统便可以轻松完成。但人脸识别的应用并不限于此,一些学校采取姿态评估、表情识别、语言识别、人脸识别技术,对学生上课情况进行监控、识别。学生上课期间讲话、睡觉、玩手机都可以被识别出来,甚至表情发呆,抬头低头了几次,也可以被识别出来,以此来判断学生上课是否认真。


此类事件引发了舆论的广泛争议,一些网友称此举有侵犯学生隐私和尊严之嫌。


对此,9月5日,教育部科学技术司司长雷朝滋在接受采访时说,人脸识别进校园,既有数据安全也有个人隐私问题,“教育部已经开始关注这个事情,正组织专家论证研究。对学生的个人信息要非常谨慎,能不采集就不采,能少采集就少采集”。


教育部的这个表态非常及时。实际上,校园内谨慎使用人脸识别早有不少先例。在瑞典一所高中使用人脸识别系统记录学生的出勤,被认为对学生个人信息的处理不符合欧盟《通用数据保护条例》(GDPR)的规定,监管机构对学校董事会开出金额为 20 万瑞典克朗(约合人民币 14.7 万元)的罚单。今年 9 月,美国洛克波特市一所学校,计划开始使用人脸识别系统,用 140 万美元的政府补助金安装数十个监控摄像头,对潜在罪犯进行监测,但随后被美国教育部叫停。


任何目的都需要手段去达成,但手段与目的之间,并非完全一致,手段有成本,有代价。这个时候就要审视手段和目的之间的关系。


不妨参考一下行政比例原则。行政比例原则是指行政的手段要与行政的目的相适应,兼顾行政目标的实现和相对人权益的保护,如为实现行政目标可能对相对人权益造成某种不利影响时,应使这种不利影响限制在尽可能小的范围和限度内,保持二者处于适度的比例。


简单说,就是当有多种可供选择的手段可以达到目的,应该尽可能采取损害最小、最温和、风险最小的手段,“杀鸡不能用牛刀”。此外,当手段有风险的时候,要进行衡平,只有证明目的大于手段带来的潜在风险,手段才是合理的。比如,瑞典数据监管机构认为,学校统计学生出勤率完全可以通过其他方式完成,而这些方式都比人脸识别技术对学生权益的侵害要小得多。


用这个思路来看人脸识别进学校,结论就非常清楚了。


一方面,学生上课不认真的情况,老师并不是完全无法发现。老师对于学生的平时表现,都是心中有数的,即便有一两次睡觉、或者开小差,老师没发现,也不是什么大事。而且,老师也不可能一边上课,一边看人脸识别的报告。如果当做事后监控,很难想象老师下课后还去回看上课情况。统计性的数表,对老师的意义也不大,因为这些情况在平时都能大概掌握。更何况,进行教学情况事后反馈还有更直接的办法:考试。所以,人脸识别对教学的帮助,非常小,噱头大于实际。


与此同时,在另一方面,表情监控使学生时刻感觉被监视,不仅某种程度上侵犯了学生的尊严,也使得学生长期处于表演的状态,影响心理的健康成长。而且,这种监控很容易扩展到老师。更重要的是,《网络安全法》规定,收集、使用个人信息,需要经被收集者同意,虽然处于强势地位的学校很容易在程序上达成这一点,但很难想象师生会愿意被监控。


从这些角度出发,不难发现人脸识别用于课堂,并无必要性,也无合理性,甚至有违法嫌疑。


考虑到学校对人工智能技术的陌生,这一波人脸识别进校园的潮流,应该是技术公司推动的,是一种技术创造供给,供给创造需求的路径。


微软目前已经悄然删除其最大的公开人脸识别数据库——MS Celeb。MS Celeb数据库2016年建立,微软描述其为世界上最大的公开面部识别数据集,拥有超过1000万张图像,将近10万人的面部信息。这些数据信息被用于培训全球科技公司和军事研究人员使用的面部识别系统。在微软删除该资料库前,已经有多个商业组织在使用MS Celeb数据库,IBM、松下电气、阿里巴巴、辉达、日立、商汤科技、旷视科技均有使用。


微软此次删除人脸数据,最直接的考虑,是担心侵犯公众隐私权。因为微软是通过“知识共享”许可来抓取图像和视频中的人脸信息的,并不一定直接得到了照片与视频中的人物的授权许可。这些人脸所对应的人,有可能指控微软侵权,从而产生法律问题。


但更重要的是,微软删除这个数据库,有其他更深层次的考虑,那就是人脸识别有可能侵犯公民权利。不过,随着人工智能技术的发展,中国的技术公司也开始审视技术的伦理性。


不久前,在深圳召开的全球人工智能创业者大会上,多家高校及人工智能企业联合发起了《新一代人工智能行业自律公约》,旨在增强行业整体自律意识,积极推动人工智能行业的职业道德、伦理等方面的发展,以及科技向善的价值追求。不过,行业内部的自律,是需要外部社会推动的,遗憾的是,相比欧美社会,某种程度上,中国人对这方面思考得实在太少太少。


Contact

TEL:4008-925-996

投诉电话:0571-86710021

FAX:0571-86710021

E-mail:admin@cngmkj.com

ADD:杭州市西湖区西园九路8号数字信息产业园二期G座531

Wechat

摩比推客

聚视云平台

国漫科技