加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

AI 班主任上线监视学生一举一动,网友热议:侵犯隐私

2019/09/05
100
阅读需 31 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

安全、便利不应成为侵犯隐私的借口,何况这个借口还经不起推敲。在不能解决问题之前,也请不要带来更多的问题。当然这不是某一家科技公司的问题,这是整个行业都在“规避”的问题。

趴桌子 2 次,玩手机 2 次,睡觉 1 次,听讲 0 次,阅读 0 次,举手 0 次,笑了 0 次,厌恶表情出现了 10 次,这是南京某高校安装的教室人脸识别系统获取的学生上课数据。也就是说,学生上课期间的一言一行,一个表情、一个眼神都会被识别系统记录下来。

此举引起了网友的热议,大部分网友表示反对,认为这侵犯了学生隐私,不过另一些人却表示支持。而对于是否侵犯隐私,该校领导表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。
 
首先我们来看一下隐私的概念,根据“百度百科”给出的说法,隐私是一种与公共利益、群体利益无关,当事人不愿他人知道或他人不便知道的个人信息,(只能公开于有保密义务的人)当事人不愿他人干涉或他人不便干涉的个人私事,以及当事人不愿他人侵入或他人不便侵入的个人领域。隐私是个人的自然权利。
 
其次,我们再来看一下公共场所的定义,按照我们大众的理解,公众场所应该是可以面向大众开放的场所。而根据根据国务院发布实施的《公共场所卫生管理条例》,我国公共场所共有 7 类 28 种,具体如下:(1)宾馆、饭馆、旅店、招待所、停车场、咖啡馆、酒吧、茶座;(2)公共浴室、理发店、美容厅等;(3)影剧院、录像厅(室)游艺厅(室)、舞厅、音乐厅等;(4)体育场(馆)、游泳场(馆)、公园;(5)展览馆、博物馆、美术馆、图书馆;(6)商场(店)、书店;(7)候诊室、候车室、公共交通工具。教室均不属于以上种类。

隐私换安全

在这张广为流传的图片上,明显印有“MEGVII 旷视”的 LOGO,因此这也被认定是旷视的视觉 AI 系统。

此前,旷视曾对外介绍过视觉 AI 在教育场景中的应用,称“旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机 MegEye-C3V-920 和行为分析服务器中。通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据,从而辅助教学评估评价”。

随着网上的讨伐之声此起彼伏,旷视科技很快便发布了一则正式声明,表示网上出现的图片仅仅是技术场景概念演示,公司在教育领域的产品专注于保护孩子在校园的安全。
 
按照旷视科技的说法,他们的出发点是为了维护校园安全。但是,这种维度的监控显然已经超出了相关范畴。有教育人士表示,如果仅用来辅助教学,用数据来量化考察授课效果,那么这套系统是有意义的。但从反馈的信息来看,这已经变成了对学生行为的监控。如果被滥用于学生管理,甚至将数据共享给家长,对于学生的教育成长可能产生负面效果。当前的数据安全问题还没解决又如何应对新的数据隐患。
 
从教育的层面来看,学生还没有走出校园就已经受到了监控,这其实是教育形式的一种倒退,也是教育管理工作的一种无能的体现。本质上,这与趴在门口、窗边监视学生上课状态的班主任的工作并没有有什么区别,只不过监控的能力成几何倍增长了。

从维护学生安全的角度来看,要解决孩子的人身安全,需要我们去分析他睡了多少次觉,举了多少次手以及瞟了同桌多少眼的问题吗?据有关调查显示,2015-2017 年,我国校园意外伤亡的人数平均每天就有四十多人,事故灾害和社会安全事件占比最大。而在事故灾难中,溺水、落水,交通事故的数量又是最多的。可以看出,真正的校园安全问题大多发生在校外。所以,为了学生的安全,真的有必要在教室安装人脸识别系统吗?

 

 
旷视科技可以通过将学生行为数据化来帮助高校提高教育管理工作的效率,这也是大数据时代数据服务、数据变现一种方式。大数据给我们带来了很大的便利,但你也付出了隐私的代价。微软中国首席技术官韦青在曾表示,目前大数据的发展仍然面临着许多挑战,最重要的是用户隐私的挑战。万物互联的时代,每个人都变成了透明人,安全隐患也随之而来。同时,他还强调,不要随便把小孩的照片传到网上去。
 
从遭受的经济损失来看,根据中国互联网协会发布的《中国网民权益保护调查报告 2016》,我国网民一年间因为垃圾信息、诈骗信息、个人信息泄露等遭受的经济损失达 915 亿元,人均损失 123 元。
 
隐私换便利

前有隐私换便利,后有隐私换安全。2018 年 3 月,百度 CEO 李彦宏曾表示,中国的消费者在隐私保护的前提下,很多时候是愿意以一定的个人数据授权使用,去换取更加便捷的服务。不过,我相信绝大多数人都不喜欢没完没了的垃圾短信和各类推销电话。
 
最近,AI 换脸软件“ZAO”刷爆了朋友圈也同时引发了外界关于隐私安全的探讨,工信部还就“ZAO”App 用户隐私数据安全问题问询约谈陌陌科技。根据 ZAO 最初的用户协议内容中的必要授权协议:用户上传发布内容后,意味着同意授予 ZAO 及其关联公司以及 ZAO 用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,“包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。
 
虽然目前 ZAO 修改了其用户协议内容,在用户协议的开头部分增加了“特别提示”。但这仍不足以打消用户的担忧。

不得不提的欧盟 GDPR

谈到隐私问题,不得不提欧盟的 GDPR 条例。2018 年 5 月,欧盟全面实施了号称史上最严的数据监管条例——GDPR (General Data Protection Regulation,通用数据保护条例 )。而 GDPR 法案的前身是欧盟在 1995 年制定的《计算机数据保护法》。彼时互联网才刚形成雏形,那时候的法律自然跟不上现在的互联网新形势。而随着大数据时代的到来,相关的法律更新也是必然。
 

GDPR 立法时间轴(来源:埃森哲)
 

该条例极为严苛,从数据收集、数据存储、数据处理、数据跨境传输(向欧盟境外的传输)等各个环节都进行了系统的规范,只要一家企业向欧盟境内的个人提供了商品或服务、并收集或处理了个人数据,不管该企业是否在欧盟境内设有机构,都适用于 GDPR 。
 
举例而言,如果一家中国在线销售公司的网站上,使用“面向欧洲的特惠产品”、“欧洲区包邮”的字样,或者标注了商品的欧元价格,就可以被视为在欧盟市场提供商品或服务,并受到管辖。所以我想,那些以安全、便利为由的公司想要打开欧洲的市场会非常难。
 
该法案重点保护的是自然人的“个人数据”,例如姓名、地址、电子邮件地址、电话号码、生日、银行账户、汽车牌照、IP 地址以及 cookies 等。
 
对于违法者,条例也有详细的规定,轻者处以 1000 万欧元或者上一年度全球营收的 2%(两者取其高)的罚款;重者处以 2000 万欧元或者企业上一年度全球营收的 4%(两者取其高)的罚款。
 
此外,GDPR 强调数据所有者的知情权,规定数据使用必须事先征得数据主体的同意,而且“同意”必须是具体的、清晰的,是用户在充分知情的前提下自由做出的。
 
安全、便利不应成为侵犯隐私的借口,何况这个借口还经不起推敲。在不能解决问题之前,也请不要带来更多的问题。在此,我们引用知乎上一位回答“如何看待旷视科技新产品监视学生上课?”得到最高赞的匿名人士的一段感概作为结语:这不是产品经理或者程序员的问题,不是一家公司的问题,甚至不是一个技术问题,这是我们社会的价值观的问题,是我们怎么看待自身权益的问题。
 

相关推荐

电子产业图谱