2019年5月,旧金山市对人脸识别技术发出了禁令,禁止该技术在政府机关和执法机关中使用,从而成为全球首个对人脸识别技术发出禁令的城市。
不过,美国社会对人脸识别技术的反对不止于旧金山。近期,加州奥克兰市正在考虑出台与旧金山类似的法律,同时,马萨诸塞州也正考虑在该州中止人脸识别软件,直到这项技术有所提高。
那么问题来了:美国越来越多的城市在禁止或暂停这项技术的使用,究竟是为何?
有缺陷的人脸识别技术
客观上来说,美国的人脸识别技术一直走在科技前沿,并且在商用层面早有动作。亚马逊早在2016年就推出了人脸识别软件Rekognition,此外,类似的产品还有谷歌云Vision API、IBM WatsonVisualRecognition和微软的Face API。
尽管如此,目前的人脸识别技术还不能够有百分百的准确性。2018年,纽约时报英文网站发表一篇文章就指出,如今非常热门的AI应用人脸识别,针对不同种族的准确率差异巨大。其中,针对黑人女性的错误率高达21%-35%,而针对白人男性的错误率则低于1%——这在美国可以说是非常政治不正确的。
另外一个值得一提的乌龙事件是:巨头公司亚马逊2016年推出图像识别AI系统“Rekognition”曾将28名美国国会议员识别成了罪犯,让美国社会一片哗然,也对人脸识别技术充满了质疑。
中国科学院自动化研究所的张晓波博士曾表示,照明、姿势、装饰等都会对机器人脸识别产生影响,对于非合作情况下的人脸图像采集,遮挡问题非常严重。
特别是在监控环境中,被监控对象可能佩戴眼镜,帽子等配件,使得捕获的人脸图像可能不完整,影响后续的特征提取和识别,甚至导致人脸检测算法无效。
虽然人脸识别算法的大小随着人脸数据库大小的增加而减小,但如何在大规模应用环境中维持或提高人脸识别算法的识别率也是一个非常重要的问题。
你的脸到底属于谁?
在安全性方面,人脸识别技术也在美国面临着广泛的质疑。
比如说,由于人脸识别的信息存储仍然基于计算机可识别的语言,即数字或特定代码。而随着这些数据价值的提高,面临黑客攻击的风险也会越来越高。
也就是说,人面识别技术背后的支撑是数据,如果这些隐私数据被窃取,你的脸可能不只属于自己,可能属于任何人。
同时,正如前面提到的,人脸识别技术对于不同种族的人有不同的准确率,无论是论文作者的研究,还是厂商的实验都明确发现女性深色人种识别误差率更高。种族歧视作为美国社会中的一个非常敏感的话题,如果对人脸识别技术的相关法律还未能够完善,那么,人脸识别技术依然会处于争议之中。
不过,更大的争议在于,美国社会群体对于“被监控”本身的反感和忧虑。
此前,亚马逊以及其他很多科技公司也与美国警方保持合作,将面部识别技术应用于视频监控和警察穿戴的相机镜头。包括俄勒冈州在内的众多美国州立政府已经成为Rekognition的用户。
亚马逊的人脸识别软件Rekognition能够实时地辨别、分析和跟踪。它能够在几秒钟将它收集的信息和数据库里成千上万个图像进行比较。执法机关已经将这个技术应用于寻找失踪人口和识别恐怖袭击中的嫌疑人中。
然而,美国公民自由联盟(American CivilLiberties Union,ACLU)曾“上书”政府:亚马逊应该停止向美国政府提供强大且“危险”的人脸识别系统Rekognition。
此联盟“上书”后不久,有将近20家亚马逊的股东机构向JeffBezos(雷锋网按,亚马逊首席执行官)发出信件,对亚马逊Rekognition被应用于执法部门所带来的问题和影响进行担忧。
这些股东在信中写到:
亚马逊股东担心这样的政府监视设施技术,不仅可能对全国客户和其他利益相关者构成隐私威胁,而且可能提高我们公司面临的实质性风险,为我们公司的股价带来负面影响,并为股东增加金融风险。
股东们还担心,Rekognition可能违反女性、有色人种、移民以及其他边缘化群体的民权,这些人特别容易成为警方关注的目标。
不仅亚马逊股东认为Rekognition会对隐私造成侵犯,美国民众也有类似的看法。将人脸识别技术应用到前端视频监控摄像机上,可能会打破隐私及实用性之间的平衡。
假设美国警方有若干台这样的安防摄像机,同时拥有可疑人员的“黑名单”照片库,那么其他任何人如果与这些可疑人员有一些相像,一旦进入警察的安防摄像机的镜头之内,都有可能受到警务人员的盘问。而大多数美国人不希望生活在那样的世界里。
不仅亚马逊的Rekognition陷于争议之中,美国的海关和边境保护计划同样因为应用人脸识别技术而颇受争议。
这项计划通过其云端面部生物识别系统对旅客进行匹配。这种信息匹配服务旨在取代人工检票,将旅途中需要出示纸质证件的流程改为自动识别。
这个面部识别系统旨在快捷。并且,美国海关和边境保护局(U.S.CustomsandBorderProtection,以下简称CBP)认为,在对比护照照片和人脸时,面部识别要比人类更加准确。在40天的时间里,该系统已在华盛顿杜勒斯机场协助发现了三名冒名顶替者。
但这项技术可以在你不知情的情况下使用,面部识别系统收集的不可变的数据,也就是面部信息。这引起了人们的担忧。如果某人的信息一直被保存,那么,系统便可以一直追查这个人的行踪。
而且,CBP未向公众采纳意见,就已在机场实行这一技术,突破了美国法律的界限。
面对争议,CBP强调,这个项目的存在不是为了监视,它的实施也符合法律规定。美国公民可以选择退出该计划,他们的照片不会被长期保留。不仅如此,CBP还发了声明,证明有许多法律允许它收集生物特征信息。
但隐私法专家指出,虽然CBP列举的法律适用于非公民,但它们都没有明确提到涉及公民的情况。而且,乔治城大学隐私与技术法律中心2017年发表的一份报告称:在过去14年中可以明显的看出,美国公民在该计划的相关法律中一直处于缺席状态。
CBP尚且面临质疑,更不必说是其他美国政府部门了。
在雷锋网看来,一个社会群体对于技术的接纳和融入,并不一定都是一帆风顺的;尤其是对于美国这样注重政治正确和隐私至上的国家来说,人脸识别技术的应用更是面临越来越严重的尴尬局面。
可以想见的是,人脸识别技术在美国也许会面临越来越多的反对声浪,但这究竟是一件好事与否,尚未可知。
|