好奇心日报

好奇驱动你的世界

打开
智能

拒绝监控,旧金山成为美国第一座禁用人脸识别技术的大城市

“政府和公众对这项技术缺乏理解,也不知道它会变成什么样子。”

本文只能在《好奇心日报》发布,即使我们允许了也不许转载*

旧金山电 — 本周二(当地时间 5 月 14 日),一直处在科技革命中心的旧金山通过了一项法案,禁止执法部门和其它机构使用人脸识别技术,对可能滥用该技术的行为说“不”。

旧金山监督委员会(Board of Supervisors)以 8 票对 1 票通过了这项法案,使旧金山成了美国第一座禁止该技术的大型城市。

如今许多执法部门都开始利用人脸识别技术筛查轻罪嫌疑人和大规模屠杀案的凶犯。去年 6 月马里兰州安纳波利斯一家报社发生枪击案后,当局就曾用它来寻找犯罪嫌疑人。但提倡保护公民自由的组织担心政府会滥用这项技术,把美国变成一个令人窒息的监控型国家。

提出这项议案的旧金山监督员阿伦·佩斯金(Aaron Peskin)认为,旧金山是一座被科技改造的城市,法案的通过无疑向美国释放了强有力的信息。

他表示:“旧金山在人们眼中是科技公司总部的所在地,所以地方立法者应该肩负起相应的责任。正因为科技公司都选择把总部设在这里,所以我们监管技术、防止滥用的责任重大。”

但有批评人士认为,与其禁止人脸识别技术,不如承认它是行之有效的,进而制定相关法律加以规范。乔治·华盛顿大学(George Washington University)宪法领域专家乔纳森·特利(Jonathan Turley)指出:“这项技术可以用来保护机场和边境安全,否认这一点是十分荒谬的。不可否认这项技术能够维护公共安全。”

委员会将于下周进行第二轮强制性投票,不过这轮投票只是走过场。

奥克兰州、马萨诸塞州波士顿郊外的萨默维尔市也在酝酿类似的禁令。马萨诸塞州州议会计划通过一项议案,暂停使用人脸识别等远程生物监控系统。美国国会上个月也提出了一项议案,拟禁止商业人脸识别技术商在未经用户同意的情况下,以识别或跟踪用户为目的收集和共享他们的数据,不过该议案没有涉及政府机构对该技术的使用。

本周二,美国公民自由联盟(ACLU)北加州分部的律师马特·卡格尔(Matt Cagle)总结了人们对面部识别技术的担忧,他表示这一技术“为政府提供了前所未有的能力来监视人们的日常生活。这与健全的民主制度是不相容的。”而此次旧金山的议案“很有前瞻性,它有望阻止这项危险的技术用在公众身上”。

不过美国各大机场、体育场馆和许多警局都已经用这样或那样的方式使用了面部识别技术。据报道,流行歌手泰勒·斯威夫特(Taylor Swift)曾在一场演唱会上利用这项技术来识别跟踪狂

从很大程度上说,旧金山的禁令其实只是一种形式,因为当地警方目前尚未使用此类技术。全市也只有国际机场和港口采取了人脸识别技术,但它们归美国联邦司法管辖,并不受到新禁令的影响。

“解决无家可归者问题同盟”(Coalition on Homelessness)执行主任珍妮弗·弗里登巴赫(Jennifer Friedenbach)说,旧金山一些收容所会收集指纹和照片来跟踪收容所的使用情况,导致不少没有合法证件的人都不愿再去。

不过旧金山素以培养异见人士、提倡个人自由而闻名,这座城市最近也饱受侵占财产犯罪高发的困扰,人脸识别技术在这儿依旧是个特别敏感的话题。

禁令将禁止该市机构使用人脸识别技术,或是使用外部机构用人脸识别技术获取的信息。该法令也是一揽子立法的一部分,后者旨在监管旧金山市内对监视技术的使用,并要求地方机构制定政策管制相关技术。某些情况也能得到豁免,比如信息缺乏透明度可能会妨碍案件调查时,检方可以破例使用人脸识别技术。

尽管如此,警员工会“旧金山警察协会”(San Francisco Police Officers Association)表示这项禁令会阻碍警方开展调查。

协会主席托尼·蒙托亚(Tony Montoya)说:“我们知道技术还达不到 100% 的准确率,但它仍在不断改进。至少它能为刑事调查人员提供侦查线索。”

卡格尔等专家则指出,我们很难判定人脸识别技术在美国有多普及。他表示:“政府和企业在使用这项技术时大多遮遮掩掩,所以公众往往对它的使用情况毫无所知。”

电子前沿基金会(Electronic Frontier Foundation)高级调查研究员戴夫·马斯(Dave Maass)则提供了一部分据他称使用了这项技术的警局名单,其中包括了拉斯维加斯、奥兰多、圣何塞、圣地亚哥、纽约市、波士顿、底特律以及北卡罗来纳州达勒姆的警察局。

马斯还说,科罗拉多公共安全局(Colorado Department of Public Safety)、 皮内拉斯县警长办公室(Pinellas County Sheriff’s Office)、加利福尼亚州司法部(California Department of Justice)、弗吉尼亚州警察局(Virginia State Police)等机构也使用了这一技术。

目前美国海关与边境保护局(U.S. Customs and Border Protection)正在许多机场和口岸使用面部识别技术。搭乘国际航班的旅客需要站在照相机前,系统随即会将拍好的照片与他们申请护照时提供的照片相比对。海关与边境保护局表示这一做法符合隐私法,不过电子隐私信息中心(Electronic Privacy Information Center)批评称,尽管政府允许旅客拒绝拍摄照片,但旅客想做到这一点已经越来越困难。

这里还涉及一个更普遍的问题。电子隐私信息中心执行理事马克·罗滕贝格(Marc Rotenberg)表示:“一旦你有能力在现实中跟踪人们,这就意味着每个人都受到了政府监视。”

短短几年中,随着云计算、机器学习算法和高清数码相机的普及,人脸识别技术得到了飞速发展。如今智能手机用户可以通过面部识别解锁设备,并对照片进行标记和排序,这在过去是难以想像的。

但一些专家担心新兴技术发展过快,导致政府无法及时出台相关政策保护人们的隐私。

美国公民自由倡导人士提醒说,政府不经当事人同意就利用面部识别技术,从远处或在网上识别某人的能力会带来不同寻常的危险:美国人会因此不敢轻易参加政治抗议活动,甚至也无法在公共场所隐藏自己的身份。微软公司总裁布拉德福德·史密斯(Bradford L. Smith)去年警告称,人脸识别技术风险太大,企业无法做到自行监管,他还要求美国国会规范该技术的使用

两名研究人员去年发表的一份报告《性别图谱》(Gender Shades)显示,一些最常用的面部识别监控系统准确率存在偏差,这一发现也使得围绕该技术的争议愈演愈烈。报告指出,相比于肤色较深或是女性的面孔而言,由 IBM 和微软公司研发的系统更容易识别白人男性的面孔。

今年公布的另一项研究指出,亚马逊的 Rekognition 图片识别服务也存在类似问题。微软公司和 IBM 后来均表示已改进了自己的系统,亚马逊则说在上述研究人员做了测试后,他们已经更新了系统,此后也未发觉准确率有偏差

美国公民自由联盟等非盈利组织去年警告称,非裔美国人、女性等容易被错误识别成犯罪嫌疑人而遭逮捕,他们呼吁亚马逊停止向执法部门出售这项技术。

民权倡导者和研究人员则认为,即使它的准确性会有所改进,但在缺乏政府监管的情况下这种技术也很容易被用来监视移民,或是专门针对非裔美国人或低收入群体。微软蒙特利尔研究院(Microsoft Research Montreal)博士后研究员卢克·斯塔克(Luke Stark)在近期发表的一篇文章中把人脸监控技术称为“人工智能中的钚”。他认为这种技术是“健全社会的毒瘤,应该严格限制它的使用”。

乔治城大学(Georgetown University)隐私和技术中心主任阿尔瓦罗·贝多亚(Alvaro Bedoya)透露说,有超过 30 个州允许地方政府、州政府或联邦调查局搜索该州居民的驾照照片。

贝多亚表示,这就相当于你的照片永远都保存在执法部门的档案里等待指认,当局会用它来确定你是不是犯罪嫌疑人。只不过警方过去会让当事人来辨认嫌犯,而现在他们依靠的是算法。

他还说,目前我们亟需对这项技术实行全面监管:“它是 21 世纪覆盖面最广、风险最大的技术。”

美国信息技术创新基金会(Information Technology and Innovation Foundation)数据创新中心(Center for Data Innovation)主任丹尼尔·卡斯特罗(Daniel Castro)并不支持实施禁令。他表示自己更愿意看到警方有能力使用通过人脸识别收集的数据,前提是他们遵守美国最高法院对其它电子监控行为制定的指导方针,并事先得到法院授权。

支持禁用面部识别技术的人则认为,实施禁令是为了在事态失控前及时踩下刹车,让人们有机会反思现状。波士顿郊外萨默维尔市拟议的禁令由议员本·埃文-坎彭(Ben Ewen-Campen)议员提出。他在本周二接受采访时表示:“政府和公众对这项技术缺乏理解,也不知道它会变成什么样子。”

波士顿前警察局长埃德·戴维斯(Ed Davis)则认为“目前禁止某些技术还为时过早”。戴维斯曾在波士顿发生马拉松爆炸案时担任该市警察局长,他说在美国没有人愿意遵循中国模式,但他也看到了这项技术的潜力:“它仍在不断发展,随着技术进步,它能保障社区安全,为我们解决许多问题。”

“旧金山制止犯罪活动”组织(Stop Crime SF)副主席乔尔·恩加迪奥(Joel Engardio)承认目前的面部识别技术存在缺陷,但如果它能得到改进,旧金山不应该继续禁止这项技术。

恩加迪奥反问道:“与其全面禁止,为什么不先暂停使用呢?这项技术会有所改进,我们不妨保持开放的心态。有些事物到最后或许会对我们有帮助,我不喜欢老是禁止这个、禁止那个。”


翻译:熊猫译社 智竑

题图版权:Joe Buglewicz for The New York Times;长题图来自 Daniel Tafjord on Unsplash

© 2019 THE NEW YORK TIMES

  • 长文章
  • 纽约时报
  • 美国
  • 旧金山
  • 人脸识别
  • 面部识别
  • 监视