人脸识别道德性问题甚嚣尘上 亚马逊延长人脸识别软件执法禁令

据路透社报道,亚马逊已经延长了对自家人脸识别软件用于执法的禁令,“直到另行通知”。该禁令之前设定为期一年,原定于六月到期。亚马逊没有立即回应为何延长这一禁令。

早在 2018 年,亚马逊员工就曾力促亚马逊缩减这一项目的规模 —— 他们认为,有记载的人脸识别种族偏见,可能加剧当地警方对少数族裔的暴力行为。

亚马逊一直为该项目辩护,直到去年 6 月,当时抗议活动的压力越来越大,亚马逊这才宣布,面向警方客户的服务暂停一年。

Rekognition 属于 AWS 所提供的一项服务,其实许多亚马逊在云计算领域的竞争对手都具有类似的技术。就在亚马逊做出承诺的第二天,微软也宣布了类似声明,称将不会向当地警方出售其面部识别服务。

而 IBM 在同一周内也表示,将停止开发或研究面部识别技术;谷歌则表示不会向任何人提供面部识别技术的商用。

去年夏天,关于人脸识别技术的道德性问题甚嚣尘上。麻省理工学院媒体实验室的研究员 Joy Buolamwini 和微软研究院的 Timnit Gebru,都致力于揭示人脸识别技术在种族偏见方面的偏见。两人做了不少基础性工作,其中有一篇共同撰写的论文被广泛引用。

该论文指出,包括 IBM 和 Microsoft 在内的主要科技公司,他们的人脸识别系统,用于识别肤色较黑的人的错误率,比识别肤色较白的人要高几十个百分点。根据《纽约时报》的一份报告,问题部分在于用于训练系统的数据集,其中绝大多数可能是男性和白人。

在 2019 年的另一项研究中,Buolamwini 和另一位学者分析了 Rekognition,发现亚马逊的系统也存在重大问题,无法识别肤色较黑的人的性别,以及误以肤色较黑的妇女为男性。研究发现,该系统在分析肤色较浅的人的图像时的错误率几乎为零。

在之前首次宣布禁用于执法时,亚马逊曾表示,希望国会利用这段服务暂停的时间,来调整人脸识别技术的法律法规。

当时亚马逊在声明中曾表示,“我们主张政府制定更严格的法规来管理人脸识别技术使用的道德问题,期望这一为期一年的暂停,可以使国会有足够的时间出台适当的规则,并且我们随时准备根据要求提供帮助。”

但到目前为止,还没有联邦立法解决警方与人脸识别技术的矛盾,但是许多州或地方政府已经通过了相关规定,决定减少这一技术的使用。

2019 年 5 月,旧金山成为美国第一个禁止政府使用人脸识别的城市,奥克兰紧随其后;俄勒冈州和缅因州波特兰的城市也通过立法。

去年 12 月,马萨诸塞州有过一项类似的禁令草案,但当时并未获得通过,不过最近通过了一项修改后的法案,对警方使用人脸识别一事增加了一些限制。

去年 7 月,纽约州立法机构刚刚通过了一项法令,禁止在学校中使用人脸识别和其他生物特征识别技术,直至 2022 年。

另外,就在上个月,欧盟也发布了一项监管人工智能使用的提案:《关于“欧洲议会和理事会条例:制定人工智能的统一规则(人工智能法案)并修订某些联盟立法”的提案》。

该提案规定了企业和政府应如何使用人工智能技术,长达 108 页,对人工智能在一系列活动中的使用都进行了限制,其中就包括限制警方在公共场合使用人脸识别软件。

这些领域因其可能对人们的安全或基本权利造成威胁,而被欧盟视为“高风险”领域。不过,出于国家安全和其他目的的应用,可能会有一些豁免权。根据该提案要求,欧盟将有可能对违规最严重的公司处以相当于其全球年销售额 6% 的罚款。

关键词: 人脸识别 道德性 亚马逊 执法禁令

推荐DIY文章
主机存在磨损或划痕风险 PICO4便携包宣布召回
穿越湖海!特斯拉Cybertruck电动皮卡可以当“船”用
vivoXFold+折叠旗舰开售 配备蔡司全焦段旗舰四摄
飞凡R7正式上市 全系标配换电架构
中兴Axon30S开售 拥有黑色蓝色两款配色
荣耀MagicBookV14 2022正式开售 搭载TOF传感器
it