亚马逊面部识别系统闹乌龙，28名美国会议员被误认成罪犯

malike

        原标题：亚马逊面部识别系统闹乌龙，28名美国会议员被误认成罪犯

【文/观察者网 王恺雯】商业巨头亚马逊2016年推出图像识别AI系统“Rekognition”，还积极向美国警方推销以帮助其办案。不过近日，“Rekognition”却闹了一个大乌龙：28名美国国会议员被它识别成了罪犯。

这一错误也让发起这项测试、反对警方使用“Rekognition”的美国公民自由联盟（ACLU）抓到把柄，他们表示，测试结果引起了民众对警方使用该系统的严重担忧。





被“Rekognition”误识别成罪犯的28名议员 图自ACLU网站

7月26日，ACLU在其网站披露：该组织对“Rekognition”进行了测试，结果系统错误地将28名国会议员识别为曾因犯罪而被捕的人员。

这些被误认为是罪犯的议员来自美国各州，无论党派。不过，女性只占一人，有色人种占40%，其中6人为黑人。

ACLU称，他们使用的系统与亚马逊向公众提供的系统无异，整个测试花费了12.33美元（约合84元人民币）

他们建立了一个拥有2.5万张公开罪犯照片的数据库，然后把国会参众两院所有现任议员的照片交给“Rekognition”处理，看2.5万张照片中是否有照片与国会议员匹配，结果有28张匹配。





“Rekognition”操作步骤 图自ACLU网站

“Rekognition”是亚马逊在2016年推出的图像识别AI系统，据亚马逊官网介绍，“Rekognition” 能够为用户提供的图像和视频提供高度准确的面部分析和面部识别功能。用户可以检测、分析和比较各种使用案例中的面孔，包括用户确认、人员计数和公共安全。

值得注意的是，亚马逊颇为积极地向美国司法部门和警方推销“Rekognition”，此举引发美国民众强烈不满，认为这侵犯了人的隐私权，或会带来歧视。

ACLU称，被识别为罪犯的28名议员中，40%是有色人种，然而国会议员中有色人种的比例仅为20%。

这也证实了今年5月国会“黑人核心小组（Congressional Black Caucus）”给亚马逊CEO杰夫·贝佐斯（Jeff Bezos）信中的担忧：黑人、非法移民和抗议者可能会面临监视。





亚马逊CEO杰夫·贝佐斯 图自CNBC

ACLU表示，如果执法部门使用“Rekognition”，不难想象警察会得到一个与罪犯“匹配”的人像，从而导致警察在执法前就对其产生“偏见”。

“无论准确与否，这样的识别都可能让人们失去自由甚至生命。有色人种已经不成比例地受到警察的伤害，‘Rekognition’显而易见会加剧这种情况……最近旧金山警察拦住一辆车，拷住一名黑人妇女强迫她跪在枪口下，就是因为自动车牌识别系统误认为她的车是偷来的。”

该组织还称，面部识别可能会威胁到美国宪法第一修正案所保护的行为，例如参与抗议活动或宗教活动；也可能让移民受到美国政府进一步的虐待。

“这也正是为什么亚马逊员工、股东、近70个人权组织，超过400名学术界人士和超过15万民众已经站出来，要求亚马逊停止向政府提供人脸识别监控的原因。”

ALCU最后呼吁国会认真对待这个问题，颁布法案暂停使用面部识别执法，直到充分考虑其危害并采取有效措施来制止对民众的威胁。

另据美国科技媒体网站“The Verge”报道，这次乌龙事件发生后，已有3名被误认为罪犯的议员对此做出回应。

马萨诸塞州参议员爱德华·马基（Edward Markey）、伊利诺伊州众议员路易斯·古蒂尔兹（Luis Gutiérrez）和加利福尼亚州众议员马克·索尼尔（Mark DeSaulnier）致信亚马逊CEO贝佐斯，要求其提供使用“Rekognition”技术执法机构的完整名单，并询问对13岁以下儿童的保护措施。

“人们对面部识别可能对隐私权和公民权利造成的危害表示严重关切，” 信中写道，“尤其是当它被用作政府监视的工具时。”

本文系观察者网独家稿件，未经授权，不得转载。