亞馬遜面部識(shí)別鬧烏龍：把28名國(guó)會(huì)議員認(rèn)成罪犯

美國(guó)商業(yè)巨頭亞馬遜公司在2016年推出了圖像識(shí)別AI系統(tǒng)“Rekognition”，并積極推銷給美國(guó)警方以協(xié)助辦案，結(jié)果最近“Rekognition”犯了個(gè)大錯(cuò)誤——把28名美國(guó)國(guó)會(huì)議員識(shí)別為罪犯。

這一錯(cuò)誤也讓發(fā)起這項(xiàng)測(cè)試、反對(duì)警方使用“Rekognition”的美國(guó)公民自由聯(lián)盟（ACLU）抓到把柄，他們表示，測(cè)試結(jié)果引起了民眾對(duì)警方使用該系統(tǒng)的嚴(yán)重?fù)?dān)憂。

被“Rekognition”誤識(shí)別成罪犯的28名議員 圖自ACLU網(wǎng)站

7月26日，ACLU在其網(wǎng)站披露：該組織對(duì)“Rekognition”進(jìn)行了測(cè)試，結(jié)果系統(tǒng)錯(cuò)誤地將28名國(guó)會(huì)議員識(shí)別為曾因犯罪而被捕的人員。

這些被誤認(rèn)為是罪犯的議員來(lái)自美國(guó)各州，無(wú)論黨派。不過(guò)，女性只占一人，有色人種占40%，其中6人為黑人。

ACLU稱，他們使用的系統(tǒng)與亞馬遜向公眾提供的系統(tǒng)無(wú)異，整個(gè)測(cè)試花費(fèi)了12.33美元（約合84元人民幣）

他們建立了一個(gè)擁有2.5萬(wàn)張公開(kāi)罪犯照片的數(shù)據(jù)庫(kù)，然后把國(guó)會(huì)參眾兩院所有現(xiàn)任議員的照片交給“Rekognition”處理，看2.5萬(wàn)張照片中是否有照片與國(guó)會(huì)議員匹配，結(jié)果有28張匹配。

“Rekognition”操作步驟 圖自ACLU網(wǎng)站

“Rekognition”是亞馬遜在2016年推出的圖像識(shí)別AI系統(tǒng)，據(jù)亞馬遜官網(wǎng)介紹，“Rekognition” 能夠?yàn)橛脩籼峁┑膱D像和視頻提供高度準(zhǔn)確的面部分析和面部識(shí)別功能。用戶可以檢測(cè)、分析和比較各種使用案例中的面孔，包括用戶確認(rèn)、人員計(jì)數(shù)和公共安全。

值得注意的是，亞馬遜頗為積極地向美國(guó)司法部門和警方推銷“Rekognition”，此舉引發(fā)美國(guó)民眾強(qiáng)烈不滿，認(rèn)為這侵犯了人的隱私權(quán)，或會(huì)帶來(lái)歧視。

ACLU稱，被識(shí)別為罪犯的28名議員中，40%是有色人種，然而國(guó)會(huì)議員中有色人種的比例僅為20%。

這也證實(shí)了今年5月國(guó)會(huì)“黑人核心小組（Congressional Black Caucus）”給亞馬遜CEO杰夫·貝佐斯（Jeff Bezos）信中的擔(dān)憂：黑人、非法移民和抗議者可能會(huì)面臨監(jiān)視。

亞馬遜CEO杰夫·貝佐斯 圖自CNBC

ACLU表示，如果執(zhí)法部門使用“Rekognition”，不難想象警察會(huì)得到一個(gè)與罪犯“匹配”的人像，從而導(dǎo)致警察在執(zhí)法前就對(duì)其產(chǎn)生“偏見(jiàn)”。

“無(wú)論準(zhǔn)確與否，這樣的識(shí)別都可能讓人們失去自由甚至生命。有色人種已經(jīng)不成比例地受到警察的傷害，‘Rekognition’顯而易見(jiàn)會(huì)加劇這種情況……最近舊金山警察攔住一輛車，拷住一名黑人婦女強(qiáng)迫她跪在槍口下，就是因?yàn)樽詣?dòng)車牌識(shí)別系統(tǒng)誤認(rèn)為她的車是偷來(lái)的?！?

該組織還稱，面部識(shí)別可能會(huì)威脅到美國(guó)憲法第一修正案所保護(hù)的行為，例如參與抗議活動(dòng)或宗教活動(dòng);也可能讓移民受到美國(guó)政府進(jìn)一步的虐待。

“這也正是為什么亞馬遜員工、股東、近70個(gè)人權(quán)組織，超過(guò)400名學(xué)術(shù)界人士和超過(guò)15萬(wàn)民眾已經(jīng)站出來(lái)，要求亞馬遜停止向政府提供人臉識(shí)別監(jiān)控的原因?！?

ALCU最后呼吁國(guó)會(huì)認(rèn)真對(duì)待這個(gè)問(wèn)題，頒布法案暫停使用面部識(shí)別執(zhí)法，直到充分考慮其危害并采取有效措施來(lái)制止對(duì)民眾的威脅。

另?yè)?jù)美國(guó)科技媒體網(wǎng)站“The Verge”報(bào)道，這次烏龍事件發(fā)生后，已有3名被誤認(rèn)為罪犯的議員對(duì)此做出回應(yīng)。

馬薩諸塞州參議員愛(ài)德華·馬基（Edward Markey）、伊利諾伊州眾議員路易斯·古蒂爾茲（Luis Gutiérrez）和加利福尼亞州眾議員馬克·索尼爾（Mark DeSaulnier）致信亞馬遜CEO貝佐斯，要求其提供使用“Rekognition”技術(shù)執(zhí)法機(jī)構(gòu)的完整名單，并詢問(wèn)對(duì)13歲以下兒童的保護(hù)措施。

“人們對(duì)面部識(shí)別可能對(duì)隱私權(quán)和公民權(quán)利造成的危害表示嚴(yán)重關(guān)切，” 信中寫(xiě)道，“尤其是當(dāng)它被用作政府監(jiān)視的工具時(shí)?！?