不顧員工反對，亞馬遜將繼續(xù)為ICE提供面部識別服務(wù)

2018-11-10 09:19

亞馬遜最近因為向政府和執(zhí)法機構(gòu)提供和出售面部識別技術(shù)而飽受爭議，由于Rekognition軟件被指控侵犯人權(quán)，亞馬遜員工曾聯(lián)名致信CEO Jeff Bezos，要求公司停止向美國移民和海關(guān)執(zhí)法局（ICE）出售面部識別軟件Rekognition。

亞馬遜的云計算部門AWS負責(zé)運營Rekognition，這款軟件目前正在被佛羅里達州和俄勒岡州的警察部門使用。

日前，在亞馬遜召開的全體員工會議上，Bezos邀請AWS CEO Jassy回答了關(guān)于簽訂Rekognition潛在政府合同的問題，Jassy指出，Rekognition具備很大的價值，能用于打擊人口販賣、尋找失蹤兒童和涉及安全和多因素的鑒定，很顯然，人們并不希望這種技術(shù)消失。但是，面部識別技術(shù)應(yīng)該被負責(zé)地使用，如果有用戶違反AWS的服務(wù)條款或侵犯憲法權(quán)利，亞馬遜會禁止其使用該服務(wù)，政府也有責(zé)任幫助細化對這項技術(shù)的指導(dǎo)和監(jiān)管法規(guī)。

不過，Rekognition曾被曝出在準(zhǔn)確性和種族偏見方面存在嚴重缺陷。今年7月份，北加州美國公民自由聯(lián)盟（ACLU）對Rekognition進行了測試，當(dāng)該聯(lián)盟用2.5萬張面部照片做面部識別測試時，Rekognition將其中28名國會議員識別成曾經(jīng)被捕的罪犯。對此，亞馬遜引用其DL和AI部總經(jīng)理Matt Wood的一篇博文的數(shù)據(jù)做出了反駁，Rekognition API的測試數(shù)據(jù)顯示出80%的置信率。

亞馬遜也曾拒絕參與由美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）主辦的對算法偏差的全面研究，該研究旨在確定種族和性別偏差對面部識別算法的錯誤率的影響。

實際上，亞馬遜并非唯一因向美國政府銷售產(chǎn)品和提供產(chǎn)品支持而被自家員工排斥的科技巨頭，今年5月份，谷歌與國防部合作的AI武器化項目Maven也引起了公司內(nèi)部職員的劇烈爭論，甚至導(dǎo)致一些員工辭職以表示抗議。