美國持續不斷的種族歧視抗議活動引發了人們對於“種族不平等”現象更廣泛的認識和討論，並引發了對美國警察如何使用科技手段追蹤示威者和監視美國居民區的研究。
據美聯社報道，萬國商業機器公司（簡稱為IBM）此前宣佈，將不再提供任何人臉識別和人臉分析軟件。除此之外，IBM也將不再針對這項技術進行研發。
IBM是幾家曾試圖提高面部掃描軟件準確性的大型科技公司之一，然而其新任首席執行官開始懷疑，這項技術是否應該由警察使用。
IBM首席執行官阿文德·克里希納在當地時間6月8日致美國國會議員的一封信中寫道：“我們認為現在是時候就國內執法機構該如何使用面部識別技術開展全國對話。”
停用人臉識別技術
IBM表示，這個決策並不是心血來潮，而是經過了數個月的討論，並與客户進行了持續溝通。另外，儘管IBM不再宣傳、推銷和更新這些產品，但它依舊會在有需求之時對現有的客户進行支持。
克里希納在致國會議員的信中呼籲進行警察系統的改革，並指出：“IBM堅決反對，也不會容忍任何技術的使用，包括其他供應商提供的面部識別技術，以進行大規模監視，種族歧視，以及侵犯人權行為。”
克里希納還表示，國家政策應鼓勵和促進使用特定技術，來提高警務透明度和問責機制。
（圖説：IBM首席執行官阿文德·克里希納 圖源/CNN）
不過，克里希納並沒有將AI全盤否定，他表示人工智能仍然是幫助執法部門保護公民安全的有力工具。但他也強調，AI系統的供應商和用户有共同的責任對AI進行偏見測試，特別是執法過程中使用的AI，要有專門的審查評估制度。
據美聯社報道，IBM先前在紐約警察局測試過其面部識別軟件，儘管該部門最近使用了其他供應商。目前尚不清楚IBM是否與其他政府機構簽訂合同。
據喬治敦大學隱私與技術中心的研究人員克萊爾·加維表示，許多美國執法機構都依賴不太知名的公司（例如總部位於東京的NEC或歐洲公司Idemia和Cognitec）構建的面部識別軟件。
自種族抗議活動開始後，人們開始對執法機構用人臉識別技術進行監控一事越來越關心，不過早在今年3月，美國參議員就一直在審查一家總部位於紐約的人臉識別技術公司“Clearview AI”。有調查報告稱，該公司從社交媒體和其他互聯網服務中收集數十億張照片以識別人物。
麻省理工學院的研究員喬伊·布拉姆維尼在向波士頓市政廳發送的一封電子郵件中寫道：“無論這些系統的準確性如何，面部識別所實現的大規模監視都可能導致令人不寒而慄的效果。”
取消人臉識別並不影響利潤
據美國CNBC報道，一位知情人士承認，IBM 此舉確有為了迎合美國當下對種族問題的強烈關注的因素。但同時，IBM 也不會忽視其商業價值，人臉識別業務並沒有為 IBM 帶來份額重大的營收，棄之不可惜。
這家科技巨頭越來越關注雲計算，人臉識別只是公司業務中“不佔優勢”的一項。
也有人覺得IBM的聲明並不可信，此前IBM推出了智能警務平台，並在世界多地投入使用，這個系統依賴閉路電視攝像機和警察部門的數據處理系統直接相連，仍然是一種監視手段。
據瞭解，正如谷歌、微軟、亞馬遜等其他硅谷巨型科技公司一樣，IBM也早早就開始了有關於人臉識別技術的研發與業務拓展，也曾為了消除“算法歧視”而有所作為，包括髮布臉部多樣性數據集Diversity in Faces（DiF），該數據集包含100萬張已標註的人臉圖像，旨在加速公平且準確的人臉識別系統研究。
然而站在業務層面，人臉識別技術並未給IBM帶來可觀的營收，反而帶來了用户的訴訟等負面影響。
具有種族偏見，人臉識別爭議不斷
目前，美國已經有多個地方公共部門禁用了人臉識別技術。
據美媒報道，當前已發現這種技術具有種族偏見的問題。NIST和德克薩斯大學達拉斯分校的研究人員在曾經進行的一項研究發現，在東亞設計和測試的算法在識別東亞人方面更好，而在西方國家設計的算法在發現高加索人方面更準確。
而人臉識別技術首次因為“種族偏見”問題引起關注是在2018年，人們利用亞馬遜人臉識別系統對535位美國國會議員的照片進行識別。最終結果顯示，有28位國會議員的識別結果為“罪犯”，其中包括11名有色人種。
另外也有多項研究顯示，美國各大公司的人臉識別算法在面對黑人時均存在準確率低的問題：人臉識別針對黑人、女性的錯誤率高達 21%-35%，而針對白人、男性的錯誤率則低於 1%。
去年，美國舊金山城市監管委員會投票通過“禁止使用人臉識別”的決定，成為美國第一個對該技術説“不”的城市。這之後，馬薩諸塞州的賽默維爾市、加州奧克蘭市等也相繼宣佈禁止人臉識別技術和系統。