人臉識別再遭禁令:隱私與偏見爭議未休,美國又一州禁用面部識別軟件
據外媒報道,紐約州立法機構剛剛通過了一項法令,禁止在學校中使用人臉識別和其他生物特徵識別技術,直至 2022 年。該法案將由州長 Andrew Cuomo 簽署。此前,舊金山、馬薩諸塞州薩默維爾市等多地也已正式通過了在公共場所禁用人臉識別軟件的法案。
洛克波特市學區位於紐約州西部,是美國首個明確規定校園內人臉識別技術使用的學區。今年 1 月,該學區開始正式運行人臉識別系統,大約為學區內的 5000 名學生提供服務。此舉遭到了當地一部分官員和居民的反對,認為這種措施會被用來監視學生並且建立有關人臉敏感信息的數據庫,進而影響到學區的安全。
儘管洛克波特市學區的隱私權政策表明,監視列表中並不包括學生,數據庫中也只包含具有潛在威脅性的非學生人士,但被納入監視系統的名單最終決定權在於學區負責人。據相關報道,學校的董事會主席 John Linderman 也未保證,學生的圖像永遠不會被納入系統。
紐約州眾議員 Monica Wallace 曾表達過自己的擔憂:“一旦允許人臉識別技術在學校中應用,就宛如打開政府在此項技術上資金投入的水閘,而這些技術在可靠性、準確性方面值得懷疑。”
紐約公民自由聯盟曾在一個月前代表反對該系統的父母向洛克波特市學區提出訴訟。教育政策中心副主席 Stefanie Coyle 表示:“這很重要。眾所周知,人臉識別是不準確的,尤其是在識別有色人種和女性時。對於外表隨年齡增長不斷變化的兒童而言, 生物識別的準確甚至值得懷疑。”
美國政府機構使用人臉識別技術的歷史有 10 餘年之久。得益於近年來深度學習技術的發展,人臉識別的準確度也得到了極大提升。基於人工智能的計算機視覺技術可以幫助監管人員發現犯罪分子並防止身份欺詐,同時也可以幫助尋找失蹤兒童或在移動人羣中鎖定抗議者。電商科技公司也正在使用這種技術實現刷臉購物,提升用户體驗,甚至可以探知消費者在觀察商品時的表情。
但是,人臉識別系統的準確率和其中存在的偏見問題,卻在學界和輿論層面均飽受質疑,大眾擔心這些人臉識別系統在正確識別有色人種和女性方面並沒有那麼有效。其中一個原因是用於訓練軟件的數據集可能更多地來自男性和白人。
自去年以來,美國多地開始陸續禁用人臉識別技術。2019 年 5 月,舊金山城市監督委員會(Board of Supervisors)以投票方式通過法令,禁止政府機構購買和使用人臉識別技術,成為全球首個禁用人臉識別技術的城市。
在美國發生 “ Black Lives Matter” 抗議活動之後,亞馬遜、IBM、微軟等公司都宣佈終止了人臉識別產品的銷售。上個月,因種族偏見爭議,馬薩諸塞州首府、最大城市波士頓市議會以 13:0 的投票結果通過了《波士頓禁止人臉監控技術條例(Ordinance Banning Face Surveillance Technology in Boston)》。
技術能夠永遠中立嗎?越來越廣泛的應用,也帶來了越來越多的質疑。今天,人臉識別技術似乎正面臨着前所未有的困境。