你想生活在一個路不拾遺、夜不閉户、超級安全的社會中嗎？那如果必須有一個前提條件，你要接受不分時間、不分地點、全天候監控呢？你可以再想想，看完文章，在評論區告訴我們。本文來自公眾號：硅兔賽跑（ID：sv_race），作者：Amelie，題圖來自：視覺中國
今年1月，Netflix上架了一部巴西電視劇《全知》，影片為我們創造了這樣一個極為文明安全的烏托邦社會——“5年，只有4起兇殺案上報。城裏的刑偵機構早在15年前就已解散，30萬刑偵警察，現在只剩300人，（他們受過唯一的訓練）就是把人銬起來。”
圖片來源：《全知》
當然，這是有代價的，生活在這裏的人必須接受無人機監控，無論你是在吃飯、睡覺、上廁所......沒有停歇。甚至你要為自己無知時犯的錯誤，付出一輩子的代價。
圖片來源：《全知》圖為女主的哥哥
我們離影片中的烏托邦社會還有多遠？
疫情期間，以色列政府批准國內安全機構可以通過手機跟蹤新冠病毒患者在確診前14天以內的行蹤，通過手機實時跟蹤確診患者有無違反隔離規定，並通過人臉識別大數據追尋他們去過哪裏，與誰有過接觸。
今年3月，一名俄羅斯男子從韓國飛回莫斯科，落地之後需要在家隔離兩週。呆了幾天後，他感覺自己沒什麼症狀，就走出家門扔了一趟垃圾。結果半小時後，警察出現在了他家門口。原因是自家公寓門口安裝了人臉識別攝像頭，攝像頭識別到了這位從韓國歸來的男子，於是把信息彙報給了警察。
近日，路透社公佈了一項針對美國第三大連鎖藥店Rite Aid的調查。據悉，Rite Aid在其全美200家商店中秘密部署人臉識別系統長達8年之久，且大部分部署於有色人種居住的低收入社區，這個秘密系統直到最近才被停止使用。
一、你po在臉書的照片，已被有心人存檔
也是今年，《紐約時報》記者Kashmir Hill報道了一家神秘的AI技術公司Clearview AI。2017年成立，截止全年，全美已有超過600家執法機構（比如警察局）使用其服務。
第一個付費客户是印第安納州警察局，第一次使用時，只花了20分鐘就破了一起案件。警察將案件嫌疑人的照片上傳至Clearview的系統中，馬上得到了匹配，該男子的姓名出現在一條po在社交媒體上的視頻中。如果沒有Clearview，警察能否這麼快破案尚未可知。因為該男子既沒有駕照也沒有前科，警察局無法從現有數據庫中找到他。
圖片來源：Clearview 圖為Clearview提交給執法機構的宣傳材料
Clearview的技術之所以神奇，主要在於其擁有一個龐大的圖片數據庫，洛杉磯警察局800萬、佛羅里達警察局4700萬、FBI 4.11億張圖片的數據庫，在Clearview面前不值一提。
依靠從領英、臉書、推特、YouTube、Instagram甚至Venmo等社交平台上的公開賬户中爬取照片、視頻等數據，Clearview建立了一個擁有30億張圖片的數據庫。
不過，假設你的Facebook賬户開啓了隱私模式，那Clearview就無法抓取你的信息了。如果你還沒有，現在開啓也晚了，因為一旦信息被Clearview抓取，就是永久存儲，哪怕你刪掉，它那裏還幫你備着份呢。
目前Clearview的匹配準確率高達75%，哪怕你帶着帽子或者眼鏡，一樣能匹配，反饋回與你相關的所有照片、視頻，甚至連你自己都不知道存在的內容。
更可怕的是，Clearview不僅會存儲警察提交的信息，還可以修改所返回的數據。
目前Clearview正在秘密研發配置了該技術的AR眼鏡，也許我們很快就能“看透”周圍所有的人了。
細思極恐，如果落到有心人手中，這樣的技術，會造成什麼樣的惡果？
就在8月上旬，緬因州波特蘭市投票通過了禁止執法人員使用人臉識別監控程序的法令。
圖片來源：Twitter
算上波特蘭市，這已經是美國第9個宣佈禁止使用人臉識別技術的城市了。最早從2019年5月開始，舊金山成為全球首個宣佈禁用人臉識別技術的城市。隨後灣區城市奧克蘭以及加州伯克利，也全票通過了政府人臉識別禁用法案。
東海岸深藍州馬薩諸塞州緊跟灣區步伐，薩默維爾加上布魯克萊恩、劍橋和北安普頓4個城市也相繼加入到禁用行列之中。
到今年6月，波士頓對外宣佈禁用人臉識別技術。在禁用人臉識別的城市裏，波士頓城市規模排第二，僅次於舊金山。
圖片來源：Boston.com
不僅是地方政府，科技公司也開始後退，主動禁售相關技術。今年年中，三大巨頭科技公司相繼發聲：
IBM宣佈將不再提供、開發或研究任何人臉識別和人臉分析軟件——這是美國科技巨頭第一次旗幟鮮明地放棄人臉識別業務。
亞馬遜宣佈將會暫停向美國警方提供人臉識別服務，時間長達一年。
微軟表示，在有監管面部識別技術的聯邦法律出台之前，不會向警察部門出售這種技術。
圖片來源：Washington Post
早在2011年，谷歌前CEO Eric Schmidt就曾公開表示：“人臉識別是谷歌唯一研發了，但決定暫停的技術。”
二、有錢不賺，科技公司是不是傻？
舊金山算得上是全球對科技包容性最高以，且科技最為發達的城市之一了。在2019年5月宣佈全面禁止警察和其他政府機構使用人臉識別技術的時候，作為第一個禁止政府使用人臉識別技術的城市，引起了不小轟動。
當時頒佈的條例中決定禁止全市包括舊金山警察局在內的53個部門使用人臉識別技術，該警局曾經在2013年～2017年進行了人臉識別相關技術測試。
但舊金山國際機場和舊金山港中由聯邦政府控制的設施不再限制範圍內，同時未禁止普通商家或居民使用人臉識別或監控技術（如監控攝像機）。此外，該條例也沒有限制警察在刑事案件中使用個人的Google Nest camera監控視頻。
説到人臉識別技術被抵制的原因，舊金山監督委員會官員Aaron Peskin向CNN表示：“我們大家都會支持良好的治安管理，但誰都不想生活在處處受監控的環境中。我認為舊金山有責任提出那些正對全世界產生影響且發生在人們身邊的事情。”
圖片來源：世面
如果你以為人臉識別是因隱私問題、害怕被監控而禁用，那隻猜對了一半。
另一個重要原因——説出來更像是Black Lives Matter的影響——種族歧視問題。
波士頓市議會議員Michelle Wu和Ricardo Arroyo説，人臉識別對不同膚色的人存在歧視，識別白人男性的準確率要比有色人種女性高得多。
議會的文件中也提到，人臉識別並不可靠，不可靠的原因很大程度上指的是準確率的問題，也無法滿足波士頓警署的要求。
2015年，有黑人被谷歌的圖像識別算法識別成了大猩猩。後來針對這個問題，谷歌乾脆在分類中刪掉了“大猩猩”這個標籤。
圖片來源：Twitter
經過幾年發展之後，2018年Joy Buolamwini和Timnit Gebru的研究首次揭示了商業人臉識別系統的缺陷：人臉識別針對黑人女性的錯誤率高達21%～35%，而針對白人男性的錯誤率則低於1%。
圖片來源：Bloomberg QuickTake Originals & MIT Media Lab
如果是在警用安保等場景下，後果可能會非常嚴重。
另一項研究發現，可能是因為使用RGB攝像頭進行人臉識別時，深膚色人的人臉特徵比較難找，尤其是在暗光條件下。此外，在一個被廣泛使用的人臉識別數據庫中，75%都是男性，同時80%是白人。
更有甚者，2019年年初，亞馬遜的圖像識別AI系統Rekognition曾將28名美國國會議員識別成了罪犯，讓整個科技行業一片譁然。
圖片來源：ACLU
Rekognition視覺識別技術是亞馬遜在2016年推出的，最初是基於海量數據庫進行物體識別，但很快就成為美國警方等執法部門用於掃描嫌疑人和非法移民的主要技術。
美國公民自由聯盟（American Civil Liberties Union，ACLU）稱人臉識別為“可能是有史以來最危險的監視技術”，並多次上書美國政府，要求亞馬遜停止向警方提供其Rekognition人臉識別技術。
值得一提的是，2019 年，亞馬遜在股東會議上就“停止向政府機構銷售人臉識別技術”進行投票，結果顯示，只有2.4%的股東同意這一銷售禁令，所以投票沒有通過。
不過當越來越多人意識到這項技術背後的隱患，社會輿論環境正在迫使這些科技公司做出改變。
4月份剛剛走馬上任的IBM首席執行官克里希納，近期就在致國會的信中説，必須對人臉識別和人工智能技術進行嚴格測試，以檢查偏倚，並且必須對這些測試進行審核和報告。
“IBM堅決反對並且絕不容忍將任何技術（包括其他供應商提供的面部識別技術）用於大規模監視，種族貌相、侵犯基本人權和自由，或任何與我們的價值觀、原則相牴觸的場景。”他説。
圖片來源：IBM
據CNBC報道，一位知情人士稱，IBM此舉迎合了當前美國社會對警察改革和種族平等的強烈呼聲，同時也是一個在商業和道德雙重影響下的重要決策。
在IBM退出人臉識別領域之後，亞馬遜發佈聲明稱，將暫停向警方提供其人臉識別技術（Rekognition）一年時間。同時，亞馬遜也表示：“我們希望這項為期一年的禁令能給國會足夠的時間來實施適當的規定，如果有請求，我們隨時準備提供幫助。”
在亞馬遜宣佈的第二天，微軟總裁Brad Smith在《華盛頓郵報》的採訪中稱，將不會向美國警方銷售人臉識別技術，直到美國出台相關國家法律，能夠監管這項技術。
此後，微軟首席執行官薩蒂亞·納德拉也發佈了看法：“某些技術對社會具有潛在危險，如果濫用，政府應對其進行監管。”
同時，微軟公司對外的聲明是：當連人臉識別的製造者也因為這種監控技術太危險而拒絕出售時，立法者就不能再堅稱對我們的權利和自由的沒有威脅了。
圖片來源：Microsoft
簡單來説，正是基於隱私安全和種族歧視兩大原因，才導致了越來越多的地方政府和科技公司對於人臉識別技術的棄用。
儘管這一禁令可能給硅谷的科技公司帶來不小損失，但在問題得到解決之前，恐怕各方不會輕易放鬆對人臉識別的監管。
當然，社會針對人臉識別技術的禁令，不是禁止個人使用這項技術，更不是禁止這項技術的發展。我們用自己的臉解鎖自己的iPhone，這完全不會受到限制。目前真正受到限制的，是權力機構（政府、警察等）以及商業公司對人臉識別技術的應用。
如果是政府或者警察使用這項技術在公共場所進行監控，那麼公眾很可能並不知道自己的臉正在被拍攝、掃描、分析、比對、納入數據庫，即便知道也不可能把人臉識別系統關掉。
限制權力機構使用人臉識別技術，更多是為了防止一個壓迫性的監控國家的產生。
而科技公司作出限制，也是防止他們自身可能出於商業利益的追求，大規模地收集人臉數據，並且可能會在不經過消費者本人許可的情況下將這些數據出售、濫用。
三、交出自己的臉，我們會得到什麼？
回到文章開篇提到的電視劇《全知》。
在微型無人機24小時監控下，從生理指標到行為模式，人們的每一個眼神、每一句話、每一個行為，都被攝像頭記錄在案。誰能掌握存儲了所有影像資料的數據庫，誰就擁有了上帝視角。
圖片來源：Douban Moive
這樣巨大的利益，如何能令人不動心？
劇情的設定，將科技作用下人性的異變展現得淋漓盡致。硅兔君在這裏就不劇透啦。但這個虛擬故事的結局也在警示當下，當科技進步到一定程度後，如果龐大的能力掌握在懷有惡意的個人或機構手中時，將會帶來無法想象的災難。
相信這是大家都不願意看到的。過去數年中，人臉識別是發展最快的新技術之一，不能否認這項技術在時代科技的迭代更新中起到的推動作用。
圖片來源：英偉達GPU技術大會上展示的執法人臉識別系統
你看現在世界的每個角落——過境處、警車、體育場、機場和高中等等，那些高高懸在人羣上空的攝像頭。
人臉識別技術，可以幫助監管人員發現犯罪分子並防止身份欺詐，可以提高破案率、降低犯罪率，同時也可以幫助尋找失蹤兒童。但這也不足以抵消人們對這項技術被濫用的擔憂。
曾經有個機構做了一項調查：
你願意用多少隱私，來換取工作和生活的便利？0是完全不泄露隱私，10是把所有隱私都交出去。調查結果是，絕大部分人都把隱私值設定在6左右。即人們傾向於放棄一部分隱私來獲取便利性。
不過放到實際生活中，這真的能由我們自己掌控嗎？科技的進步無法阻擋，只希望人臉識別技術商用的腳步能放慢一點點，立法和監管的腳步能再快一點，在善與惡之間找到一個平衡點。
參考資料：
https://edition.cnn.com/2019/05/14/tech/san-francisco-facial-recognition-ban/index.html
https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/
https://www.bbc.com/news/technology-52978191
https://new.qq.com/omn/20200629/20200629A0NKC700.html
https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html
本文來自公眾號：硅兔賽跑（ID：sv_race），作者：Amelie
正在改變與想要改變世界的人，都在 虎嗅APP