1989 年，與聖誕節一同到來的，還有嶄新的互聯網裏程碑：萬維網 (WWW)。
萬維網的發明者伯納斯·李認為：互聯網最具價值的地方，在於賦予人們平等獲取信息的權利。基於這個理念，1993 年 4 月 30 日，萬維網對外免費開放，讓地球人都成了漁民。
受互聯網分享文化的薰陶，隨手拍照、分享集贊已是常態，但在人工智能時代，你親手曬在社交網站上的照片，很可能會把自己推向被監控的境地。
相當數量的人，在不知不覺中，已經成為受害者。
1、人臉識別的“骯髒小秘密”2020 年初，位於美國的面部識別技術公司 Clearview AI，驚爆醜聞。
Clearview AI 通過軟件，悄無聲息的從 Facebook 和谷歌等多個網站中，提取人臉圖像，並創建了一個數據庫，有可靠數據顯示，數據庫中的人臉圖像超過 30 億張。Clearview AI 一邊充實數據庫，一邊將數據庫授權給執法機構使用。
目前，已有世界各地的數百個執法機構取得授權，甚至還包括一些私營公司。在如此龐大數據集的交易下，照片的擁有者卻毫不知情。
這樣的事情，遠不止這一起。
2019 年，紐約時報發表了一篇報道，題目是《你孩子的照片，是如何為監控技術提供動力的》。
紐約時報的報道
克洛伊和賈斯珀的母親，是眾多熱衷於用照片記錄孩子的母親之一。2005 年，她在照片分享網站 Flickr 上註冊後，上傳了很多孩子的照片。
沒想到，14 年後，克洛伊和賈斯珀的照片，和其他家庭的數十萬張照片一起，被存儲在一個叫做“MegaFace”的數據庫中，數據庫裏有近 70 萬個人的肖像，已經被數十家公司下載，不僅用於訓練新一代的面部識別算法，也用於跟蹤抗議者、監視恐怖分子，以及監視廣大公眾。
MegaFace 數據庫中的圖像
而這些照片的數十萬個主人，在醜聞曝出之前，毫不知情。
我們都知道，人臉識別離不開機器學習，而機器學習的重中之重，就是數據樣本。
早期，研究人員想要得到人臉照片，唯一的方式是購買：貼出廣告，吸引有意向的人來到實驗室，在簽署同意書後，讓這些人在不同的光線下，用不同的姿勢拍照，以此作為訓練 AI 的樣本。
到了 21 世紀，網絡開始興起，更為快捷方便的照片獲取方式出現了，只需在搜索引擎中輸入姓名（此時大多是名人），就能下載關於他們的所有照片。
時間繼續往後推移，名人的照片已經不能夠滿足需求，於是，研究人員的目光轉移到了社交媒體上的普通人。
由此，人臉識別領域開始出現“骯髒小秘密”：秘密盜用在線照片，用來訓練 AI，乃至監控。
2、毒藥，亦是解藥歐洲有一個著名的諺語，叫做“阿喀琉斯之踵”。
相傳，阿喀琉斯是凡人英雄珀琉斯和海洋女神忒提斯的兒子，打小就受到父母寵愛。後來有預言傳出，阿喀琉斯長大之後，會成為偉大的英雄，將參加特洛伊戰爭，但特洛伊城會陷落，阿喀琉斯也會戰死沙場。
母親忒提斯一聽，開始想辦法。
為了讓阿喀琉斯有金剛不壞之身，她緊緊捏住阿喀琉斯的腳後跟，把他倒提着浸入冥河，這樣一來，露在水外的腳後跟，成了阿喀琉斯唯一脆弱的地方。
後來，一切都跟預言的一樣，擁有不死之身的阿喀琉斯，被毒箭刺中腳後跟，轟然倒地。
這個諺語説明：再強大的人，也一定會有致命弱點。而深度機器學習的“阿喀琉斯之踵”，就是對抗性樣本。
只要在機器學習的圖像中，稍微加入一點點噪聲 (干擾像素)，機器眼裏的熊貓，一瞬間就會變身成為長臂猿。這意味着，深度學習模型其實非常脆弱。
熊貓和長臂猿中間，只隔着噪聲
這種脆弱性，已經是人工智能時代的安全隱患。
對於無人駕駛來説，攻擊者只要在道路上放置幾張駕駛員都難以察覺的特殊紙片，無人駕駛車輛途徑這裏時，就會突然轉向隔壁的逆向車道，駕駛員很難及時做出反應。這種攻擊就叫做數據投毒。
但毒藥在某種場合下，也能變身為解藥，比如前面提到的在線照片秘密盜用。
前不久，芝加哥大學研究人員設計出一個工具 Fawkes，利用數據投毒的原理，給照片披上一件“隱身斗篷”，能夠避免普通人曬在網上的照片被用來訓練 AI。
在機器的眼裏，照片只是一堆像素數字，只要極細微的更改照片中的一些像素，機器就無法識別出圖像中的人，而在人的眼中，經過修改的照片與原圖，幾乎沒有任何差別。
原圖與修改圖的對比：左上為 Fawkes 第一作者單思雄
研究人員已經將 Fawkes 免費對外開放，當你在各個網站曬出照片之前，只需用 Fawkes 進行修改，就能避免照片被秘密盜用去訓練 AI。經過測試，Fawkes 能夠讓曠世、微軟、亞馬遜等公司的面部識別算法 100% 失靈。
AI 的毒藥，也是“丟臉”的解藥。
這也許就是現代版的“以子之矛，攻子之盾”。
圖片來源於：Cyberpunk 2077
嗨，這裏是淺黑科技，在未來面前，我們都是孩子。
想和我做朋友的話，搜索微信 Muzi_Yanni 就可以找到我，想看更多科技故事，歡迎戳→微信公眾號：淺黑科技（qianheikeji）。
【來源：淺黑科技】
聲明：轉載此文是出於傳遞更多信息之目的。若有來源標註錯誤或侵犯了您的合法權益，請作者持權屬證明與本網聯繫，我們將及時更正、刪除，謝謝。 郵箱地址：[email protected]