人工智慧時代個人資料的法律保護

2019年1月22日，法國國家資訊科技和自由委員會（CNIL）以谷歌違反歐盟《一般資料保護條例》中的個人資料保護義務為由，對其開出5000萬歐元的“史上最嚴厲罰單”。谷歌被罰事件提醒我們，人工智慧技術的不斷髮展亦給個人資料保護帶來了挑戰。我國學界亦對個人資料保護問題持續關注，2019年5月11日，全國人大監察和司法委副主任委員、中國法學會副會長張蘇軍在第八屆中國公司法務年會上表示：“隨著5G時代的來臨，未來網路生態架構將會是人、機、物共融和萬物互聯的時代，大資料的安全保護和合法利用的需求將更加迫切。”

困境：技術發展對個人資料保護的衝擊

資料是人工智慧的基礎，演算法是人工智慧的本質。人工智慧發展離不開海量的個人資料的“餵養”，必須不斷地收集資料並加以演算法處理，方可維持智慧化的運作。不斷增強的資料採集能力，日益提高的資訊傳輸速度，超強的計算能力、資料儲存能力正引領人工智慧的高速發展，使人類社會從資訊化邁入智慧化時代，亦將個人資料的保護推向前所未有的窘境。

第一，個人資料獲取途徑更加隱匿。隨著技術的不斷精進，設有感測器和處理器的人工智慧產品被廣泛應用於交通工具、家居、醫療保健、公共安全等諸多領域。智慧的表象隱藏著資料收集的過程，大規模的人工智慧應用正悄無聲息地收集千百萬使用者的種族、手機號碼、位置資訊、家庭住址等資料。個人資料始終處於人工智慧的“視野”下，原本隱秘的空間也因人工智慧的存在受到衝擊。人工智慧的發展已打破人們原本生活的私密狀態。未來，人工智慧產品必然隨著技術的進步遍及千家萬戶，人工智慧賴以發展的基礎——資料，將以更加隱匿的方式被悉數收集。可怕的不僅是個人資料被收集，更是資料收集的隱匿性，使人們幾乎意識不到其資料裸露在人工智慧面前。

第二，分析能力愈加強大。資料收集的隱匿性已然使人們的個人資料處於岌岌可危的地步，愈加強大的資料識別分析能力更將個人資料推向深淵。愈加強大的人工智慧技術早已具備分析並預測自然人的工作表現、經濟狀況、健康、興趣喜好、可信度等方面的能力，亦能衝破匿名化的規制將資料關聯到自然人。更為恐怖的是，人工智慧技術能夠精準地分析出某個自然人的人脈關係和經濟水平等狀況。研究表明，演算法已經能夠輕易瞭解一個人，此種瞭解程度不僅可達到高於同事、朋友、家人的瞭解程度，甚至可能比自己更加了解自己。某種程度上說，人工智慧技術的發展已經有能力使現有資料保護制度淪為“皇帝的新衣”。

第三，個人資料被濫用的結果更加嚴重。在萬物相連的人工智慧時代，人們真正獨處的時間少之又少，個人資料被非法收集和洩露的風險越來越高，由此造成的結果必將更加嚴重。美國曾發生依託人工智慧系統，利用選民性格弱點推送假資訊，製造“資訊繭房”，傳播政治理念，針對性地向選民推送影響政治立場的資訊來干預大選的事件。這是個人資料被大量濫用的重大事件，亦是對公民基本權利的干涉。另外，個人資料被非法收集處理後向使用者精細化推送廣告屢見不鮮，使用者對各種騷擾電話和簡訊亦不勝其煩。更為可怕的是，一旦涉及種族、宗教信仰、性生活和性取向等方面的個人敏感資料被洩露，更會給資料主體帶來不可預估的風險。

未來，隨著物聯網、雲計算、大資料、移動網際網路等技術的不斷革新升級，智慧化、精細化的人工智慧的應用必然更加廣泛。更加隱匿的個人資料獲取途徑、愈加強大的識別分析能力和更為嚴重的洩露後果使得個人資料的保護面臨更加嚴峻的挑戰。因此，加強人工智慧時代個人資料保護力度成為當前面對的重大課題。

出路：法律規制與倫理指引

第一，重塑同意機制。首先，同意原則應當貫穿資料處理的各個環節，每個階段都需要得到資料主體明示的同意。其次，應當簡化同意的形式，通知應當使用簡單清楚的語言。再次，已作出的同意可以隨時撤回。最後，處理特殊型別的資料時，應當施以更加嚴格的同意條件。

第二，拓展資料主體權利。其一，被遺忘權。從法律上賦予資料主體要求徹底刪除網頁瀏覽記錄、消費記錄、運動軌跡等資料的權利，可防止此類資料被超出原本收集目的的二次處理利用，透過隔斷資料傳播，保護資料主體權利。其二，資料便攜權。應賦予資料主體要求資料控制者提供完整的、結構化的個人有關資料，並可以將此類資料轉移給其他資料控制者的權利。以此促進各個資料控制者良性競爭，提高行業標準和資料保護水平。其三，反自動化決策權。為了賦予資料主體對個人資料更大的掌控力和自決權，減小自動化決策可能帶來的傷害，應當確立反自動化決策權。

第三，加強個人敏感資料的保護力度。人工智慧時代應尤為注重個人敏感資料保護。應在法律層面將個人醫療及健康資料、基因等生物特徵資料、性偏好、通訊內容、財產資訊等界定為個人敏感資料。另外設定嚴格條件，僅在涉及國家、社會及公共利益時，方可允許對此類資料進行處理。

第四，加重資料控制者責任。如今資料控制者多為網際網路企業，在營利目的的驅使下，大多企業為搶佔行業先機極易忽視個人資料保護的問題。未來立法不僅可以在個人資料糾紛訴訟中採用舉證責任倒置方式倒逼資料控制者加強資料保護力度，亦可參考GDPR的處罰標準，透過對違法違規行為懲罰，警示資料控制者守法自律。

第五，制定倫理準則，提供正確指引。在倫理層面高度關注人工智慧系統和產品在開發、使用過程中的個人資料保護，並提出尊重人權、非歧視、公平、透明、安全穩定等倫理層面的要求，為人工智慧的發展指引正確的方向，以期更好地保護個人資料。

人工智慧是當今時代最具變革性的力量之一，將註定改變社會結構，必須努力把握其促進繁榮和增長的巨大機會。然而也應當高度關注技術發展衍生出的問題，借鑑域外較為先進的保護措施，構建我國人工智慧時代下資料保護的法律制度和倫理規範。加強對個人資料的保護並非為了限制人工智慧的發展，而是希望透過確立個人資料處理中的自然人保護和個人資料自由流通的規範，使人工智慧在尊重人權、保護隱私的軌道上高速平穩地駛向未來。

（本文系2019年重慶市研究生科研創新專案“個人敏感資訊保護制度研究”（CYB19138）階段性成果）

（作者單位：西南政法大學民商法學院）

（來源：中國社會科學網—中國社會科學報）

找記者、求報道、求幫助，各大應用市場下載“齊魯壹點”APP或搜尋微信小程式“壹點情報站”，全省600多位主流媒體記者線上等你來報料！ 我要報料