本文轉自【央視新聞客戶端】；
許多消費者曾質疑，為什麼並不是旅遊旺季，機票價格卻越搜越高；為什麼聊天時隨口提到某款商品，轉眼就會在各大平臺上看到相關的廣告推送？為什麼使用一款App，會彈出幾十頁翻不完也讀不懂的隱私政策，而要使用它，你必須點選“同意”？當有一天你不想再使用它時，卻怎麼也找不到登出按鈕在哪裡？
大資料時代，我們總能更快地找到自己想要的資訊，卻似乎越來越難躲開其中暗藏的演算法陷阱。
會員價比非會員價還高？平臺運用演算法進行“殺熟”
不久前，一篇質疑某外賣平臺運用演算法進行“殺熟”的文章引發熱議。該平臺的一位會員使用者肖先生指出，同樣的訂單，他的配送費定價時常比非會員使用者的更高。
肖先生： 經常點同一家（的外賣），有一天我開了會員之後發現配送費價格一下就較之前漲出了三倍。然後那天我試了幾乎一小時，配送費一直是比平時高出了六元。
肖先生告訴記者，之後的一週，他在點外賣的時候，經常同時用兩部手機，分別登入會員賬號和非會員賬號，進行對比實驗，發現配送費上的差別總是存在。於是他將這些觀察總結成一篇文章發表了在個人公眾號上。
肖先生： 後來我這篇文章出來之後，很多網友在我後臺留言都有這種會員“殺熟”的情況。比如說一個滑鼠，非會員購買的時候100元，但是用會員買價格變成了110元。結果我開了會員之後，反而比非會員價格還要高，那我開會員的意義在哪。
文章引發熱議後，相關外賣平臺聯絡了肖先生。針對他提出的質疑，平臺方給出的回覆是：配送費上的價格差異是由於系統快取而導致的誤差。
肖先生： 我嘗試了很多次，在一週之內都是這種情況。那快取的說法肯定說不過去。 何來的位置快取呢？在同一個地方，差異就是存在於會員和非會員之間。諮詢了一些技術方面的朋友，造成這麼大的誤差是不可能的。
“殺熟”≠差別定價 相關投訴不斷增多
肖先生的疑惑，最終還是沒能得到一個明確的解答。但是他的經歷，卻讓大資料殺熟這個話題再次走進公眾的視野。圍繞這個問題，記者對中國消費者協會和有關法學專家進行了採訪。
中國消費者協會投訴部主任 陳劍： 經常會有消費者抱怨說我是老會員了，可是我的價格卻比普通會員（使用者）的價格要高。比如說在一些網約車的平臺、電影訂票平臺、訂機票的平臺等等，都會出現這類問題。第二種情形就是有一些消費者如果多次瀏覽一個頁面，會出現（商品）價格上漲的情況。消費者可能基於害怕漲價或者是發現比如機票很緊張的情況，就匆忙下單，結果等他下單之後發現，很快地這個價格又回落了。
據專家介紹，大資料殺熟，最關鍵的一步就是要對客戶非常“熟悉”，並由此提供差異化選擇，這在以往的一些商業模式中其實早已存在，而且很少有負面評價。
北京航空航天大學法學院副教授 裴煒： 大資料殺熟本身來說，它背後的現象其實是差異化定價。比如說保險，不同的人的保金、保額或者保險的強制期限都會不一樣。所以如果單純用差異化的定價來說的話，它不一定構成一個負面性的東西。我們所反感的是沒有正當性基礎的差別定價。
清華大學人工智慧國際治理研究院副院長 梁正： 交通保險會根據你的事故狀況、你的駕駛行為，來決定是否給你折扣，還是要加價。這個行為可能還在大家所接受的是客觀的行為，或者是客觀的個人差別上。現在大家更關注的是，我的個人資訊被利用去生成我的資料畫像，然後對我進行定價上的這種區分。
據專家介紹，大資料殺熟與常見的差別定價不同，當它無視消費者的知情權和主動權時，也就違背了消費者貢獻資料的初衷。而在我國現行法律體系下，《價格法》《消費者權益保護法》和《反壟斷法》都針對“大資料殺熟”可能涉嫌違法的情形進行了規制。
北京航空航天大學法學院副教授 裴煒： 2020年的時候，我們專門針對線上旅遊服務出了一個相應的規範，要求線上旅遊經營服務者，不能夠濫用大資料或者是相應的技術，針對使用者他的個性化的特徵來進行一個差異化的待遇。《消費者保護法》裡面本身就有相應的規定，我們有獲得公平交易的權利，這本身就意味著要有一個價格的合理性。同時這個“殺熟”有可能還會涉及到比如說反壟斷法上的一些相關內容。問題是存在的，但是我們也看到我們國家的立法，確實也是在不斷地去回應這些現實的問題，努力地去保護我們使用者的一些合法權益。
據中消協介紹，消費者對“大資料殺熟”等問題投訴不斷增多，問題的核心是網際網路平臺對演算法技術的應用問題，集中體現在推薦演算法、價格演算法、評價演算法、排名演算法、機率演算法和流量演算法等方面。
中國消費者協會投訴部主任 陳劍： 比如說消費者在買商品或者服務的時候，平臺會根據消費者瀏覽過的頁面、消費者一些喜好，包括他的行蹤軌跡，來對他形成一些個性化的推薦。其實可能經營者對他進行了一些精準的個人資料畫像。這種畫像相關的商品和服務只推薦給了他，所以他所獲取的知情權就是存在很大的缺陷。
網際網路平臺是如何“熟悉”每一位使用者的呢？答案是透過使用者畫像。在精準的使用者畫像背後，是平臺所累積的大量個人資料。
清華大學人工智慧國際治理研究院副院長 梁正： 用我的這些資料，你最後對我作的這樣的一個（刻畫），這個是不是準確？太準確了的話，大家會擔心被操控。稍微深入一點討論就會發現，我在意的到底是本身這個叫做歧視性的定價，還是說背後所反映出來的我的資訊被不當地採集和利用？
平臺累積大量個人資料 “算”制使用者畫像
基於大資料的使用者畫像，能讓商家摸清你更愛吃辣還是酸，並透過演算法把更符合你口味的餐廳排序靠前。使用者資料，往往是透過一個個手機App被網際網路平臺所採集的。而在我們和這些App打交道的過程中，同樣也有令大家擔憂的問題不斷出現。
App究竟是如何實現高精度地智慧推送？普遍被使用者感知的“App偷聽”是否真實存在呢？
App治理工作組由全國資訊保安標準化技術委員會、中國消費者協會、中國網際網路協會、中國網路空間安全協會的一批網路安全法律、技術專家組成。
技術專家首先透過一款由他們開發的模擬“App偷聽測試程式”。透過測試，證實了當測試程式置於前臺執行時，“偷聽”是可以實現的。
此外，經過對比實驗，技術人員告訴我們，在測試程式退至後臺，或者在手機處於鎖屏的情況下，錄音依然可以持續進行一段時間，但都會自行終止。只是不同的手機作業系統，鎖屏下持續錄音的時長略有不同。
那麼，在技術上可以實現的“偷聽”手段，是否在市面上的App中被濫用了呢？
App治理工作組技術專家 何延哲： 我們在做實際地對偷聽的這種檢測的時候，發現目前還沒有發現真正意義上哪款App有這種，把語音資訊上傳之後的偷聽行為。
App治理工作組專家介紹，偷拍、偷錄雖然在技術上可以實現，但是這種方式成本高昂、效率低下，而且存在高昂的法律風險。
App治理工作組專家表示，目前無論是行業標準還是技術層面，都在進一步強化對手機麥克風等敏感許可權呼叫的透明度，以做到讓手機使用者知情。
App治理工作組技術專家 何延哲： 現在我們看到有一些手機作業系統，已經實現了對麥克風使用的實時提示。我們叫攝錄指示器，也就是說當你要呼叫麥克風的時候，有一個狀態列，有一個紅點或者說有一個提醒。
剛剛和朋友聊起健身計劃，轉眼網購平臺都開始向你推薦健身用品；或者在一個平臺檢索過火鍋底料，許多平臺都開始向你頻繁推薦涮鍋食材甚至是鍋具。如此精準的個性化推薦是如何實現的呢？
App治理工作組技術專家 何延哲： 一個App可以把一個使用者做360度的畫像。這個畫像我相信，它是一個常年積累的結果，這是第一； 第二，是多個渠道匯聚的結果。
據專家介紹，畫像的準確性，主要是透過對我們的購買記錄、瀏覽記錄、搜尋記錄，甚至是下載過的應用程式清單等資訊進行大資料分析，最終得以實現的。
App治理工作組技術專家 何延哲： 為什麼說有時候你會感覺被偷聽呢？提供大資料的這個來源，它不是當前的這個App，它可能是其他App。你去做過一些操作，它會把相應的資訊彙總到一起，它可能還會關聯你的好友、關聯你同一個區域內的人員。然後他們有的一些動作，也可能會成為它推送廣告的一個方向。
專家提示，使用者可以在手機作業系統的許可權設定裡，找到麥克風許可權，檢查目前有哪些App被授權使用麥克風。根據自己的需要，使用者是可以隨時關閉對App使用麥克風的授權的。
App違法違規收集個人資訊更應被重視
即使是原本不屬於個人資訊的資料，在大量匯聚之後，也能挖掘出事物之間不為人知的聯絡。因此在App治理工作組專家看來，更應該被重視的，是App違法違規收集使用個人資訊的行為。而在他們近日對市面上的App進行檢測時，發現了隱私政策篇幅長、使用者難以讀懂；賬戶無法登出等諸多問題。
App治理工作組技術專家 何延哲： 治理工作會非常關注收集個人資訊最小化的問題。事實上這個問題我們從實際上來看，從這兩年來看的話，其實是解決了一部分問題。但是解決問題的速度包括效果可能還不太理想，包括那個隱私政策，確實有了，但是它寫得好不好？登出有了，那他登出的條件合不合理等，這方面有一些問題。
我們舉一個例子。在測試的過程中，我們發現這一款桌布的App ，它的隱私政策竟然有一萬多字。那我們看它到底寫了什麼。我相信沒有任何一個人，會把這個隱私政策讀完的。即便是像我們這種每天讀隱私政策的人看得都很頭疼。就比如說，這個隱私政策中寫的這個位置資訊。App說我要位置資訊，它說了一大堆理由，但是我看它這個理由和桌布都沒有什麼關係。
北京航空航天大學法學院副教授 裴煒： 隱私政策究竟有沒有真的服務到使用者，有沒有真的保護到個人，這塊其實是屬於一個斷裂的狀態。所以未來比較擔心的一點，就是這種保護的形式化。
App治理工作組設有“App個人資訊舉報”微信公眾號平臺和專用舉報郵箱。專家告訴記者，賬號登出難，是目前使用者投訴量很大的另一個問題。
中國人民大學未來法治研究院副院長 丁曉東： 我們從資訊法律的研究上來說，經常有一個術語叫做“數字烙印”。在這個網路社會上，踩的腳印全部都是被永久留痕的。在我們國家的個人資訊保護法裡專門作出了規定，這個我們說從法律權益上來說，它是屬於個人的一種刪除權。
北京航空航天大學法學院副教授 裴煒： 資訊科技安全國標，其中涉及到個人資訊保安規範裡面，就專門提到關於這個登出。就是說使用者你在登出或者是停止使用某種服務的時候，它的途徑和方式應該儘可能地與你使用這個服務的時候，它的這個途徑和方式是相同的。那麼同時你在登出的過程中被要求提供的資訊，不應該比你在使用App的時候使用的這些資訊、提供的身份資訊更多。
專家介紹，在資料要素的流透過程中，個人資訊的採集，只是其中一個環節。保護個人資訊保安，資料的儲存、處理和流通環節，同樣需要關注。
中國人民大學未來法治研究院副院長 丁曉東： 如果把前端環節（資料蒐集）就給封閉的話，其實對於人工智慧和資料產業的發展，其實會造成很大的影響。那怎麼樣去調和呢？我想一個很重要的方面就在於說個人資訊的蒐集之後，一定要對它進行一個非常嚴格的全生命週期的一個管理。我們要有匿名化機制、模糊化機制。處理的時候我們可能要採取一些資料最小化的處理原則，處理必要的資料。在儲存和流通環節以及保護洩露的問題上，尤其要採取一個非常高的標準。
法律還存一定短板 安全邊界該劃定還需探索
現在，技術帶來的便利和個人資訊的保護，正處在一個搖擺天平的兩端。在這個天平的“配平”過程中，法律扮演什麼樣的角色？
中國人民大學未來法治研究院副院長 丁曉東： 我們傳統上的消費者保護法，還要包括合同法對於格式條款上的應用、侵權法對於侵權問題上的應用，以及行政監管裡面的很多問題。在這些法律裡面都可以在一定程度上去援引。但是另一方面，由於很多問題都是由於個人資訊和演算法這些新技術所帶來的，所以在一定程度上來說，也還存在著一定的短板，立法機關也在積極跟進當中。我們的民法典生效，可能會對個人資訊的保護，會提供很多法律上的支撐。那麼個人資訊保護法（草案）、還有資料安全法（草案）的制定，未來的話肯定也會提供很多的額外的保護。
如今，我們每個人都在大量地生產資訊。專家表示，在當下這個由演算法和大資料驅動的社會生活裡，法律扮演的更多是兜底保障的角色。安全邊界的劃定，需要監管機構、平臺和使用者三方在互動中來探尋。
清華大學人工智慧國際治理研究院副院長 梁正： 我們也不是一味地透過比如說一些禁止的方式，就能解決它。技術的進步你都會看到它會帶來新問題，但是這個問題的解決呢，也是靠這些技術本身去給我們解決的。
業內人士 田天： 資料要素作為一項很重要的生產力，去透過資料賦能產業鏈的上下游，促進資料的流通，包括去促進資料的交易等等。由於存在大量的個人隱私資訊，或者說一些商業的資料資產等等，就導致資料的分享、流通和利用，其實中間存在很大的困難。現在其實在學術界相應的一些聯邦學習等等，這種技術都是在解決這個問題，推動相關的標準規範等等，就是並不希望大家因為這種資料安全的一些問題，就因噎廢食。
從事人工智慧安全研究的技術專家告訴記者，目前，技術手段上，已經能夠做到在資料依然儲存在原始位置的情況下，達到同樣的分析效果。
業內人士 田天： 相當於資料明文並不出庫，但是透過加密的一些方式，就可以實現人工智慧在加密資料上的運算。能夠感知到的效果就是說，我的資料資產並沒有洩露，也沒給到別人。沒有任何隱私資訊的洩露，但同時我得到一個在更加豐富的資料上訓練得出來的模型。
清華大學人工智慧國際治理研究院副院長 梁正： 從法律法規的層面來講呢，應該是兜底。然後我們劃定一些紅線，不能夠去影響到公共的安全。像數字經濟的甚至有一些商業模式的迭代是很快的，這方面不能完全等到法律制定出來。針對每一個問題都可以有相應的技術解決方案來應對它，不是沒解的。關鍵是我們要把規則制定清楚。