12月1日,抖音在京舉辦以平臺治理為主題的開放日,負責抖音平臺治理的抖音安全中心團隊首次對外亮相。
據通報,抖音安全中心每天攔截處理的違法違規內容、行為超過10億條,其中包括違規註冊、刷量、刷粉、點贊以及釋出違規評論、影片等多類內容行為。
今年以來,抖音安全中心封禁色情導流和色情招嫖賬號超過100萬,僅9月份期間就封禁305248個賬號。在4月份開始的仿冒名人專項打擊中,已經封禁黑產作弊賬號18萬多個,重置仿冒資料使用者6萬餘個,處理問題影片超過400多萬條。
此外,抖音安全中心也注重使用者反饋,提供了多種舉報渠道幫助使用者反饋資訊,包括站內舉報、郵箱舉報、違法和不良資訊舉報電話、“啄木鳥舉報平臺”小程式等。截至2020年11月,“啄木鳥舉報平臺”小程式已經累計處理使用者反饋的違法違規賬號159.5萬個。
“抖音安全中心一直堅持‘提前發現、事先攔截、事中提醒、事後追擊’的平臺治理原則,透過技術手段、產品手段、運營手段治理平臺違法違規行為。”抖音安全中心負責人帥帥表示,抖音安全中心也會關注和研究學習黑灰產行業動態,不斷提升治理打擊技術能力,保障每一位抖音使用者的權益。
抖音安全風控專家張曦盛指出,黑灰產團隊利用新技術、新手段對平臺的攻擊滲透行為,效率要超過傳統攻擊的100倍,甚至更高。
例如,黑灰產團伙成員利用“群控軟體”,可以操控幾十上百臺手機,自動關注、點贊、發評論,甚至可以自動私信並回複用戶資訊。
目前,抖音安全中心團隊已將資料安全、人工智慧等技術應用到了黑灰產打擊中,構建立體防禦體系。張曦盛展示了抖音安全中心的反欺詐解決方案,該方案利用抖音安全中心自主研發的“鯊魚反欺詐系統”,能夠在賬號註冊、登入、釋出評論內容等階段判斷賬號是否是黑灰產詐騙賬號,並執行對應的處理措施。
開放日上,抖音安全中心還展現了針對平臺違法違規行為、內容的聯動打擊進展,最近4個月,已經協助各地公安機關打擊涉嫌詐騙、色情的黑灰產團隊25個,刑事拘留87人。