12月1日,抖音在京舉辦以平台治理為主題的開放日,負責抖音平台治理的抖音安全中心團隊首次對外亮相,就安全運營、審核、技術攻防、聯合打擊等方面進行了介紹。
據介紹,抖音早在成立時就組建了安全運營團隊,後升級成為抖音安全中心,擁有安全運營、安全風控以及治理打擊等多個團隊,專門負責抖音平台違法違規內容與行為的治理工作。
目前,抖音安全中心每天攔截處理的違法違規內容、行為超過10億條,其中包括違規註冊、刷量、刷粉、點贊以及發佈違規評論、視頻等多類內容行為。
抖音安全中心負責人帥帥介紹團隊
抖音安全中心負責人帥帥表示:“抖音安全中心一直堅持‘提前發現、事先攔截、事中提醒、事後追擊’的平台治理原則,通過技術手段、產品手段、運營手段治理平台違法違規行為。同時,我們也會關注和研究學習黑灰產行業動態,不斷提升治理打擊技術能力,保障每一位抖音用户的權益。”
在平台違規內容、行為的提前發現與攔截上,抖音採取平台內外配合的機制。
在內部,抖音安全中心通過組建審核團隊,建立完善的審核標準、審核流程,提前對平台上的違規內容、行為進行攔截處理。同時建立日常巡檢機制,設立專項巡檢制度,通過客户端實際檢測、後台技術檢測等手段進行常規巡檢,配合審核團隊多渠道發現違規內容、行為。
與外部專業團隊和用户的配合上,抖音安全中心一方面是邀請專業人士參與到平台審核流程中,例如謠言審核工作中,會求證權威專家團保證判斷的準確性。另一方面,抖音安全中心也非常注重用户反饋,提供了多種舉報渠道幫助用户反饋信息,包括站內舉報、郵箱舉報、違法和不良信息舉報電話、“啄木鳥舉報平台”小程序等。截至2020年11月,“啄木鳥舉報平台”小程序已經累計處理用户反饋的違法違規帳號159.5萬個。
目前,抖音安全中心團隊已經將數據安全、人工智能等技術應用到了黑灰產打擊中,構建立體防禦體系。抖音安全風控專家張曦盛在現場展示了抖音安全中心的反欺詐解決方案,該方案利用抖音安全中心自主研發的“鯊魚反欺詐系統”,能夠在賬號註冊、登陸、發佈評論內容等階段判斷賬號是否是黑灰產詐騙賬號,並執行對應的處理措施。 除此之外,張曦盛表示抖音安全中心目前也組建了紅藍軍攻防團隊,開展黑灰產的行業研究,希望先於犯罪分子發現黑灰產行業最新趨勢。
“社會問題與抖音平台問題,是共生共存的。所以我們一直認為,平台責任不該侷限於平台。在進行平台治理的過程中,抖音團隊會盡可能地更進一步考慮問題,希望在解決自身平台問題的過程中,也能夠與更多機構進行跨平台聯動打擊,進一步解決社會問題。”抖音安全中心總監周冉表示,“也希望社會各界要聯動起來,企業與公安、企業與企業、企業與用户之間,要進行聯合聯動,共同打擊違法違規行為,建設美好、正向、健康且有價值的行業生態。”