抖音安全中心:半年搗毀25個黑產團伙

DoNews12月1日消息(記者 謝媛媛)今日,抖音在北京舉辦以平台治理為主題的開放日,負責抖音平台治理的抖音安全中心團隊就安全運營、審核、技術攻防、聯合打擊等方面進行了介紹。

記者在開放日上獲悉,抖音安全中心每天攔截處理的違法違規內容、行為超過10億條,其中包括違規註冊、刷量、刷粉、點贊以及發佈違規評論、視頻等多類內容行為。

今年以來,抖音安全中心封禁色情導流和色情招嫖帳號超過100萬,僅9月份期間就封禁305248個帳號。在4月份開始的仿冒名人專項打擊中,已經封禁黑產作弊賬號18萬多個,重置仿冒資料用户6萬餘個,處理問題視頻超過400多萬條。

抖音安全中心:半年搗毀25個黑產團伙

抖音安全中心負責人帥帥介紹團隊

抖音安全中心負責人帥帥表示:“抖音安全中心一直堅持‘提前發現、事先攔截、事中提醒、事後追擊’的平台治理原則,通過技術手段、產品手段、運營手段治理平台違法違規行為。同時,我們也會關注和研究學習黑灰產行業動態,不斷提升治理打擊技術能力,保障每一位抖音用户的權益。”

在平台違規內容、行為的提前發現與攔截上,抖音採取平台內外配合的機制。

在內部,抖音安全中心通過組建審核團隊,建立完善的審核標準、審核流程,提前對平台上的違規內容、行為進行攔截處理。同時建立日常巡檢機制,設立專項巡檢制度,通過客户端實際檢測、後台技術檢測等手段進行常規巡檢,配合審核團隊多渠道發現違規內容、行為。

與外部專業團隊和用户的配合上,抖音安全中心一方面是邀請專業人士參與到平台審核流程中,例如謠言審核工作中,會求證權威專家團保證判斷的準確性。另一方面,抖音安全中心也非常注重用户反饋,提供了多種舉報渠道幫助用户反饋信息,包括站內舉報、郵箱舉報、違法和不良信息舉報電話、“啄木鳥舉報平台”小程序等。截至2020年11月,“啄木鳥舉報平台”小程序已經累計處理用户反饋的違法違規帳號159.5萬個。

帥帥表示:“實際上,相比平台上用户碰到的問題,抖音安全中心處理的問題相當於是海面下龐大的冰山,不僅是繁雜多樣,而且是反覆多變的。尤其是近幾年,黑灰產團伙對新興技術和工具的利用,進一步加大了我們工作的難度。”

抖音安全風控專家張曦盛在分享中指出,黑灰產團隊利用新技術、新手段對平台的攻擊滲透行為,效率要超過傳統攻擊的100倍,甚至更高。

例如,在現場展示的視頻中,黑灰產團伙成員利用“羣控軟件”,可以操控幾十上百台手機,自動關注、點贊、發評論,甚至可以自動私信並回複用户信息。

今年9月,抖音開啓了對“羣控軟件”的專項打擊工作,過去兩個月中,公司法務已經在杭州、深圳及廣州等多個地區針對四家涉及抖音的“羣控軟件”運營公司提起訴訟,並獲得了杭州、廣州當地法院的支持,分別出具禁令,相關“羣控軟件”已被勒令停止運營。

“黑灰產行業的技術與手段一直在升級,我們在與他們對抗的過程中,也在不斷升級技術與策略。”張曦盛介紹,“抖音安全中心在初期是利用詞表、名單及頻控策略進行對抗,然後建立了決策引擎和工具平台,開始利用平台化的工具進行更有效率的對抗打擊。”

抖音安全中心:半年搗毀25個黑產團伙

抖音安全風控專家張曦盛介紹抖音風控工作中的技術對抗

目前,抖音安全中心團隊已經將數據安全、人工智能等技術應用到了黑灰產打擊中,構建立體防禦體系。張曦盛在現場展示了抖音安全中心的反欺詐解決方案,該方案利用抖音安全中心自主研發的“鯊魚反欺詐系統”,能夠在賬號註冊、登陸、發佈評論內容等階段判斷賬號是否是黑灰產詐騙賬號,並執行對應的處理措施。

除此之外,張曦盛表示抖音安全中心目前也組建了紅藍軍攻防團隊,開展黑灰產的行業研究,希望先於犯罪分子發現黑灰產行業最新趨勢。

開放日上,抖音安全中心還展現了針對平台違法違規行為、內容的聯動打擊進展,最近4個月,抖音安全中心已經協助各地公安機關打擊涉嫌詐騙、色情的黑灰產團隊25個,刑事拘留87人。

“社會問題與抖音平台問題,是共生共存的。所以我們一直認為,平台責任不該侷限於平台。在進行平台治理的過程中,抖音團隊會盡可能地更進一步考慮問題,希望在解決自身平台問題的過程中,也能夠與更多機構進行跨平台聯動打擊,進一步解決社會問題。”抖音安全中心總監周冉表示,“也希望社會各界要聯動起來,企業與公安、企業與企業、企業與用户之間,要進行聯合聯動,共同打擊違法違規行為,建設美好、正向、健康且有價值的行業生態。”

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 1767 字。

轉載請註明: 抖音安全中心:半年搗毀25個黑產團伙 - 楠木軒