安全產品之處罰申訴

編輯導語:所有平台都有申訴,申訴可以幫助平台挽回處罰的損失和節省處理特殊渠道申訴的成本。本篇作者就對與安全產品的處罰申訴相關的問題展開了分析説明,希望對你有用。

安全產品之處罰申訴
一、處罰申訴是什麼

申訴是用户主動尋求解除處罰的方式。

與舉報類似,用户產品是申訴的“皮”,每個app都需要有個入口和快速提交的功能,安全產品是申訴的“魂”,申訴後怎麼處理,及最終處理結果,決定用户是否滿意。

因此,處罰申訴的產品目標是,用最低的成本讓用户申訴後有滿意的結果。這也就是為什麼,在豆瓣、微信視頻號等這樣行業前沿的app裏,依然需要用户通過發送郵件進行申訴的原因。

二、為什麼要有申訴環節,是否是必須的?

所有平台都有申訴,申訴幫助平台挽回處罰的損失,以及節省處理特殊渠道申訴的成本。

1. 幫助平台挽回處罰造成的損失

平台獲取新用户以及讓用户持續活躍是有成本的,當用户在平台貢獻價值(一般採用APRU-平均每付費用户貢獻的收入或LTV-衡量產品從用户獲取到流失所得到的全部收益的總和)超過成本,才能實現盈利,而對用户進行封號或者刪除/限流用户的內容,都會降低他對平台貢獻的價值,甚至將這部分價值拱手送給了競爭對手。

當用户存在違規且給平台造成損失,且損失>=用户終身價值,此時處罰是有收益的,比如在媒體點名的情況下各個平台封禁辛巴、郭老師、人類高質量男性等劣跡作者,避免監管部門約談、負面輿論的損失。

當用户沒有給平台造成損失,被誤殺或者處罰過嚴,用户帶來的損失接近0,此時處罰是有損的,用户本可以繼續為平台帶來價值,但平台把他趕走了。這時就需要通過平台主動解除處罰,或用户主動申訴解除處罰,從而挽回損失。

2. 節省處理特殊渠道申訴的成本

用户如果對處罰最終得不到滿意的説法,會進行站內外投訴、上門討説法、起訴、極端情況還會以“自殺自殘”威脅。這些情況不僅處理成本高,而且對平台聲譽有影響。

“2020年8月25日,廣東深圳。一市民反映自己弟弟因微信被封號影響做生意,多次申訴無果從騰訊公司墜樓身亡。其哥哥表示,由於弟弟想問清楚原因,但是微信一直是機器人回覆,搞得非常煩,去了騰訊又找不到人,目前騰訊出於人道主義給了15萬。警方稱是其弟弟在網上涉色情聊天被封號。騰訊一內部人士表示,其弟涉違規被封幾日後可解禁。警方介入調查。”

對於這兩點收益來説,申訴不是唯一手段。前置保障處罰的合理、準確,也能實現上述作用,只不過,處罰的優化需要長期進行,且是基於處罰前發佈的內容和歷史表現做出的,申訴可以兜底。而申訴的不可替代性在於,可以結合用户被處罰後提供的信息或者進行的表現,評估給什麼結果。

三、處罰申訴怎麼做1. 行業現狀盤點

1) YouTube

當用户作品被限制或移除、用户功能受限、被警告,均可提出申訴。申訴後由人工審核人員進行審核判斷是否存在誤傷。

安全產品之處罰申訴

2) Facebook&Ins

在多數情況下,用户可以對作品和用户功能的處罰進行申訴。如果申訴後依然不認同,在15天內可以向監督委員會提出申訴。

安全產品之處罰申訴
安全產品之處罰申訴

監督委員會挑選出符合“疑難、重大、事關全球用户並可為將來政策制定提供指導”的條件的申訴請求後,指派一個審議小組來負責本次申訴案件並收集相關信息以便進行深入審核。

這些信息包括申訴人提供的信息,以及 Facebook 公司根據適用法律法規和隱私限制提供的背景信息。

審議小組成員將認真審議案件,根據申訴人、Facebook 及受邀協助調查的專家提供的所有信息做出決定,通常會在 90 天內定案。

3) 微信

① 用户處罰:帳號受限後可以聯繫客服進行復審。部分短期封禁的情況,如3天、8天,封停到期後可以自助解封,自助手段包括手機驗證、人臉驗證、好友輔助。

安全產品之處罰申訴

② 視頻號處罰

對內容、功能限制目前只能通過郵箱申訴。雖然不清楚微信這樣做的原因,但郵件無法自動化關聯視頻號批量審核,裏面的內容需要運營同學認真閲讀。

通過用户的申訴郵件進行分類分析,可以全面瞭解用户對申訴的痛點和訴求是什麼,進而設計出貼合視頻號場景的申訴功能,以及反思不合理的處罰場景,從而改良用户被處罰的尺度、通知方式等,這個過程就非常考驗郵件那頭的運營同學了。

安全產品之處罰申訴
安全產品之處罰申訴

③ 公眾號處罰

對內容、功能限制可在運營後台在線提交申訴。

安全產品之處罰申訴

4)抖音

與其他社區類似,對內容、功能限制均可提交申訴。

安全產品之處罰申訴

獨特的是,對於大部分帳號封禁、直播封禁可以自主答題後解封。

安全產品之處罰申訴

帳號封禁答題解封條件

1.帳號第一次或第二次違規。

2.違規類型包括傳播販賣色情資源、色情引流、風險廣告引流、售賣煙草、封建迷信、風險廣告、違法工具、暴露隱私部位、違規醫療廣告、涉嫌詐騙、高風險金融產品、製假售假等(根據公開信息整理,不代表完整情況)。

3.部分做10道題可以解除,有的用户需要完成10套(100道題),都做完才可以解。

4.答題通過7天后正式解除,推測答題成功後人工清理了違規信息。

直播封禁答題解封條件

1.封禁3天以內。

2.近30天答題次數<4。

答題解封在B站、微博、快手等社區也廣泛運用。

安全產品之處罰申訴
2. 申訴通用產品框架

申訴的產品框架可分為申訴入口、申訴處理、申訴通知。共同的目標是用最小的成本識別出可以恢復正常的用户和內容,幫助平台挽回處罰的損失。

安全產品之處罰申訴
3. 申訴入口

首先要思考用户什麼場景下會進行申訴,根據社區的場景分佈選擇滿足哪些情況。

場景1:被處罰後,認為自己沒問題

申訴入口:處罰提醒附帶申訴入口,用户收到處罰提醒後可以立刻進行申訴,處罰提醒以站內信的形式出現,或當功能限制後,用户點擊該功能時提醒功能不可用及原因。

特殊情況:平台可根據處理成本、違規原因等設置不可以申訴的情況。

有一天我發現去年的作品被自見了,但沒有找到申訴入口。

安全產品之處罰申訴

場景2:用户懷疑自己被處罰了

申訴入口:獨立展示,一般放在找客服的頁面。

安全產品之處罰申訴
4. 申訴處理方式

在設計處理方式之前,需要對社區可撤銷的處罰進行定義並編寫規則,各個社區普遍借鑑了法律規定。

法律規定

1.對冤假錯案推翻原來已經生效的判決結果。

2.法律變動後,依新法做出的判決責任較輕時,適用新法。

3.在執行一定刑期之後,因其遵守監規,接受教育和改造,患有嚴重疾病或確有悔改表現,不致再危害社會,而附條件地將其予以提前釋放。

平台申訴規則

1.當處罰判斷有誤,申訴後撤銷處罰。

2.策略/規則調整,之前處罰的後來不處罰了,申訴後撤銷處罰。

3.用户經過處罰等教育後已經知錯改正(僅針對帳號功能限制類的處罰),申訴後減免處罰。

根據社區的發展階段和風控現狀,處理方式有所側重。

  • 社區產品初期,風控能力薄弱,此時規則、策略調整頻繁,機審策略、人審等準確率不穩定,易出現誤殺,此時申訴後主要挽回誤殺。
  • 產品中後期,風控能力已經發展成熟,誤殺基本不會出現、策略/規則也相對穩定,此時申訴後主要挽回已被教育改正的用户。
安全產品之處罰申訴

定義好社區目前需要撤銷的處罰後,就可以針對性設計處理流程了。

1)挽回誤殺的處理方式

二次審核(複審),由人工再次判斷核實違規是否成立。

申訴審核後台設計時需要注意兩種判定情況:

  1. 通過還原處罰時的證據進行二次判定,即可核實是否誤傷,比如發佈色情內容。此時審核後台與處罰後台可以保持一致,或者提供的審核信息多於處罰時的信息,有助於更全面地判斷。
  2. 需要結合用户新提供的信息,才能核實是否誤傷,比如侵權。一方面在申訴提交環節要引導用户提交特定資料,另一方面審核後台也必須展示用户提供的信息,以供審核員核實判斷。
安全產品之處罰申訴

2)策略/規則調整的處理方式

批量回溯,即策略/規則變動時可自動對過去處罰的對象更新處罰,理想來説不應該在申訴環節處理。但很多公司不具備該能力,只能在用户申訴後按最新的規則人工判定。

3)挽回已被教育改正的用户的處理方式

人工審核、圈定特定用户教育後、考察用户表現,後兩種不依賴用户主動申訴後再處理。人工審核可以根據用户被處罰後的表現判定用户之後是否不會再次違規,如保證書等。

因為通過人工去判斷用户的承諾是否靠譜,非常難,所以就衍生了自助答題、違規後考察的解封方式,通過策略圈定特定的用户或違規情況,讓用户付出一定成本後解封。

qq在6月左右就上線了承諾書申請解凍的環節,但提交後具體什麼條件能解就不清楚了。

安全產品之處罰申訴

抖音在某些帳號處罰後,會主動評估用户後續的表現,如果表現符合社區規範,系統自動解除處罰。

安全產品之處罰申訴

騰訊遊戲也有類似的環節。

安全產品之處罰申訴

最後,對於沒有被處罰,而進入申訴環節的用户,無需處理,直接告訴用户帳號正常即可。

5. 申訴結果通知

將用户申訴的最終結果包裝話術通知給用户。本環節只需要注意2點:

  1. 最終結果應包含申訴處理之前的解封結果,比如用户沒有進行申訴,但通過質檢等環節解封,也應告知申訴成功,用户申訴成功,避免產生誤會。
  2. 如果用户申訴失敗,需要疏導情緒,以及引導再次申訴的路徑,避免用户走極端。
安全產品之處罰申訴

本文由 @暉暉 原創發佈於人人都是產品經理,未經作者許可,禁止轉載。

題圖來自Unsplash,基於CC0協議。

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 1981 字。

轉載請註明: 安全產品之處罰申訴 - 楠木軒