編輯導語：新媒介環境下，“人人都有麥克風”、“把關人”缺失、不受時空限制的網絡傳播渠道使得內容可以迅速擴散。這些都給內容安全帶來了挑戰，內容審核成為內容平台的重中之重。無論內容、形式、平台如何發展變化，傳播的5W模式都是通用的，對內容的審核可以圍繞着5個要素展開。
1948年，拉斯韋爾提出了傳播過程及其五個基本構成要素，即：
- Who：誰——內容的生產者；
- What：內容——生產者説了什麼；
- Which-In Which Channel：渠道——內容通過什麼渠道傳播；
- Whom-To Whom：受眾——誰接受到了內容；
- With-With What Effect：效果——內容傳播後取得了什麼效果。
所有的傳播行為都可以圍繞這5個要素展開。
所謂內容審核，也不僅僅是對內容本身進行識別，尤其是在目前機器識別無法達到100%的準確、內容數量本身及其龐大的情況下，通過對各個傳播要素的“監控”，也是完善機器審核的數據維度、提升審核效率的有效途徑。
5W要素應用到內容審核中，分別與以下角色環節相對應：
- Who：生產者是否靠譜？是否是一個“可信”的人？他發佈不合規信息的可能性有多大？
- What：內容本身是否是合規的？
- Which：渠道想要做好“把關人”的角色，應該如何開展內容審核 ？
- Whom：受眾本身有無異常？受眾的行為是否合規（如發佈不良評論）？
- With What Effect：傳播的情況是否正常？
內容審核目前都是通過機器+人工的方式進行，審核的機制既可以是先發後審也可以是先審後發。
如何選擇這些方式和機制、在提升審核效率的同時最大程度地保障內容安全、同時又不影響用户體驗，維護三者的平衡，可以圍繞上述各要素來進行規劃設計。
二、五要素在內容審核中的應用
1）建立對於內容生產者的風險評分
從內容生產者發佈第一條內容開始，就對他展開內容識別，基於靜態的註冊信息、此前的行為信息建立初步的風險情況後，根據其後續發佈內容的情況動態實時調整，同時建立黑名單制度。
如：一個內容生產者，此前瀏覽的內容都是財經、商務類型的，而且綁定了銀行卡，則前期的靜態評分可以認為他是一個低風險用户。
後續其發佈的內容在一段時間內多次觸發人工審核機制，則可以提高他的風險等級；隨後他發佈的內容被用户舉報且人工審核確實違反了規則，則可以視情況將其納入黑名單，限制之後的內容發佈行為。
2）建立對於內容生產者的標籤體系
針對內容發佈者進行畫像，可以實現對異常行為的監控。
標籤體系可以包括用户的性別、年齡段、常用地理位置、常用設備、發佈的內容類型等信息。一旦某些信息發生變化，則需要對其內容進行重點監控，防止異常行為，如用户被盜號後此賬户被用來發布不合規內容。
此外也可以設置優秀內容生產者等標籤，對此類用户發佈的內容免審核或可以先發後審。
2. What：對內容的識別規則和手段建立內容審核的規則，審核的規則大體上來説源於監管的要求和業務的政策。
1）監管的要求
內容不能涉及黃賭毒暴政恐，《網絡信息內容生態治理規定》、《網絡短視頻內容審核標準細則》等也對內容審核提出了詳細的要求。
2）業務的政策
為營造社區的良好氛圍，保證用户體驗，內容不能涉及侵權、謾罵、隱私、低俗、垃圾內容等；為保障平台的正常運營和利益，不能違規發佈廣告、添加鏈接等；為社區用户安全考慮，內容不能涉及導流、詐騙等。
3）豐富審核的技術手段
充分利用人工智能等技術手段，實現對文本、圖片、聲音、視頻的自動識別，不斷提高機器的召回率和準確率。
4）搭建機器審核和人工審核的流轉機制
包括內容在何種情況下觸發審核、何種情況下觸發人工審核，人工審核是否需要複核等，完善的流程設置對效率的提升大有助益。
3. Which：助力審核人員扮演好“把關人”的角色1）設置有效的任務分配機制
提升分發效率和審核效率，保證需審核視頻100%分發，且在最短時間內到達審核人員，同時按照一定的規則給審核人員分配需要審核的視頻。
按照觸發人工審核的原因來分發，可以使審核人員積累在某一領域的審核經驗，提升審核效率。
2）為審核人員提供配套的功能
“工欲善其事必先利其器”，提供審核的輔助功能，助力人工審核提速。
如針對文本的審核對敏感詞高亮顯示，針對音視頻的審核標註關鍵幀、設置倍速瀏覽功能，審核的信息通過信息流的方式自動呈現，減少操作點擊環節。
4. Whom：通過受眾識別違規內容的“蛛絲馬跡”1）為受眾提供舉報功能
一方面可以節約審核資源，另一方面也是對機器和人工審核錯誤率的一種彌補。
2）建立受眾的標籤體系
和針對傳播者的標籤體系一樣，對用户的畫像除了用於針對用户的內容推薦外，也可以是對內容質量反饋的一個維度。
例如：同一個內容被大量不同標籤的用户關注，可能內容本身存在了誘導行為，就需要人工審核予以確認。
3）進行受眾聚集情況分析
針對受眾的集中情況進行分析，是否過於聚集。
不過此方式多用於直播中刷量行為等的監控，在內容審核中，可以輔助判斷內容是否存在誘導、違規廣告營銷等。
5. With What Effect：通過傳播的效果發現內容的異常1）通過觀看、點贊、轉發、評論數等的監控發現異常行為
傳播範圍廣泛的內容中若存在風險，造成的後果更為嚴重，因此要對觀看、點贊、轉發、評論量比較大的內容特別關注。
另外：這些指標的異常也是一個值得關注的風險點，此前點贊數一直不過百的用户新發布的內容突然點贊過萬，可能需要對內容進行人工審核。
2）對評論進行內容識別
評論同樣是內容審核需要關注的部分，對評論內容的識別。
一方面是監控評論是否有違規行為，另一方面通過關注評論內容中是否存在對內容本身的舉報等，來進行內容審核。
三、小結從5W模式入手建立內容審核的體系，是基於傳播要素的完整模式。
內容審核的重點還是在對內容本身的識別方面，從提升機器審核的召回率和準確率，到提升人工審核的效率，再到搭建完整的流轉機制，從其他要素着手也主要是為優化這三個環節來服務。
當機器能夠實現對違規內容的100%精準識別，甚至具備了自我學習的本領，能夠自己去拓展發現審核的“要義”，或許其他環節也就不那麼必要了。
本文由 @小小晶 原創發佈於人人都是產品經理，未經許可，禁止轉載
題圖來自Pexels，基於 CC0 協議