新浪微博熱搜停更一週成為了熱點話題，引起了行業重視。關於內容監管的討論熱度居高不下，本文從五個方面探討內容監管到底該怎麼做，並且就產品經理感興趣的職業發展問題提出建議，希望對你有幫助。
近日，新浪微博因傳播違法違規信息等問題，被網信辦責令整改，停更微博熱搜榜和熱門話題榜一週，此事引起了行業的重視，各個平台也在積極應對內容監管。
自5月份以來，國家網信辦就在全國開啓了2020“清朗”專項行動，全面覆蓋各類網絡傳播渠道和平台，集中清理網上各類違法和不良信息。
在此期間，多個平台也相繼發出維護公告，在維護期間將限制對平台的訪問。
上圖為花瓣網和掘金的平台維護公告
當監管潮席捲互聯網平台，不乏有平台因為內容安全問題被約談、要求整改，情節嚴重的，甚至面臨關閉下架風險，這對平台業務來説損失極大。
針對內容安全&內容監管話題，6月9-16日，網易易盾聯合人人都是產品經理，發起了一場特別的微信羣深度討論活動，特邀網易易盾的內容安全專家，為大家的提問提供針對性解答。
在這裏，我們也為大家整理了羣討論中5個方面的精選問答：
內容的呈現形式從文本、圖片發展到音視頻，面對內容展示多樣化，如何制定行之有效的內容監管策略？
Q1：針對目前語音違規該如何去規避風險內容，怎麼實現降低平台風險性且提升用户體驗？
語音違規檢測目前主要通過機器檢測及人工審核兩種途徑進行審核。
機器檢測主要通過語音識別、聲紋檢測、語種識別、語義識別等做深度學習的方式來進行，人工審核可針對機器檢測不確定部分進行人工再次確認。
為了最大程度提升用户體驗，減少因機器檢測帶來的審核延遲，建議針對熱度較高的語音採取先審後發，針對部分熱度較低/官方內容採取先發後審策略。
Q2：5G消息下的富媒體內容（包含文本、圖片、語音、視頻、優惠券）是否有更優的解決方案，尤其是視頻，是否有更高效的檢測處理方案？
5G來了，必然數據量增多，併發增加，對內容檢測的延遲、併發等要求都變高了。因為還沒有真正的到5G時代，暫時還沒有看到特別大的影響。
我的看法是，檢測的技術手段基本不變，還是靠算法模型，規則等等，未來會提高內容檢測效率的幾個方面：
1、算法更新（比較難，週期慢，完全看科研界的發展速度）；
2、硬件更新（GPU等運算性能提高、成本降低，就可以增強檢測算力）；
3、一些解決方案的提升：
比如富文本整體解決方案，拿音視頻來講，有的客户需要同時檢測聲音和畫面，最初是分開檢測，有兩個結果。 後續發展為同時檢測，在同一個結果內返回音頻和圖像檢測結果，這樣從業務處理上來講提升了效果。類似的解決方案的提升，也會有一些作用。
Q3：請問，對於即時通信類產品（如微信），該如何制定內容安全策略以及審核流程，可否講下相應的想法或思路？如有相關經驗，可否介紹一下？
IM基本情況是羣聊過檢，私聊不過。IM對延遲尤其敏感，同時儘量避免誤傷。
有一些策略上的小技巧，比如發送內容如果被檢測違規，並且屬於比較嚴重的，可以先對自己可見。
還有像視頻這種，需要上傳時間的，可以對用户展現的是上傳中，而不是分：上傳中、檢測中，把實際檢測時間也包含在上傳過程中。這樣體驗能好點。
特殊時期，檢測規則從嚴處理，尤其對那種踩紅線嚴重違規的。
源源不斷的UGC內容為平台注入活力，而垃圾內容的滋生卻給平台帶來負面影響；既要維護平台內容安全，又要考慮用户體驗，如何平衡是好？
Q1：平台進行內容審核勢必會影響用户體驗影響發展，如何平衡內容治理中平台企業的“安全”與“發展”？
核心思路：先保安全，再談發展！
真被關停了就沒有機會發展了。而且我覺着做安全對運營來説是加法，而不是減法，我試想了一下如果一個平台沒有任何約束，難免會有一些謾罵灌水之類的，反而影響運營發展，所以安全等於保障了舒適的環境，另外就是平台的一個核心吸引力是優質內容，我理解優質環境 優質內容，這些方面對於平台發展都是不可缺少的。
安全做的多少，和公司發展階段相關聯。初期都是先業務發展，逐漸凸顯問題的時候才會逐步加大安全投入。
Q2：如何平衡國家網絡安全要求和用户使用自由度這兩者？
國家網絡安全要求是有紅線的，在紅線內最大程度給到用户自由。所以關鍵在於對國家法律法規的正確解讀，及時洞察國家政治意識形態，可根據業務場景不同，制定審核嚴格程度的不同，避免傷及用户體驗。
維護平台內容安全，離不開產品、運營、技術等各部門的協作發力，那不同崗位的同學，在內容安全這條路上會遇到什麼問題？
Q1：有時候違規內容和非違規內容的界限比較模糊，機器識別之後還需要人工審核，怎樣進行產品設計才能讓審核更高效？
Q2：如何通過分析，感知平台內容安全態勢情況？
基本三方面：
Q3：技術問題，文本過濾主要用到了那些解決方案，針對不同分類有什麼策略，怎麼識別富文本的文本過濾？
針對富文本，易盾包裝了組合接口解決方案，可將富文本通過接口一次性提交，易盾會自動拆分文本、圖片分別過檢，返回整體結果。
網易擁有20年內容安全體系建設經驗，內部積累了豐富的“反垃圾”經驗和數據，針對同學們提出的業務問題，網易有何解決方案？
Q1：易盾是如何進行視頻直播和音頻內容的審核的？
目前易盾針對直播場景提供了基本機器檢測方案，及通過智能電視牆輔助熱度檢測的人工審核方案：
Q2：如何在特殊時期針對平台安全做預警，常用預警方案？
常規存在如下幾種處理方案：
產品經理想要轉換職場環境，有哪些行業、崗位值得參考？
Q1：我是一個從內容安全平台離職的產品經理，想跳槽進入其他公司，能匹配的崗位很少，有什麼相關領域可以推薦的嗎？
如果不想轉崗還是產品經理，可以看下目前做內容檢測的互聯網公司的崗位；如果考慮相關崗位，有關內容檢測的，可以看下運營崗位、業務風控部門的崗位，現在看好多客户把內容風控放在了業務風控部門來做。
光看文字不過癮，來看看羣內互動實況，帶你感受羣內專家與同學們的思維碰撞：
上圖為網易易盾羣討論互動問答截圖
除了前期精彩有料的互動問答活動，6月17日（週三）晚20:00-21:30，網易易盾將在羣內開展一場內容分享活動。
屆時，網易易盾的內容安全專家，將結合網易20多年在內容安全方面的研究，圍繞內容安全監管、內容安全體系搭建等話題，與大家進行分享與話題討論！
掃碼填寫報名表單，若審核通過，工作人員將在3個工作日內發送短信通知，一定要留意你的短信喲！
題圖來自Unsplash，基於CC0協議