編輯導語：筆者上一篇文章《機器審核》中，重點介紹了機器審核的能力，互聯網廣告內容審核專題（二）——機器審核；本文來談談機器和對人工審核如何組合運作，滿足各類業務場景的需求？
首先，什麼場景需要人工審核？對於機器無法準確識別的內容，都需人工審核進行確認；通常機器審核和人工審核的量級約為9:1，對於日均量級上億的內容產品上，人審日均量級也達到百萬級，同時滿足時效性要求和審核質量無疑是很困難的。
因此在實際業務中，根據不同產品的形態，建立不同的人機聯動審核機制，最大化滿足審核訴求。
下面分別談談兩種基本的審核機制：
一、人機聯動機制1. 先審後發先審後發是早期審核採用的模式，要求全部內容均通過完整的審核流程後允許上線分發，用以保證風險最低、質量最優。
通常對於商業廣告，高風險行業或客户必須採用先審後發機制，來避免風險的發生；對於重質量的內容社區，也需要經過完整的審核流程才能進行發佈。
以上給出先審後發機制中，機器和人工審核聯動的基本流程。待審內容都先通過機器審核；當機審輸出結果達到閾值，準確度可信時，按機器審核結果通過上線或直接拒絕；當機審輸出結果未達到閾值，給出疑似風險的判斷，推送給人工審核進行最終確認，按人審結果通過上線或直接拒絕。
對於先審後發機制，不斷提升機器審核的準確率，將會大大減少人工審核的工作。
2. 先發後審機制對於海量的內容，全部採取先審後發機制無法滿足內容分發的時效要求。近些年興起的先發後審機制，可以幫助解決這部分問題。
對於商業廣告，可以選取低風險行業或客户，允許先上線分發，幫助其短時間內獲取更多流量；對於時效性要求高的內容產品，如評論、視頻彈幕等，快速上線展現，滿足其實時發佈需求。
以上給出先發後審機制中，機器和人工審核聯動的基本流程。待審內容通過機器審核，秒級輸出機審審核結果；如機審結果確認有風險，則按機審結果直接拒絕，否則立刻上線分發；上線後根據展現量抽取線上展現內容，推送人工複審，檢查風險問題。
如人工複審發現的風險問題較大，可以將該行業或客户的審核機制升級為先發後審，來保證風險可控。
在審核業務中，先審後發和先發後審兩種機制也通常組合運作，靈活調配，以最小的成本實現風險控制，滿足審核時效要求。
二、審核任務分配在人機聯動審核機制中，如何將審核任務快速分配給對應的人員進行審核呢？來一起看看審核任務分配機制。
1. 審核任務主動分配
上圖是一套動態靈活的審核任務分配機制，減少任務等待時間，更快速地分發給審核人員。
第一步：待審任務灌入審核任務池，等待被分配。
第二步：根據審核組長或管理人員配置的權重，自動分發相應比重的任務，進入審核員任務列表，審核員可以開始審核；通常分配權限需支持靈活配置，如支持審核員請假等場景。
第三步：對審核任務池和審核員任務列表實時監控；如出現任務池任務突增，需加快分配至審核員任務列表進行審核；如審核員任務列表剩餘任務不足，任務池主動進行分配；通過這樣動態分配的方式，保證審核員有充足的任務，避免任務積壓。
實際審核任務分配可以基於此基本方法進行變換，滿足不同場景的審核需求。
本篇文章的內容就到這裏，關於更多的審核模式、審核機制、審核業務管理方式等會在後續文章中繼續和大家分享！歡迎大家一起探討！
本文由 @Rush 原創發佈於人人都是產品經理，未經許可，禁止轉載
題圖來自 Unsplash，基於 CC0 協議