近日,人社部發布《關於對擬發佈新職業信息進行公示的公告》,提出擬在“網絡與信息安全管理員(4-04-04-02)”職業下擬增設“互聯網信息審核員”工種。隨着互聯網技術發展,信息審核員成為互聯網行業的新“剛需”,同時人工智能技術在內容審核領域扮演的角色也越來越重要。如何看待智能審核和人工審核的關係?智能審核未來發展方向是什麼?人民網提出的“風控大腦”概念如何理解?近日,中科院自動化所研究員、人民中科董事長李兵接受採訪,暢談人工智能審核技術的發展前景。
2019年,人民中科AI團隊獲國際視頻描述競賽中英文雙料冠軍
李兵表示,人工智能技術是一把雙刃劍。隨着AI技術的快速發展,一方面使得內容造假、非法違規內容生成和製作變得簡單便捷,給網絡內容安全和意識形態領域的安全帶來巨大挑戰,但同時,基於AI的智能審核技術也大大降低了人工審核的工作量,極大地提高了內容審核的精度和效率。隨着深度學習等技術的快速發展,智能審核技術在文本、圖像、語音和視頻不同模態數據上都取得了長足的進展。“尤其在圖像和視頻內容的審核方面,取得了巨大的突破,能夠有效地對圖像和視頻中的特定目標和內容進行快速自動識別。在有明確定義和邊界清晰的任務上,機器的效率遠超人工審核,精度接近甚至超過人工。此外,智能審核技術能夠長時間保持高效、穩定、統一的審核能力。”
李兵也同時指出,智能審核技術還不是萬能的,“在可預見的未來,人工審核不可能被機器智能審核完全替代,兩者協同工作將是內容審核的常態。”智能審核與人工審核之間是相輔相成、互相促進的關係。智能審核能有效輔助人工審核,降低人工成本,提升審核效率。在相互協作的過程中,人工審核的豐富的經驗和先驗知識會進一步指導智能審核系統的進化學習,提升智能審核的水平。下一步,人民中科將從高性能計算平台、智能審核算法模型、以及高價值審核數據三個層面來提升智能審核能力。
2019年,人民網發佈的深度融合發展三年規劃綱要中提出,將研發基於人工智能的“風控大腦”,旨在以人工智能技術為核心引擎,構建對海量全媒體數據的高通量感知、智能理解、深度挖掘、安全預警和全息展示的風控平台。
“人民網‘風控大腦’核心優勢有三點:AI技術優勢、高價值數據優勢及審核經驗優勢。”李兵表示,為了更有效地發揮“風控大腦”在意識形態領域的積極作用,人民網、人民中科將進一步探索如何將審核專家的經驗和知識有效地融入到智能審核技術中去。目前,“風控大腦”已完成了初步版本的建設,數十種審核算法都在逐步上線,系統也已經在小範圍內上線測試使用。“未來時機成熟的時候,將有步驟有計劃地逐步向社會開放‘風控大腦’的功能,向社會輸出人民網的專業風控能力。”