近年來，互聯網技術快速發展，文字、圖像、視頻等內容以各種形式在網絡空間“百花齊放”。然而，人工智能、大數據、互聯網等技術與內容產業的深度融合，在給社會創造福祉的同時，也為傳播製造假新聞、色情信息、詐騙等不法行為提供了便利。
技術賦能內容“安全生產”“智能生產”
新技術是一把“雙刃劍”。
從早期的“P圖”到“變聲”，再到如今備受爭議的視頻“換臉”，隨着手機運算能力的進步和軟件發展，這些技術門檻大大降低。尤其是，當下流行的AI“換臉”技術，其背後的種種安全隱患，頻頻成為社會輿論關注的話題，甚至已經引起各國政府的重視。
2019年6月，以換臉技術為賣點的DeepFake(深度偽造)被惡意使用，促使美國提出《2019年深度偽造報告法案》(Deepfakes Report Act of 2019)，要求評估深度偽造技術的安全風險。該法案中，“數字內容偽造”被定義為，使用新興技術(包括人工智能和機器學習技術)來製造或操縱音頻、視覺或文本內容，意圖產生誤導的效果。
2019年12月，德國聯邦政府在答覆國會議員質詢時表示：“人工智能視頻‘換臉’技術會從根本上削弱公眾對錄音和錄像真實性的信任感，因此也會降低公共信息可信度。這種技術一旦被用於操縱輿論，將給社會和政治帶來巨大風險。”
“是否產生誤導是數字偽造內容關鍵的判斷標準。技術本身是中立的，如果用來生成虛擬主播、美化圖片等應用是值得鼓勵的，但如果用來製造虛假信息，偽造票據等誤導消費者，則是不被允許的。”在第二屆中國內容科技創業大賽期間，參賽企業中科睿鑑CEO曹娟接受了人民網記者專訪説。她認為，數字內容偽造不僅僅是技術論問題，也是社會學問題。
2013年，曹娟和她的團隊開始研究社交媒體新聞的可信度認證及虛假新聞大數據分析技術，開創了多模態融合的網絡謠言檢測方法，並研發了國內人工智能虛假新聞認證系統“睿鑑AI識謠”，併成功應用在各監管機構、媒體平台。
來源 | 睿鑑AI小程序
在曹娟看來，基於內容科技的數字偽造檢測技術，可以概括為內容的“安全生產”和“智能生產”。安全生產，即將數字偽造內容檢測賦能到內容生產的應用場景中，保證內容的真實性，並能迅速檢測出數字內容是否存在合成、侵權等情況；智能生產,即為媒體與企業提供新聞質量評估和AI生成標題服務，利用人工智能技術幫助媒體與企業提升數字內容產出的質量與效率。
“內容科技”需要深入到一線應用
“做技術別高高在上，必須深入到一線應用場景才能做出真正的改變。”
曹娟認為，只有將技術與內容場景特點進行深度融合，對內容產業的各種應用場景進行細分，才能充分發揮科技的作用，從而形成技術“門檻”和行業標準。
一張高分辨率、未經過壓縮的圖片和一張低分辨率、經過多次壓縮的圖片，內容篡改的方式不同，檢測的方法也需相應變化。
在數字偽內容檢測領域，沒有一把能夠解決所有問題的“萬能鑰匙”。傳統的內容風控系統面對現有的數字偽造內容常常出現“心有餘而力不足”的情況。這也對數字偽造內容檢測的經驗層、數據層、算法層提出了更高的要求。
目前，中科睿鑑的偽造圖像視頻檢測系統可以在無需原圖的情況下檢測圖片或視頻的多種篡改類型和篡改位置，特定真實應用數據上檢測準確率高達90%。
曹娟認為，內容產業在生產、傳播過程中，有着複雜而多樣的動態變化，科技賦能內容場景的過程，也是滿足內容產業多樣化需求的過程。
同時，內容科技的發展也需要緊跟新興技術發展的腳步。傳統媒體數字化轉型是不可逆轉的趨勢，如何運用新興技術為傳統媒體儲備的海量內容資源賦能，既是媒體亟需解決的痛點，也是內容科技持續發力的方向。