美國防高級研究計劃局（DARPA）授予PAR政府公司一份1190萬美元的“語義取證”（SemaFor）項目合同，旨在通過研發先進技術，檢測並擊潰對手通過操縱互聯網、新聞和娛樂媒體等發動的自動化虛假信息活動。
01 項目背景
darpa
雖然統計檢測技術已取得成功，但是媒體生成和操縱技術正在快速發展，單純的統計檢測方法將很快不足以檢測偽造的媒體信息。此外，依賴統計指紋的檢測技術通常可以被其他有限的資源（如算法開發、數據或計算機）所欺騙。
不過，現有的媒體自動操縱和生成算法在很大程度上依賴於單純的數據驅動方法，且容易產生語義錯誤。例如，由“對抗性生成網絡”（GAN）生成的面孔可能存在語義上的不一致，這為防禦方提供了獲得不對稱優勢的機會。語義不一致檢測器要求虛假媒體信息的創建者確保每個語義細節正確，這為其增加了負擔，而防禦方只需找到一個或很少的不一致之處即可。
02 項目目標
darpa
SemaFor尋求開發分析媒體信息的語義技術，重點開發可自動檢測、歸因和表徵文本、音頻、圖像和視頻等多模式媒體信息的先進技術，以防禦大規模自動虛假信息攻擊。
該項目將研發3種典型算法：①語義檢測算法將判斷媒體信息是否被生成或操縱；②歸因算法將推斷媒體信息是否來自特定組織或個人；③表徵算法將判斷媒體信息是否出於惡意目的被生成或操縱。檢測、歸因和表徵算法的結果可幫助開發系統決策所需的解釋能力，並對資產進行排名以供分析師審查。這些SemaFor技術將有助於甄別、阻止和理解對手的虛假信息宣傳活動。
03 項目計劃
darpa
根據這份合同，PAR政府公司將在紐約州羅馬市開展合同工作，並應在2024年6月前完成。