兵以詐立。智慧時代，顛覆性技術不斷湧現，戰爭欺騙手段和形式亦不斷出新。“如果掌握你的資料，我就能創造出各種方法欺騙你的人工智慧系統。”研究實驗表明，智慧化戰爭中一旦一方獲得對手的人工智慧訓練資料集，就能夠找到其弱點和盲區並實施欺騙，人工智慧必須警惕資料陷阱。
目前來看，人工智慧分析處理資料的速度遠超人類分析師，並且能夠找出人腦難以發現的行為模式和規律，但是也會犯下人腦不會犯的錯誤。原因在於，機器學習演算法必須依靠大量資料進行訓練，資料之於人工智慧就如同血液之於人類，共享資料比設計算法更難。如果資料集過小、資料不準或是被對手惡意篡改，那麼機器學習效果就會大打折扣，甚至被誤匯出現誤判。尤其在國家安全和軍事領域，有害資料會造成嚴重後果。一旦人工智慧的訓練資料集被對手掌握，對手就會設計資料陷阱、實施欺騙，提供假資料並誘導人工智慧學習錯誤資料。更嚴重的是，由於機器學習演算法的內在工作機理晦澀難懂，人們通常並不清楚人工智慧為何會出錯，特別是在沒有發生災難性後果的情況下，甚至難以察覺人工智慧出錯，對人工智慧陷入資料陷阱茫然不知。
那麼，應如何避開資料陷阱呢？首先，需要人腦幹預。只有人具備給資料分類打標籤的能力，因此不能簡單地把資料丟給機器演算法，寄希望於人工智慧解決所有問題而無須人腦幹預。如果只提供大量資料而缺乏能夠辨別資料的“聰明人腦”，那麼人工智慧只能提供機械的答案，而非人們需要的正確答案。人腦幹預不僅能夠確保人工智慧獲得正確的資料，還能夠檢查其是否在學習正確的資料。其次，打造跨領域團隊。能夠避開資料陷阱的“聰明人腦”必須來自跨領域團隊，計算機專家、程式設計師、大資料專家和人工智慧專家必須與相關領域經驗豐富的專業人員密切合作。今後，人工智慧不斷髮展成熟後將可能直接為作戰人員提供實時情報等，這就需要作戰人員不斷為“聰明人腦”團隊提供反饋，以便及時更新和修正資料。再次，進行多源資料互查。使用一種感測器偵察目標很容易被對手矇蔽，因此要採用視覺、雷達和紅外等多種感測器偵測同一目標，將不同來源的資料進行對比核驗，才能夠辨別真偽、發現隱藏的騙局。再者，給資料分類打標籤。當前，即使高階的人工智慧也會犯下荒誕的低階錯誤，甚至會錯把牙刷認作棒球杆。因此不能給機器學習提供未經加工的原始資料，尤其在訓練初期更是如此，應該為機器演算法提供正確分類、打了標籤的真實資料，方能檢驗人工智慧的結論是否正確，確保人工智慧輔助決策準確、高效。最後，採取對抗式學習。組建智慧藍軍，研發人工智慧對手，讓互為對手、彼此對抗的人工智慧展開互搏，在鬥智過程中進行對抗式學習，在對抗式學習中提高識別資料陷阱的能力，實現以智取勝。總之，當前人工智慧還離不開人腦控制，避免資料陷阱最終還要靠人的經驗和智慧。
（解放軍報）
找記者、求報道、求幫助，各大應用市場下載“齊魯壹點”APP或搜尋微信小程式“壹點情報站”，全省600多位主流媒體記者線上等你來報料！ 我要報料