中新社長沙9月9日電 (王昊昊)“人工智能的技術是中立的，應通過構建數字內容可信體系，制定相關法律，規範人機視覺技術濫用。”國防科技大學系統工程學院院長老松楊表示。
7日至9日，2020互聯網嶽麓峯會在長沙舉行，來自互聯網行業、投資界、學術界的百餘名專家共同論道5G應用、大數據、人工智能等的新發展。
出席峯會的老松楊表示，近年來人工智能取得了舉世矚目的成就，從阿爾法狗完敗人類頂級圍棋高手，到美軍的人工智能飛行員輕鬆擊敗美軍王牌飛行員，再到各式各樣的智能家居、智能安防出現，人工智能的應用已無處不在。
“應用人工智能的同時，不應忽略其安全性問題。”老松楊舉例説，近年來網絡出現的教皇抽桌布、奧巴馬溜滑板車、希拉里換臉特朗普等視頻，都是人工智能偽造的，這些偽造視頻是人工智能新能力的體現，也是其本身的脆弱性帶來的安全性問題。
“人機視覺技術的濫用一般有深度偽造和對抗樣本技術，前者是基於人工智能的視頻和圖像的合成技術，能以假亂真，該技術正在挑戰‘眼見為實’。”老松楊説，深度偽造是讓人看錯，而對抗樣本技術的目標是讓機器“看錯”，基本原理是在原始圖像上疊加增量和噪聲，讓機器學習的模型出錯。
“比如給一張熊貓圖片加上噪音之後就變成了另外一個圖像，在‘停車’的路標上加一些圖像就變成了‘限速45’。”老松楊認為，這種濫用將帶來嚴重的安全隱患。
眼見未必為實，該怎麼辦？老松楊表示，有造假就應打假，國家層面需投入一定的財力、精力、人力打假。雖然人機視覺技術帶來了一定安全隱患，但利大於弊，不能因為有安全隱患就不發展技術。未來一方面要繼續發展技術，打造更加穩健的人工智能系統，一方面要着手立法規範、約束技術濫用。(完)