校企聯手打造全球頂尖AI安全賽事 邀“挑戰者”模擬攻擊人工智慧

本文轉自【經濟日報-中國經濟網】；

自動駕駛汽車突然無法識別前方障礙物？可能是人工智慧系統已被駭客攻擊。近日，第七屆國家網路安全周剛剛閉幕，全球首個針對目標檢測演算法的對抗攻擊競賽也落下帷幕，這項全球頂尖AI安全賽事是清華大學聯合阿里巴巴主辦、資料探勘頂會CIKM強力支援的安全AI挑戰者計劃第四期，旨在培養實戰型的網路安全一流人才。

針對目前的人工智慧安全問題，多位專家表示，人工智慧作為我國重要發展戰略之一，正面臨著重要發展機遇，但當前以深度學習為代表的人工智慧演算法安全性不足，在實際應用中仍然存在安全隱患，解決網路空間的安全風險更需要高層次人才支撐，需要形成校企聯合、產教融合的大格局，在實踐中摔打培養人才。

召集“挑戰者” 共同打磨AI安全

重慶理工大學計算機科學與工程學院研三學生劉野從2019年8月開始參加安全AI挑戰者計劃，從第一期人臉識別對抗競賽，再到第二期ImageNet影象分類對抗攻擊競賽、第三期全球首個辱罵文字對抗攻擊競賽，他每期都參加，最終在本期獲得第一名，並報名參加了剛剛開啟的第五期全球首個針對證件文件類影象偽造的對抗攻擊競賽。

目前，已有來自全球超過200所高校、100多家企業超6000支隊伍參加這項賽事。第四期由清華大學人工智慧研究院出題，挑戰者透過向原始影象中新增對抗補丁的方式，使目標檢測模型無法檢測到影象中的物體，目的是為了發現目標檢測模型的脆弱性，為此領域的工作者敲響警鐘。

中國科學院院士、清華大學人工智慧研究院院長張鈸表示，人工智慧作為國家重要發展戰略之一，面臨發展機遇的同時也帶來了諸多挑戰。“當前以深度學習為代表的人工智慧演算法在實際應用中存在嚴重的安全隱患，如何提升演算法的安全性和可靠性，是清華提出發展第三代人工智慧的重要目標之一，也是演算法大規模部署和應用的基礎。”張鈸說，培養一流的人工智慧安全技術人才，顯得尤為關鍵。為了抵禦未來AI面臨的安全風險，清華大學聯合阿里巴巴，以對抗樣本為核心，提供場景、技術、資料、算力等支援，召集“挑戰者”以防守者的身份共同打磨AI模型安全，同時為廣大安全愛好者提供數字基建安全的試煉場，在高難度的真實攻防環境中提升技術，培養真正有安全實戰能力的安全基建人才。

目前，安全AI挑戰者計劃目前已收到2000萬條惡意樣本，沉澱40多個具有前沿創新性的參賽原始碼和方案，激發出高校學生在安全AI領域極大的創造力，也為實際業務問題的解決貢獻了力量，最大程度填補和緩解AI安全人才缺口。

以賽育人 培養實戰型安全人才

就在比賽收尾之際，9月14日召開的國家網路安全宣傳週上，多位學界、業界專家學者在高峰論壇主論壇上聚焦網路安全人才培養。資訊工程大學校長郭雲飛表示，當前我國的網路安全人才缺口在100萬人左右，網路安全的本質在對抗，對抗的本質是攻防兩方的博弈，因此網路安全人才必須做到理論和實踐相結合，形成校企聯合、產教融合的大格局，在實踐中摔打培養人才，大家一條心一盤棋共鼓勁共擔責任，就能為黨和國家輸送更多優秀的網路安全人才。

當數字技術正在構建前所未有的新世界，阿里安全團隊面對的是網際網路企業中最豐富的業態和風險。

阿里安全首席架構師錢磊介紹，阿里安全已從最初的網路安全攻防進化出了新一代安全架構的三層體系：從軟體供應鏈安全、漏洞檢測等多個維度保障數字基建的“安全基建層”，由攻防技術、資料安全技術等構建的“安全技術層”，以及兼具態勢感知與應急響應能力的“安全運營層”，三者共同組成網際網路安全服務的精細化防禦“堡壘”。作為國內領先網際網路企業，阿里巴巴將多年積累的安全標準及能力與社會共享，護航“新基建”，並透過校企合作等方式培養更多安全專業人才，安全AI挑戰者計劃正是其中一項重要舉措。

張鈸表示，清華大學在人工智慧基礎研究領域有長期的積累，此次聯合AI領域的領軍企業阿里巴巴，校企聯合打造全球頂尖安全AI賽事，就是為了培養一流的實戰型人工智慧和網路安全人才，謀國家發展之所需，推動我國人工智慧領域的快速發展。