AI安全堪憂：360 AI安全研究院披露谷歌Tensorflow 24個漏洞

近日，360 AI安全研究院向谷歌Tensorflow進行了安全測試，並提交了24個漏洞，目前均已被谷歌確認，影響上千萬開發人員。據悉，谷歌 Tensorflow官網顯示共有35個漏洞，其中360集團挖掘發現24個，是提交漏洞最多的公司，在數量上名列全球首位。

360提交漏洞後，谷歌對所有漏洞劃分危險等級，分為嚴重、高危、中危、低危四種類型。在本次360提交的24個漏洞中，其中危險等級嚴重的漏洞（critical severity）2個，高危（high severity）8個，中危（moderate severity）12個，低危（low severity）2個。

對谷歌來説，360此次提交的漏洞對Tensorflow迭代更新有很大影響，目前谷歌已經對24個漏洞全部修復。

Tensorflow是目前最流行的機器學習框架之一，由谷歌2015年11月推出，深受AI開發人員、應用開發人員喜愛，其下載量已達上千萬級。

不過，在方便開發者的同時，Tensorflow也面臨一定安全風險。360 AI安全研究院指出，機器學習框架是最重要的人工智能基礎設施，但目前在研發機器學習框架時，更多關注其功能、性能以及面向開發者的易用性，卻缺乏嚴格的安全測試管理和認證，一旦其安全風險被攻擊者惡意利用，就會危及AI產品和應用的可用性和可靠性，甚至導致重大的財產損失與惡劣的社會影響。

“任何程序員都可以在Tensorflow裏開發產品，如果它本身有漏洞，那麼開發人員用它時就會遇到風險，比如攻擊者可以控制開發人員的電腦，進而可以竊取各種信息，或者安裝後門等。”360 AI安全研究院舉例説，“此外，若Tensorflow框架存在安全問題，普通用户在使用依賴於該框架的AI應用時，也將面臨安全風險。”

據悉，360 AI安全研究院隸屬於360未來安全研究院，專注於人工智能與安全前沿技術研究，是全球首個從系統實現角度對AI關鍵基礎設施進行攻擊的團隊，目前已經研製完成多款先進的漏洞挖掘工具，累計發現100多個主流機器學習框架及依賴組件漏洞，影響範圍包括Tensorflow、Caffe、PyTorch、OpenVINO等。

360 AI安全研究院建議，未來各廠商應加強在框架安全方面的重視和投入，特別是要對涉及框架外部環境交互的模塊、軟件供應鏈等環節進行重點安全性檢測。另外，框架安全應協同硬件安全、算法安全、數據安全等軟硬件各維度的安全防禦技術，進而建立一體化安全防禦體系。