數據安全加把“鎖”AI發展更有愛

新華網上海7月11日電（馮麗）購物網站“買買買”，隔日神秘電話來“騷擾”；認證“刷臉”一瞬間，數據安全憂慮無期限……伴隨人工智能走進生產生活，如何保障數據安全，為其裝上一把“安全鎖”，讓AI更有愛，成為2020世界人工智能大會期間的熱議話題。

9日，2020世界人工智能大會雲端峯會在上海世博中心拉開帷幕。新華網 發

“大咖”把脈數據安全共治之道

當前，以數字新基建、數據新要素、在線新經濟為核心特徵的新一輪數字經濟發展浪潮來臨，為人工智能新發展注入強大動能。人工智能與數據安全的深度交織，備受各界關注。

在新冠肺炎疫情防控中，人工智能等新一代信息技術發揮了重要作用。上海市人民政府辦公廳副主任、上海市城市運行管理中心常務副主任徐惠麗認為，近年來，上海緊抓城市現代化治理的“牛鼻子”，解決城市治理中的“盲點、毒點、難點”，尤其是智能化的科學技術和創新性治理模式，展現了數字時代城市與社會面臨巨大風險時所具備的特殊靈活性和堅韌性。

徐惠麗致辭。新華網 發

機遇和風險相伴而生。人工智能等新興科技為城市高效治理帶來便利的同時，暴露出的安全風險隱患也逐漸被關注、被重視。如何保障人工智能、大數據、雲計算等新興技術的安全和健康應用，是現代化城市治理工程中的關鍵所在。

2020年2月，中央網信辦公開發布《關於做好個人信息保護利用大數據支撐聯防聯控工作的通知》。一方面積極利用大數據、人工智能等支撐聯防聯控工作，助力常態化疫情防控工作。但同時，也明確收集個人信息只能出於疫情防控的目的，並要求收集者和控制者應對個人信息安全負責，防止泄漏、被竊取、不當使用。

中國科學院院士何積豐從安全問題根源等方面，闡述了人工智能與人類社會的共生關係，以及智能製造中的人工智能體系。對人工智能帶來的數據安全、算法安全等安全風險做了全面的評估，並提出算法可解釋性、隱私保護、公平建模、可信驗證、主動防禦、倫理法律、系統倫理等七條人工智能安全對策。

中國科學院院士何積豐發言。新華網 發

人工智能新發展應有數據安全保障。數字經濟時代，網安“煙囱式”建設依然普遍，保障數據安全成為重中之重。安恆信息首席科學家劉博認為，網絡安全能力建設應該從策略、模型到能力中台的方向進化。能力中台是業務前台與數據後端的樞紐，健全的安全能力中台包括識別、防禦、檢測和響應等四體系。“通過網絡安全運營中心、安全能力資源池、智能檢測、自動化響應、全棧感知、動態防護立體構建安全大腦，打造數字經濟時代網絡安全運營新模式。”劉博説。

在觀安信息首席技術官胡紹勇看來，隨着人工智能發展與數據安全更加深度地交織融合，數據安全問題已然成為人工智能突破關鍵轉軌期所必須解決的重要制約瓶頸。

AI數據安全治理框架落地

“基於數字學習的機器算法給人工智能提供了非常新的發展途徑，很多知識的獲得手段和分析過程都是比較碎片化的，大家各管各的，各發展各的系統，各發展自己的知識表達語言。我們希望它進一步向知識組合進步。”何積豐説。

人工智能發展不能“各自為政”，應有統一的“遊戲規則”。去年，世界人工智能安全高端對話發佈了《人工智能安全與法治導則》，從人工智能的算法安全、數據安全、知識產權保護、社會倫理等各方面探討了人工智能安全發展的議題。

《人工智能數據安全治理報告》 新華網 發

今年，2020世界人工智能大會期間，《人工智能數據安全治理報告》（以下簡稱《報告》）發佈。《報告》分析了數據採集、數據處理、數據流動和數據使用階段突出的數據安全問題，結合當前全球人工智能數據安全治理現狀和動態，構建了綜合性的人工智能數據安全治理框架。

保障數據安全，如何給企業通用場景加把“鎖”？人工智能數據安全風險評估平台應運而生。該平台設定了安全基線，開發用於敏感數據探測、數據質量檢測、數據差異檢測、漏洞檢測以及脆弱性檢測的工具。未來，針對人工智能應用場景中的數據安全實現多層級、多維度風險評估，為企業對人工智能系統開展自評以及第三方測評機構針對人工智能項目開展風險評估和產品認證提供技術、工具和平台。

人工智能數據安全風險評估平台啓用現場。新華網 發

上海市委網信辦總工程師楊海軍表示，要處理好人工智能在法律、安全、就業、道德倫理、政府治理等方面的新課題。“人工智能、5G、區塊鏈、大數據等新一代信息技術所帶來的新一輪信息革命浪潮，對互聯網治理帶來全新的機遇與挑戰。我們必須全面認識人工智能的安全問題，統籌協調網絡安全和信息工作的關係，充分發揮人工智能的‘頭雁’效應，引導人工智能安全、健康地發展。”楊海軍説。