4月 26日,第四屆數字中國建設峰會期間,由國家網際網路資訊辦公室主辦的人工智慧分論壇正式舉辦。會上,中央網信辦組織評選的人工智慧企業典型應用案例正式釋出,瑞萊智慧(RealAI)“人工智慧安全與深度偽造治理應用案例”入選名單,成為名單中唯一一家提供第三代人工智慧解決方案的企業。
為發現和挖掘人工智慧行業的最新場景和傑出企業,進一步推動我國人工智慧健康穩健發展,中央網信辦資訊化發展局面向人工智慧社會實驗特定方向,開展了企業應用案例徵集,並組織人工智慧社會實驗專家組評審,最終遴選出35個典型應用案例,瑞萊智慧與華為、百度、曠視、商湯、依圖等企業共同入選其中。
人工智慧安全治理是本次論壇的核心話題。隨著新型攻擊手段、濫用誤用等安全風險的不斷加劇,人工智慧治理工作迫在眉睫。目前,社會各界正在從法律法規、標準規範等多個維度展開人工智慧治理探索與實踐,但人工智慧行業具有多學科綜合、高度複雜等特性,帶有天然的技術壁壘,政策和法規之外更需結合有效的技術手段。
瑞萊智慧CEO田天曾表示,人工智慧治理需“技術”與“制度”同步推進,前者解決技術的不安全性與脆弱性,後面從應用層面給出規範與指引。作為清華人工智慧研究院的官方產學研機構,瑞萊智慧就依託“產學研”一體化優勢,創新性的推出基於攻防動態升級的技術方案,以子之矛、攻子之盾,透過研究對抗性演算法,先於駭客發現漏洞並針對性的提供解決方案。
基於這一思路,瑞萊智慧打造出一套完備的、行之有效的技術工具來輔助解決人工智慧安全問題。比如,業內首個人工智慧安全平臺RealSafe透過整合領先攻防演算法,支援對AI系統進行自動化的安全檢測與防禦加固,提升AI系統對對抗樣本等攻擊手段的識別能力。在應對濫用方面,瑞萊智慧推出DeepReal深度偽造檢測工具和一體機,能夠高效精準的判斷影片、圖片等內容素材是否是經過AI偽造,能夠有效避免輿情、預警濫用等,在2020中國人工智慧大賽中榮獲A級證書與創新之星獎項。這次入選的“人工智慧安全與深度偽造治理應用案例”也正是基於這兩大產品方案打造,能夠有效避免人工智慧落地應用過程面臨的潛在安全隱患。
技術能力之外,在國家相關政策法規的引導下,瑞萊智慧也積極參與到重大政府專案,聯合工信部門、公安部門等政府單位撰寫行業標準和行業報告,參與探索和實踐人工智慧治理與發展的可信指引,助力構建人工智慧產業健康生態。