今天，上海市科學學研究所發佈《全球人工智能治理年度觀察2019》英文版。
該報告是全球首份由全球業內頂級專家共同參與撰寫的人工智能治理報告，也是首份由我國智庫發起、全球參與的人工智能治理報告。清華大學戰略與安全研究中心主任傅瑩女士、圖靈獎獲得者John Hopcroft教授、諾貝爾和平獎獲得者Irakli Beridze先生、歐洲議會議員Eva Kaili女士、AAAI2021主席楊強教授和AAAI2020主席Francesca Rossi女士等50位（44組）專家撰稿參與。
基於專家對2019年全球人工智能治理總體形勢的判斷，報告認為，當前全球人工智能治理體系正處於成型的關鍵時期，尤其表現出全球化、安全化、市場化、建制化、操作化五大顯著特徵。
同時，相較於前幾年，2019年全球人工智能治理各項進展既有延續性也有突破性，從政府的全球戰略角度來看，泛西方人工智能治理共識正在達成、人工智能治理進入“軟法”向“硬法”過渡的新階段、人工智能治理從政府主導向“政府 市場”主導轉型三方面進展和趨勢值得關注。
2019年全球人工智能治理呈現“五大顯著特徵”
人工智能治理作為一個新的全球性治理議題，已成為全球治理體系的重要組成部分。基於對各位專家意見的綜合判斷，2019年之後的未來幾年，將會是全球人工智能治理體系形成的關鍵期。
這從2019年全球人工智能治理已經呈現的五大特點可以看出端倪。
1、治理主體全面到位，重要國際組織和國家地區政府持續發佈準則。
2019年，除了聯合國組織的相關活動，經濟合作組織（OECD）、二十國集團（G20）等國際組織紛紛將人工智能治理議題作為重要議題。
2019年歐盟委員會人工智能高級專家組發佈了兩份文件：《人工智能倫理指南》和《人工智能政策與投資建議》，為歐洲的人工智能治理勾勒了一個全面的藍圖。
國際上也廣泛關注中國科技部和美國國防部在2019年發佈的人工智能倫理指南。新加坡2019年1月推出的人工智能治理框架也頗有影響力。
2、治理議題向安全問題轉移，安全問題逐步成為行業內外關注焦點。
在行業內部，2019年最引人注目的相關討論是關於負責任的開放代碼規範。另外，人工智能系統自身的安全和人工智能應用帶來的安全問題已成為安全領域討論的重要話題。
3、治理規則的法律效力加強，“硬法”逐漸增多。
美國加利福尼亞州要求把所有試圖影響加州居民投票或購買行為的自動在線賬户公開標識為機器人；舊金山等地出台法律禁止人臉識別應用，對當前比較普遍的人臉識別技術進行了直接的規制。
4、治理手段市場化，企業成為越來越重要的治理主體。
谷歌發佈了一個數據集來幫助檢測合成聲音，Facebook、Partnership AI和其他組織發起了“深度造假”視頻檢測比賽。谷歌也曾經成立過倫理委員會，試圖對企業自我監察機制做出嘗試。
IEEE（電氣和電子工程師協會）商業委員會將在2020年第一季度發佈第一份題為《對企業使用人工智能的呼籲》的倡議，進一步強調企業在人工智能治理中的主體作用。
5、治理機構建制化，政府內專門性工作機構和學術界專業性研究機構增多。
為應對人工智能治理問題，一些國家政府建立了相應的專業部門，如英國在2019年開始運營數據倫理與創新中心，對算法的應用進行管理。2019年還有許多專業性的人工智能治理研究機構成立，如多倫多大學的施瓦茨·賴斯曼技術與社會研究所、華盛頓特區的安全與新興技術中心等。
2019年全球人工智能治理取得“三大主要進展”
2019年全球人工智能治理的進展，相較於前幾年全球各項進展既有延續性也有突破性。從政府的全球戰略角度來説，2019年度有三方面進展尤其值得關注。
1.、OECD準則發佈，泛西方人工智能治理共識正在達成
從全世界範圍來看，作為政府間組織的OECD在2019年5月22日發佈的《經合組織人工智能原則》。所有三十六個OECD成員國以及六個非成員國都簽署了該原則，歐盟委員會也對該原則表示支持。2019年6月，二十國集團（G20）會議上，中國、俄羅斯等與會國也對這一原則給予了認可。
2019年，歐盟還發布的可信賴人工智能倫理原則引發了廣泛關注，但是該規則主要適用於歐盟轄區。
2. 人臉識別等專門法發佈，人工智能治理進入“軟法”向“硬法”過渡的新階段
2019年，一些國家和地區針對機器人行為標註、人臉識別禁止等出台了法律和硬性規定。
3. 企業更主動參與併發揮作用，人工智能治理從政府主導向“政府 市場”主導轉型
在過去幾年，政府是發佈人工智能治理規則的主體，企業技術創新和科學家的研究是被動的治理對象。但是從最新的發展趨勢來看，企業逐漸從被動接受治理規則，到主動謀求制定規則。
另外值得關注的是，企業通過技術來監管視頻造假、語音合成，已經形成了一個專門的市場領域，市場力量增加了倫理治理的可操作性。以人工智能技術來治理人工智能倫理問題，是未來的一條重要發展路徑。
作者：許琦敏
編輯：沈湫莎
責任編輯：任荃
*文匯獨家稿件，轉載請註明出處。