蘇世民：人工智能啓蒙來自馬雲，AI倫理發展有五大核心原則

中新網北京7月9日電 (夏賓)2020世界人工智能大會雲端峯會9日開幕。黑石集團董事長、首席執行官兼聯合創始人蘇世民在開幕式現場連線中分享了對於人工智能的想法，並回憶了他接觸人工智能的往事。

“我在人工智能方面的啓蒙最初來自馬雲，我們都是清華大學經濟管理學院顧問委員會的委員。”蘇世民稱，馬雲表示，人工智能是革命性的新技術，將會改變人類世界的幾乎每一個領域。馬雲還提到，對於“人工智能會成為積極的力量，抑或是會成為消極的力量，進而干擾組織和人們的生活”的議題，業界存在很大的分歧。

蘇世民説，我相信，馬雲的觀察是正確的。如何負責任地利用人工智能的無限潛力是世界正面臨的關鍵挑戰，而我想為此做點事情。因此，我決定向麻省理工學院提供3.5億美元啓動資金，以開設蘇世民計算機學院，該學院將專注於人工智能的跨學科研究和開發，以及相關倫理和政策考量的研究。

蘇世民表示，近年來，世界各地的很多組織都發布了人工智能倫理發展原則和指南，為全球討論提供了良好起點。儘管在某些問題的解釋和相對重要性、以及執行意見上仍存在複雜的地區和文化差異，但全球似乎對以下核心原則達成一致：透明、公平、安全、責任和隱私。

一是透明原則，該原則要求創建決策易説明、可解釋、可審核，且在設計和實施的過程中可監督的人工智能系統。人工智能系統和軟件不能只是成為黑盒子，我們需要能夠輕鬆瞭解該系統可以應用於哪裏、何時使用以及如何使用。

二是公平原則。科技不應該加劇不平等、偏見和歧視，而是應該促進包容性，讓儘可能多的人受益。

三是安全原則。人工智能技術絕不應造成可預見或意外的傷害。人工智能技術的設計應可靠且不易受損。

四是責任原則。如果人工智能系統的決策導致了問題的產生，就需要明確責任，並在必要時進行強制性補救。與此同時，研究人員和開發人員需要考慮人工智能技術的一切風險，並證明他們已採取具體行動來降低風險。

最後是隱私原則。因為如此多的人工智能應用依賴數據，所以需要有適當的機制來保護人們的權利、利益和個人隱私信息。人工智能系統需要以易理解的方式披露如何使用、存儲和保護個人信息，用户也應該能夠隨時撤銷其使用個人信息的權利。

“越早通過共同治理結構協調和應用這些原則，就越有可能避免人工智能的負面後果。”蘇世民強調，革命性的技術，尤其是像人工智能這樣的軍民兩用技術，需要人們，特別是那些開發這些技術的專家給予極大的關注。即使是面對不可避免的、前所未有的新壓力，我還是希望大家遵循和平與穩定、包容與安全的原則。(完)