【導語】
許多科幻小説和電影都描述過這樣的場景：人類製造的機器人產生了自我意識，並開始與人類為敵，最終擁有人工智能的機器人幾乎摧毀了人類文明。近年來，隨着科技進步，機器人所擁有的人工智能也越來越先進，於是，很多人都提出了“機器人威脅論”，認為小説和電影裏的場景將有可能發生。
昨天，在德國大眾汽車製造廠發生的一幕似乎印證了這種擔心，一名年僅21歲的技術人員在與同事一起安裝機器人的時候，機器人突然抓住了他的胸部，然後使勁壓在一塊鐵板上，最終這名技術人員因傷重不治身亡。同樣在昨天，特斯拉CEO馬斯克宣佈，已經投入1000萬美元用以評估與人工智能相關的風險。
不僅是馬斯克，站在悲觀角度上的人還包括斯蒂芬·霍金、比爾·蓋茨等，他們是站在科技最前沿、看得最遠的人。或許，他們對機器人等人工智能的質疑和警告並不是杞人憂天。
●人工智能發展到什麼程度了?
人工智能是計算機學科的分支，它是對人的意識、思維的信息過程的模擬。美國麻省理工學院教授温斯頓説：“人工智能就是研究如何使計算機去做過去只有人才能做的智能工作。”那現在具有人工智能的機器人到底能做些什麼呢?
在很多人意識裏，人工智能還是工廠裏的那些機器人。飛利浦公司在中國有很多工廠，成百上千的工人使用特製工具手工裝配電動剃鬚刀;在荷蘭郊外同樣的一所工廠中，128台機械臂靈活地做着同樣工作。這些帶攝像頭的機器臂的技藝比最有經驗的工匠還靈巧。
當今大部分自動化工廠裏，機器人還在執行着單一的程序，但是在特斯拉的生產工廠裏，已經有不少兩米多高的紅色機器人，像一個個“終結者”。每個機器人已經可以獨立完成焊接，鉚接，粘合，安裝部件的工序。在生產線上，每隔五分鐘就會有一輛車停留在加工點，接下來就有八台機器人各司其職的工作。
但是根據《經濟學人》雜誌的分析，這些所謂的人工智能都是應用於某一具體領域狹隘的能力。歸根結底，是強大的數據處理能力而達到與人腦智力的“形似”，但至於如何模仿人的自主性、喜惡和欲求，成果則很少。
如今，通過“深度學習”系統，即對某個人類大腦表層的神經元進行復制並吸收大量數據，人工智能已經有了更高級的表現。
人工智能已經可以自學完成包括從模式識別到翻譯等在內的任務。以前曾經還需要人腦完成的事情——如解釋圖片或玩一盤電子遊戲，現在已經成為了電腦程序的一部分。2014年在Facebook上公佈的DeepFace算法，已經能對不同的人臉以97%的概率準確識別。
在更多領域，人工智能技術已經能夠通過彌補人類的能力極限來推進人類的開拓進程。比如國際象棋，如今計算機能比人玩得還要好，1997年，“深藍”機器人就戰勝了世界冠軍卡斯帕羅夫。現在，世界上最優秀的玩家既不是機器也不是人，而是一羣被卡斯帕羅夫稱之為“半人馬”的組合：一羣由人類與計算機演算法配合組成的團隊。
這樣的人機組合可能將在未來成為各種工作與活動中的常規：在人工智能的輔助下，醫生們在醫療圖像中發現癌細胞的能力將大大增強;智能手機裏的語音識別算法將使數百萬不識字的人們也能夠進入互聯網的世界;數字助理將能夠為學術研究提出更靠譜的假設;圖片分類算法將使得便攜式計算機能夠幫助人們對現實世界的事物分類出更實用的信息。
●機器人為人類提供了便利，為什麼還有人感到焦慮?
當前人工智能雖然對人類的幫助很大，但還是有不少人一直對它抱有懷疑態度，其中不乏站在科技前沿的人們。
人類歷史上最偉大的物理學家之一霍金就説：“我們已經擁有原始形式的人工智能，而且已經證明非常有用。但我認為人工智能的完全發展會導致人類的終結……一旦經過人類的開發，人工智能將會自行發展，以加速度重新設計自己。由於受到緩慢的生物演化的限制，人類不能與之競爭，最終將會被代替。”
比爾·蓋茨也表示：“如果我們處理得很好的話，這應該是具有積極意義的。那之後的幾十年，人工智能會強大到足以引起人們的關注。”特斯拉CEO馬斯克更是不止一次在公開場合表示，人工智能將成為巨大威脅：“我們需要萬分警惕人工智能，它們比核武器更加危險!”
上世紀90年代以來，確實爆發過多起機器人“殺人”事件：1999年的兩個月內，美國一家肉食品加工廠的兩名工人就因為誤操作啓動機器人不幸身亡;2001年，一名汽車廠工人在進入機器人防護籠進行清潔工作時被機器人扼住喉嚨壓迫在滾輪下最終窒息身亡;2006年，一位女工被機器人挾住頸部釘在焊接機上，當場遇難……
當然，這些只是機器人低水平的“殺人”，讓科技大佬和物理學家共同感到擔心的是：人類發展機器人是為了讓機器人更加智能、更好地為人類服務，可是，當機器人的發展程度超過某種程度時，機器人又很可能成為一種新的具備自我意識的個體，這個時候，這種人類歷史上從未出現過的新物種是否還會甘於僅僅是服務於人類呢?
就像是幾個月前上映的漫威電影《復仇者聯盟之奧創紀元》，鋼鐵俠締造奧創是希望它能夠拯救人類，而奧創則脱離了人類的控制擁有了自己的思維，試圖毀滅人類。
擁有自我意識的機器人會是什麼樣?
機器人是否像人一樣具有自我意識，這也是有了機器人以來，人們普遍擔心、並且充滿爭議的議題。而無數的好萊塢電影曾反覆展現過這一問題。最為人熟知的，可能就是阿諾·施瓦辛格主演的電影《終結者》當中的形象，當然，這是一款殺人機器人，從未來派過來要殺害未來抵抗運動領導者的母親。
威爾·史密斯主演的電影《我，機器人》則相對《終結者》進行了更加深入的思考。它講述了這樣一個故事：公元2035年，智能型機器人已被人類廣泛利用。作為最好的生產工具和人類夥伴，機器人在各個領域扮演着日益重要的角色，而由於眾所周知的機器人“三大安全法則”的限制，人類對這些能夠勝任各種工作且毫無怨言的夥伴充滿信任，它們中的很多甚至已經成為一個家庭的組成成員。就在此時，一起“機器人犯罪”事件意外地發生了，“機器人之父”阿爾弗萊德·朗寧博士在辦公室被機器人殺害。之後，機器人並開始對人類進行殺戮。
機器人的三定律就是著名的科幻小説作家阿西莫夫在小説中對機器人行為進行的設定：機器人不得傷害人類，或因不作為使人類受到傷害;除非違背第一法則，機器人必須服從人類的命令;在不違背第一及第二法則下，機器人必須保護自己。
幾十年來，“機器人三定律”被默認為人工智能領域的天條，很多人沒有想過，人工智能機器人是否能進化出自我意識。很多人也沒有思考過，機器人違背第一法則怎麼辦?
這樣的事情並非不可能發生，美國康奈爾大學創意機器人實驗室主任利普森説：“從兩年前決定不要去設計機器人，而是培養機器人，即把很多機器人的部件放到模擬器，讓它進行演變。隨着時間的推移，產生突變，培養它，變成機器人了。”
為什麼是現在來討論機器人的自我意識?利普森説：“一是3D打印技術的成熟，由於3D打印的特點，未來機器人不會由零部件構成，會直接打印;另一方面，是深度學習的發展。該概念源於人工神經網絡的研究，通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵，以發現數據的分佈式特徵表示。經過十幾年的發展，如今很多人都在嘗試深度網絡，進行自我訓練，這是人工智能領域的巨大突破。”
利普森描述了一次深度學習時遭遇機器人的自我意識：“一次深度網絡的圖像識別中，培訓神經網絡在一堆圖片中區分貓和狗的圖片，然而，其中屏幕裏一個神經網絡開始追蹤起顯示器外的兩位科學家的面部了。要知道這個網絡並不是用來定義為來臉部追蹤，而它慢慢學會了跟蹤人臉，跟蹤攝像頭前面的兩張人臉，這是令人驚訝驚喜的技術。”
2014年6月，英國雷丁大學宣佈，有一個計算機程序成功讓人類相信它是一個13歲的男孩，從而成為有史以來首台通過“圖靈測試”的機器，這意味着機器也能像人類一樣“思考”。圖靈測試是指測試人在與被測試者(機器)隔開的情況下，通過一些裝置(如鍵盤)向被測試者隨意提問。問過一些問題後，如果被測試者超過30%的答覆不能使測試人確認出哪個是人、哪個是機器的回答，那麼這台機器就通過了測試，並被認為具有人類智能。
●機器人會造反嗎?
這是個很難有答案的問題。
在樂觀者人看來，人工智能的研究是希望機器的智能能夠接近於人類，但是人類所具有的最重要的智能表現——創造性，卻是機器人永遠都難以超越的，它只能遵照人類為它設定的程序來執行。
而且，就好比軍隊需要受國民的監督，市場需要受法規的管理，而政府的行動必須透明、負責，人工智能系統也必須公開接受公眾的詳細監查。由於系統的設計者並不能預見每一種後果，設置一箇中斷系統也是必須的。這些約束可以在不影響發展的情況下實施。從交通法規到核彈，人類已經通過科學和法律來約束重大創新。
但這些並不能打消另一些人的憂慮：擁有自我意識的人工智能是否會甘於遵循人類既定的三大法則?更讓人不安的地方在於，永遠不知道機器人造反究竟時候到來，也並不知道機器人是否實際上已經具備了自我意識。
還有來自霍金的擔憂：“計算機具備的人工智能將會在未來100年中的某個時點超越人類的智能。當這種情形發生時，我們必須確保計算機是站在人類這邊的。”如果人工智能與它的主人想法不一樣該怎麼辦?目前還難以給出答案。
於是，同樣擁有這種擔心的馬斯克昨天宣佈已經投入1000萬美元用以評估與人工智能相關的風險。人類現在確實處於這樣一種境地：一方面，人們正或多或少地享受着人工智的誘惑，另一方面，人工智能的“恐怖谷效應”又是無法迴避的客觀存在。