偉大的美國科幻小説作家阿西莫夫曾在他的小説集《我，機器人》中提出了著名的“機器人三定律”：一、機器人不得傷害人，也不得見人受到傷害而袖手旁觀；二、機器人應服從人的一切命令，但不得違反第一定律；三、機器人應保護自身安全，但不得違反第一、第二定律。
日裔英國作家石黑一雄
電影《人工智能》海報
根據“機器人三定律”，一個合格的機器人就應該絕對聽從並服務於人類，只知付出、不求回報、鞠躬盡瘁、死而後已。但“機器人”畢竟又與“機器”不同，加上了“人”的屬性後，機器便有了無限接近人類的可能，它們甚至能夠習得人類的思想、記憶乃至情感，進而產生自我認知。2017年諾貝爾文學獎得主石黑一雄最新出版的小説《克拉拉與太陽》中，就借用科幻的外殼，講述了一個名叫“克拉拉”的AI（人工智能）機器人和小主人喬西一家的故事。
AI機器人的自我敍事
小説的主幹故事並不複雜，石黑一雄在接受採訪時談到，這部小説的雛形其實就是他寫給四五歲孩子看的兒童文學。在敍事上，石黑一雄特別使用了AI機器人視角作為第一人稱，整個故事就是克拉拉麪臨報廢時的斷續回憶。
克拉拉是一個供人類排遣孤獨的陪伴型機器人。在商店櫥窗展示期間，克拉拉被一位名叫喬西的小女孩挑中，隨後走進喬西一家的生活。喬西由於身患疾病，可能將在不久之後離開人世。喬西的母親拒絕接受女兒將會死亡的現實，她要求克拉拉觀察學習喬西的行為舉止，從外到內掌握喬西的一切，以便在女兒去世之後，讓克拉拉成為喬西生命的延續。克拉拉得知母親的願望後，並沒有順從這項安排，而是通過向太陽（小説中機器人的能量之源）祈求，使喬西恢復了健康。
在小説中，相比其他在技術上更先進的機器人，克拉拉的優勢是出色的觀察、學習和感知能力，這也是克拉拉之所以被喬西母親認可的原因。剛到喬西家的時候，克拉拉把管家錯誤識別為某個類似機器人商店經理一樣的角色，以為管家會向自己介紹即將展開的新生活，但很快就發現管家對自己十分反感。又如，喬西通常每天早上都要陪母親在上班前喝一杯咖啡，但偶爾也會因為沒能及時起牀而錯過與母親共進早餐的機會，這時克拉拉就能從喬西自己吃早餐時的神態上察覺到她的孤獨。
石黑一雄以克拉拉的視角進行講述，經常表達人工智能模擬人類意識的感受，比如克拉拉一直渴望被經理安排在商店櫥窗裏展示，因為那裏能看到外面的世界：“格柵升起的那一刻，當我意識到此刻我和人行道之間只隔着一層玻璃，意識到我能夠無拘無束地、近距離地、完完整整地看到那麼多我以前只能窺到邊角的東西時，我是那麼地激動，以至於有片刻工夫，我幾乎忘記了太陽和他對我們的仁慈。”
太陽，在這部小説中是一個近乎神蹟般的存在，它幫助克拉拉完成了“心願”——讓喬西擺脱早夭的命運。有趣的是，像克拉拉這樣一個代表人類最先進技術的產物，最後卻要求助於自然萬物之源，而且其自身作為機器人的正常運行也要依靠來自陽光的滋養，這或許暗示了石黑一雄對於人工智能與自然關係的保守態度，即以人工智能為代表的科技成就仍然無法超越或者打破自然設定的規則法度。
美國硅谷工程師安東尼·萊萬多斯基（Anthony Levandowski）曾經腦洞大開地創立過一個名為“未來之路”的宗教，信奉“機器人上帝”為控制一切的“神”，把AI推向超驗世界的頂端，這樣的奇思在石黑一雄看來，一定是無稽之談。
當AI進入人類親密關係
“我們過去很長很長的時間裏都認為人類有靈魂，且每個人是獨一無二的。愛一個人是很容易理解的概念，因為那個人獨一無二，而倘若那個人離開以後，你就永遠失去了他們。但我們似乎抵達了一個新的時代，有了算法與數據，人獨一無二這一概念，或者人作為生物深不可測這一概念，都受到了挑戰。”石黑一雄在接受採訪時如是説。
《克拉拉與太陽》想要探討的主題顯然並非人工智能與自然的關係，而是AI機器人在親密關係中替代人類的可能性，以及遭遇的道德困境和人性反思。
當母親向克拉拉坦白她想要它成為女兒喬西去世後的延續時，整部小説迎來了最富有戲劇張力的情節。石黑一雄用他波瀾不驚的敍事技巧，引出了一個隱藏在人物對話中的關於AI與人類的經典哲學思考題——即使克拉拉同意，它是否真的能夠變為喬西？超級人工智能和人類之間是否存在永遠無法逾越的邊界？如果有，這個邊界到底在哪裏？人之為人的核心本質要素是什麼？
石黑一雄在小説中並沒有給出明確答案，他只是借用人物之口表達了兩種不同意見。例如喬西父親對克拉拉能夠變為喬西持否定態度，他嚴肅地質問克拉拉：“你相信有‘人心’這回事嗎？我不僅僅是指那個器官，當然嘍。我説的是這個詞的文學意義。人心。你相信有這樣東西嗎？某種讓我們每個人成為獨特個體的東西？我們就先假定這樣東西存在吧。那麼，難道你不認為，要想真正地學習喬西，你要學習的就不僅僅是她的舉手投足，還有深藏在她內裏的那些東西嗎？難道你不要學習她的那顆心嗎？”
卡帕爾迪先生是小説裏幫助喬西母親延續女兒生命的人，他則堅信人類沒有什麼特殊的器官或部位是AI無法複製的，他對喬西母親言之鑿鑿：“喬西的內核中沒有什麼是這個世界的克拉拉所無法延續的。第二個喬西不會是一個複製品。她和前一個完完全全是一樣的，你有充分的理由就像你現在愛着喬西一樣去愛她。你需要的不是信心。只是理性。”
面對截然相反的態度，擁有意識的克拉拉做出了自己的選擇。小説最後描寫太陽湧入喬西房間的場景激動人心，石黑一雄特別安排喬西的親人都陪在身邊，他們都在等待牀上的喬西被充沛飽滿的陽光治癒：
太陽用一個耀眼的橘黃色半圓形照亮了她，還有那整張牀；母親離牀最近，不得不舉起雙手擋在面前……真正吸引我關注的卻是母親和梅拉尼婭管家似乎也領悟到了這件事情的本質。於是，接下來的那幾分鐘，我們全都一動不動地站在原地，看着太陽愈發明亮地在喬西身上聚焦。我們看着，等待着，哪怕那橘黃色的半圓形一度看似要被點燃，我們也全都沒有干預。
AI題材文學的人性觀照
1956年，美國科學家約翰·麥卡錫（John McCarthy）首次使用了“人工智能”（Artificial Intelligence）一詞，自此以後，AI技術突飛猛進，如今早已滲透應用於日常生活的各個領域，比如交通導航、社交媒體、人臉識別、家政清潔、語音助手等，可以説，基於工具理性被製造出來的人工智能今天已經可以完全替代人類從事某些勞動。
不僅如此，人工智能不間斷的自主學習和進化能力，正在逐漸消弭它們和人類之間的界限，特別是當谷歌開發的AlphaGo打敗了世界排名第一的專業圍棋選手，當微軟開發的智能情感框架小冰出版了詩集，人類似乎再也無法不為自身未來的處境感到憂慮。按照這種發展趨勢，超級人工智能侵佔人類的親密關係，似乎也是指日可待。
在《克拉拉與太陽》中，人區別於機器獨一無二的那個東西被喬西父親叫作“人心”，也可以被稱為“靈魂”或者“思想”，正如帕斯卡爾在《思想錄》中的名言：“人是一根會思想的蘆葦。”但隨着超級人工智能的算法、數據和計算能力不斷升級，具備“靈魂”或者“思想”的AI未來是否也可以與人類建立親密關係？
與石黑一雄同樣身為英國作家的麥克尤恩在2019年出版的新作《我這樣的機器》，也是聚焦AI與人類的親密關係這個主題。
麥克尤恩將故事設定在1982年的平行世界，當仿生機器人亞當、夏娃們上市時，32歲的倫敦“宅男”查理正好繼承了母親的一幢房產，得到一大筆錢。查理對樓上的鄰居米蘭達愛慕已久，由於不知如何表白，查理就用繼承的遺產買下了一款仿生機器人“亞當”，並邀請米蘭達共同對它進行個性化的初始設置。在查理的計劃中，他和米蘭達共同創造亞當之後，他們就會自動結合成為一家人。
亞當給查理的生活帶來很多幫助，它不僅會做家務，還能幫他在投資市場上賺錢獲利。同時，亞當在與查理的相處過程中，變得與人類越來越像，以至於米蘭達的父親第一次看到查理和亞當的時候，都搞混了他們的身份。
然而令查理意想不到的是，仿生機器人亞當的出現不但沒有促進他和米蘭達的愛情，反而給自己戴上了一頂“綠帽子”。查理有一天突然發現亞當揹着自己與米蘭達發生了性關係，還寫下許多關於愛情的詩句。更駭人的一個細節是，當查理作為主人想要關閉亞當的開關時，人工智能伸出手把主人的腕骨捏斷了……
麥克尤恩寫這個故事的邏輯同樣源於機器人產生了人類的自我意識，但與《克拉拉與太陽》中AI完全利他主義的設定不同，《我這樣的機器》裏的AI形象徹底違背了阿西莫夫的“機器人三定律”，它不僅學會反抗人類的命令，甚至對主人造成了傷害。人的自我意識中既有崇高無私的光明一面，也有卑劣自私的陰暗一面，如果人類製造出的AI機器人的最高目標就是和人類一樣，那麼它們也理應複製最真實的人性，包括在親密關係中的種種表現。
以“硬核”科幻作品的標準來看，《克拉拉與太陽》和《我這樣的機器》都只能算是“軟科幻”，其中並沒有嚴格的科技推演和理論根據，處理的還是傳統人文主義命題，社會層面的意義要遠大於文學本體的意義。透過AI機器人這面鏡子，映照出的其實都是人類自身的面孔。
來源：北京晚報 作者：錢冠宇
流程編輯：L019