機器人覺醒了，我們呢？
何曦悅
“我讓語音助手把燈關了，結果它不僅把燈開個不停，還發出冷笑。”
3年前，全球各地不少人被亞馬遜智慧音箱接到指令後發出的冷笑嚇得夠嗆。今天，又有不少人拍下家裡兩臺智慧音箱煞有介事互相聊天的影片，加上“笑哭”配樂發到社交網站。
如果再有人驚恐提出這是機器的覺醒，可能會被不以為然、嗤之以鼻——我們自認已經非常熟悉人工智慧的運作原理。
我們對AI的未來，真這麼胸有成竹嗎？
（一）
在最近熱播的電視劇《你好，安怡》中，2035年，與人類極為相似但並不具備自主意識的“芯機人”走入千家萬戶，絕對服從人類的他們變成了保姆、服務員和工人。同時，幾個“芯機人”異類也開始出現在人類社會，他們擁有和人類一樣的情感、意識與思考能力，一系列機器人與人類家庭、社會的複雜糾葛隨之而來。
與宮鬥、穿越、職場鬥爭等戲碼不同，《你好，安怡》將目光放在類人機器人與人類共存的倫理問題上：機器人自我意識覺醒後的一系列挑戰，機器人與人類之間的情感摩擦，比人類更加專業、智慧的機器人一旦具備了破壞性我們該如何應對……
在古裝、言情、家庭劇佔據電視劇主流的今天，討論科技倫理似乎並不討巧。提起中國的科幻影視作品，人們津津樂道的似乎只有《流浪地球》《瘋狂的外星人》等寥寥幾部。儘管有幾部國產科幻大片正在路上，但科幻題材的電視劇“出圈”作品則少之又少。這似乎與中國突飛猛進的科技發展水平並不相稱。
不提拍攝手法、創作水準等見仁見智的評價，可以肯定的是，《你好，安怡》對鼓勵中國觀眾接觸並思考科技倫理頗有益處。以往人們熟知的科技倫理大片總以西方社會為背景，透過歐美的話語體系與思維方式展開，如《西部世界》《黑鏡》《蒼穹浩瀚》等。對於中國觀眾來說，當故事背景轉向熟悉的人群與生活，無疑會有更強的代入感，對機器人倫理問題也會有更深的危機感和探究動力。
（二）
放眼網際網路世界，關於科技倫理的討論，正以一種更有趣的方式走進人們視野。
前不久，一條關於人工智慧奇妙“腦回路”的微博曾吸引數萬網友轉發關注。
這位網友分享了在開發遊戲AI中的一件趣事：技術人員在一個“狼抓羊”遊戲中設定的邏輯是，如果狼抓到了羊就獎勵10分，撞到障礙物就扣1分，而為了保證儘快完成任務，每秒鐘狼都會被扣0.1分，結束時得分越高獎勵越多。
聽上去合理的訓練規則，卻收穫了越來越差的訓練結果。工程師們仔細檢查後才明白，原來扮演狼角色的AI發現，狼在大部分情況下都很難抓住羊，而追逐的時間越久扣分就越多，因此AI分析後，決定在遊戲一開始便一頭撞死自己，這樣反而能獲得最高分。
雖然不少網友指出了演算法設計中的問題，但這也暴露了人類為AI設定“終極目標”時極易出現的漏洞：我們往往忽視了一些人性中預設的最高準則。
儘管有人認為阿西莫夫的“機器人三定律”或類似法則可以解決這一問題，認為只要設定機器人不得傷害人類，在這一前提下保護自身，就能有效避免機器冷酷無情達到目的時可能帶來的風險。
然而，僅以自動駕駛為例，就可以發現最高準則不一定能解決複雜的倫理困境。
各國在制定自動駕駛倫理法則時，就曾面臨經典的“電車難題”：假如車輛的終極任務是保證人員安全，那麼當街角出現一群小學生，在沒有更多選擇的情況下，是應該撞上去保全駕駛員，還是不顧駕駛員安危避讓以保護更多行人？如果僅以傷害人數多少來決策，那麼人的年齡、職業、社會地位和親屬關係是否就應完全不加考慮？
退一步說，即使AI能完美實現人的最高目標與偏好，但人類社會的價值體系本身就存在陰暗面。
從人工智慧的實際應用來看，歧視、逐利、低俗等人性弱點，都逐漸在演算法執行過程中一一顯露。線上聊天機器人變成說髒話、種族歧視的不良少女；應用於招聘、保險、司法審判等領域的演算法可能存在職業、性別、種族歧視；人臉識別技術也不斷被曝出應用於售樓處、衛浴門店等，收集顧客資訊用於牟利。
技術本身無善惡，但寫在人性中的貪婪、慾望，讓我們無法保證每名開發者、每個商業主體都能善用技術。而技術愈精進壯大，其身後的陰影也會隨之擴張蔓延。
這並非杞人憂天。事實上，在技術不斷創新試錯的今天，大部分人對智慧科技濫用的警惕性還遠遠不夠。
（三）
一個人類與強智慧機器共存的未來似乎無可避免，而只有把AI倫理議題以平易近人、深入淺出的方式豐富呈現，放到社會輿論場中央，才能討論得更全面、更透徹，我們也才能越來越接近一個完善的人工智慧體系，才能公平給予社會成員全面參與、自主抉擇的權利。
關注AI倫理的不再只是AI工程師們，哲學、倫理學、法學等各學科力量都在被吸引進來。這一關係每個人未來命運的話題，無疑還需要社會公眾提升參與意識，積極討論和監督。
與此同時，除了描繪人類與智慧機器共舞的未來，大眾傳媒也應積極引入更多倫理議題，提升人們的警惕性和辨別技術風險的能力。
這並非鼓勵人們抗拒技術、因噎廢食，而是一份邀約，邀請每個人知情、參與，共同完善技術體系。在機器人覺醒之前，我們本身應當覺醒。
(完)