機器人應當遵循哪些倫理原則?
早在 1942 年,美國著名科幻小説家、文學評論家 Isaac Asimov 用作品《我,機器人》給出了他心中的答案——「機器人學三定律」:
第一,機器人不得傷害人類,或坐視人類受到傷害;
第二,除非違背第一法則,機器人必須服從人類的命令;
第三,在不違背第一及第二法則的前提下,機器人必須保護自己。
後來作為補充,第零定律(機器人必須保護人類的整體利益不受傷害,其它三條定律都是在這一前提下才能成立)出現,此後這一理論被稱為現代機器人學的基石。
不過現實世界中,人們對機器人的應用似乎並非如此。
最近,美國的一個惡搞組織將一把蒂普曼 98 彩彈槍綁在波士頓動力公司網紅機器狗 Spot 的身上,任其在畫廊裏遊蕩。
對此,波士頓動力發推進行了一番譴責,認為這種博眼球的做法只會引發暴力、傷害或恐嚇。
Spot 架上彩彈槍這一作品出自一個愛搞惡作劇的藝術/營銷團體 MSCHF,其英文發音正是 mischief(意為惡作劇)。
按《連線》雜誌的話説就是:
一羣惡搞者想要以一種反烏托邦的方式來展示機器人技術。
具體來講,MSCHF 設計了一個最新程序 Spot's Rampage(鏈接:https://spotsrampage.com/),Spot's Rampage 於美東時間 2021 年 2 月 24 日下午 1 點開放,其界面酷似一款小遊戲,人們可以通過帶有兩個模擬搖桿的控制器,在一個虛擬藝術畫廊裏控制被架上彩彈槍的 Spot,每人限時 2 分鐘。
此外據《連線》雜誌報道,MSCHF 組織會定期發佈一些惡作劇程序。
在 MSCHF 官網(鏈接:https://mschf.xyz/)上可以看到, Spot's Rampage 是其最新惡作劇,編號為 40。
其網站頁面上共顯示有 85 個程序,剩餘的 45 個程序都處於發佈倒計時階段,未來 MSCHF 將以一個月 2 次的頻率發佈新程序(均在週一發佈),下一次程序發佈定在 2021 年 3 月 15 日。
一直以來,MSCHF 的腦洞都不小:
創建過一款 APP,持續按住一個按鈕時間最長的用户將獲得 2.5 萬美元獎勵;
開發了一款基於占星學的選股軟件;
將英國藝術家達米安·赫斯特的畫作切割開,再一點一點賣出去。
外媒 The Verge 報道了此次 MSCHF 對波士頓動力的 Spot 下手的原因——MSCHF 成員 Daniel Greenberg 表示:
人們看到 Spot 跳舞的視頻,通常都會覺得這隻機器狗歡脱可愛,但如果我們真正想一想它在現實世界中的用途,就會發現 Spot 的形象可以是警察或軍人。
對此,波士頓動力發推稱:
今天我們得知,一個藝術團體以充滿爭議的方式,用我們的機器狗 Spot 策劃了一場博眼球的活動。需要明確的是,我們譴責所有將我們的技術用於暴力、傷害或恐嚇的行為,我們的使命是創造和交付能力驚人的機器人,對社會產生激勵、愉悦等積極影響。
我們長期致力於確保客户將機器人用於合法用途。在批准出售之前,我們將所有申請購買機器人的名單與政府的個人、實體清單進行核對;買家須同意我們的銷售條款,其中就明確規定了我們的產品必須在遵守法律的前提下使用,且不能用於傷害或恐嚇人類和其他動物。
任何違反我們銷售條款的行為都將導致產品保修自動取消,機器人將不會再被更新、服務、維修、更換。
這種充滿挑釁意味的藝術在根本上歪曲了 Spot 便於我們日常生活的事實。
自然,這一事件引發了網友熱議。
一方面,有網友表示:
做出這樣行為的人真是可恥。
如果這些藝術團體成員是機器人的設計者,恐怕機器人早就統治世界了!波士頓動力公司和美國國防部高級研究計劃局(DARPA)顯然遵循了 Isaac Asimov 的機器人學三定律,只有這樣類似的機器人挑釁行為才不會發生。
另一方面,也有網友認為:
波士頓動力的聲明真是諷刺,波士頓動力在把產品出售給警察和軍隊的時候就應該明白,Spot 將會被用於暴力。
不管 MSCHF 的做法是否顯示出了濫用波士頓動力機器人技術的潛力,都不能否認機器人可能會被濫用的事實。MSCHF 其實提出了一個有效的觀點:這項技術將被警察用來對付民眾。
推特網友 Elwood 稱:
如果這樣的行為不合法,那麼汽車、頭盔、有機玻璃、牛仔褲都應該被視為違法。天啊,能以一個成年人的思維方式想問題嗎?
在很多人記憶中,波士頓動力的網紅機器狗 Spot 會尬舞。
會放羊。
會測温。
其實除了上述場景,Spot 也被用於美國執法機構。
據瞭解,Spot 率先被美國馬薩諸塞州警察局使用,最近也正在接受紐約警察局測試,即將上崗——而這一點正是不少網友認為諷刺的地方。
此前知乎有一個問題是“如何解釋機器人三定律與軍事機器人之間的矛盾”,這個話題下的一條回答是:
二者存在內在矛盾,根本沒有辦法修正。
那麼,對於機器人倫理問題,你怎麼看?
引用來源:
https://www.wired.com/story/boston-dynamics-robot-dog-armed-name-art/
https://www.theverge.com/2021/2/24/22299140/nypd-boston-dynamics-spot-robot-dog
https://www.theverge.com/2021/2/22/22295091/mschf-drop-boston-dynamics-spot-paintball-gun-art-gallery
https://www.zhihu.com/question/27131172/answer/36320550
雷鋒網雷鋒網雷鋒網