2017年,人工智慧研究人員斯圖爾特·羅素(Stuart Russell)在聯合國常規武器公約的一次會議上展示了“屠宰機器人”影片。當羅素博士和未來生活研究所在YouTube上釋出這段影片時,它迅速走紅。在影片中,虛構的無人機群自主識別、瞄準和殺死對手。無人機暗殺活動人士和政治領袖,一家屠宰機器人制造商聲稱,價值2500萬美元的無人機可以摧毀半座城市。
雖然屠宰機器人是虛構的,但許多國家都在開發無人機群技術和自主武器。美軍的每一支部隊都在發展無人機群-包括海軍的蜂擁而至的船隻,以及空軍計劃在廣泛的軍事角色中部署無人機群,從情報收集到壓制敵人的防空系統。俄羅斯、韓國、英國和其他國家也在蜂擁而至。
與此同時,從韓國的SGR-A1炮塔到美國的方陣(Phalanx)近距離武器系統,一系列國家已經或正在開發自主(主要是固定式防禦性)武器。結合這些技術創造了一種屠宰機器人式的武器:一種全副武裝的、完全自主的無人機群--或稱AFADS。(就本文而言,將“完全自主”定義為既能自我瞄準又能自我移動的武器系統;“無人機”指的是在陸地、海洋、空中或太空上執行的任何無人駕駛平臺;“無人機群”指的是使用多架無人機協作實現共同目標。)。
正因為如此,AFADS應該被歸類為大規模殺傷性武器。AFADS可以超過任何任意的大規模傷亡門檻,天生就無法區分軍事和民用目標。
將無人機群歸類為大規模殺傷性武器具有重大的概念、法律和國家安全影響。
從概念上講,理解AFAD是否是(或不是)大規模殺傷性武器需要仔細討論該術語的範圍和替代方案。
雖然這樣的無人機群與傳統的大規模殺傷性武器有一些強烈的相似之處,但它們也有重大的不同之處。
從法律上講,將AFADS歸類為大規模殺傷性武器意味著“海底條約”和“外層空間條約”適用於蜂群。
這些條約限制了大規模殺傷性武器在“全球公共”區域(洋床和外層空間)的放置,但它們這樣做並沒有準確定義大規模殺傷性武器。
傳統的大規模殺傷性武器製劑--生物、化學和核武器--也有許多政策、方案、政府和國際組織以及旨在遏制其擴散和提供應對其使用的框架的條約。
從國家安全的角度來看,將AFADS歸類為大規模殺傷性武器也會產生影響,因為使用大規模殺傷性武器,包括化學制劑,可能會從根本上改變公眾對軍事行動的支援。
如果AFADS是大規模殺傷性武器,那麼適用於傳統大規模殺傷性武器的防擴散和反擴散政策、條約和規範都值得考慮。
然而,將一種特定的武器歸類為大規模殺傷性武器是相當困難的,因為定義的擴散比武器本身更多。
Seth Carus對大規模殺傷性武器定義的全面審查發現,僅美國政府就使用了20種不同的定義。
部分由於這個原因,其他作者不同意“大規模殺傷性武器”這一術語本身,強調了它的模糊性,政治濫用的可能性,以及所有傳統的大規模殺傷性武器製劑-生物、化學和核劑-都具有同等威脅的暗示。
術語上的爭論太大太廣,無法在這裡解決,但無論大規模殺傷性武器的定義是哪種(或非大規模殺傷性武器的替代),將這些武器與常規武器分開意味著大規模殺傷性武器在值得特別關注的方式上本質上是不同的。
武裝的、完全自主的無人機群應該被歸類為大規模殺傷性武器,因為它們的潛在危害程度和固有的無法區分軍事和民用目標的能力-這兩者都是歸類為大規模殺傷性武器的現有武器的特徵。
(1)可擴充套件的危害
武裝無人駕駛飛機群體的可擴充套件性意味著他們可以繞過任何定義“大規模殺傷性”的任意門檻-無論這樣的定義是與1000人傷亡、2000人傷亡還是任何其他數字掛鉤。
雖然常規武器的大小和影響受到許多因素的限制,但無人機群的可擴充套件性幾乎沒有限制。
無人機平臺是已知的,相對容易獲得的技術。
巴德學院無人機研究中心已經確定了95個國家擁有軍用無人機,包括171種不同型別的無人機。
這項技術還很初級,基本的無人機可以在百思買(Best Buy)或3D列印商店買到。
將無人機轉變為蜂群只需要使無人機能夠共享資訊和做出決策的軟體和硬體,以及維持開發和收購的資金。
英特爾迅速提高了控制越來越多的無人機的能力,這表明了擴充套件的簡便性。
2016年,該公司同時飛行了100架無人機。2017年,它飛行了300架無人機。到2018年,它成功地飛行了1218架無人機,然後是2018架。給所有2018架無人機炸彈,集體肯定會造成大規模傷亡。
當然,確切的傷害程度高度依賴於上下文。
防禦者可能配備反無人機系統或先進的防空系統。
如果屠宰機器人真的變得無處不在,各國可能會到處掛網。
相反,無人機群的靈活性使它們能夠融入適應性,如對峙或化學武器。
無人駕駛飛機群還可以在多個領域運作,幷包括反坦克武器、電子戰裝置或其他提高生存能力的系統。
幸運的是,到目前為止,幾乎沒有什麼例子可以判斷無人機群的傷害能力。
最近的一個例子發生在2018年1月,當時敘利亞反對派向俄羅斯在敘利亞的一個軍事基地集體發射了10架粗糙的無人機。
儘管俄羅斯軍方聲稱擊敗了無人機,但自由阿拉維派運動聲稱摧毀了一臺價值4億美元的S-400導彈發射器。
關於損害的證據微乎其微,而且兩個行為者都有強烈的動機誇大或完全撒謊,所以很難判斷確切的損害。
(2)天生不分青紅皂白
無人機群的性質激發了高度的自主性。
隨著蜂群中無人機數量的增加,控制它們的難度也隨之增加。每架無人機的活動必須協調一致,以實現目標並防止碰撞。
隨著無人機的數量變得真正龐大,人類對蜂群的控制可能是不可能的。
與其他職業領域相比,美國空軍無人機操作員已經經歷了嚴重的人員短缺和更高的倦怠率。
自主確定目標是否有效是一項極其困難的任務。假設有一名全副武裝的敵軍士兵穿著制服。表面上看,這是一個明顯合法的目標-除非他們生病或受傷。但如果士兵將武器指向後方,那麼即使是受傷計程車兵也可能是有效的目標。
更根本的是,自主系統必須能夠有效地區分武裝與非武裝、敵人與友軍、制服與平民服裝。
即使該系統能夠可靠地區分耙子和步槍,它也需要在物體被遮蔽或偽裝的困難條件下這樣做。可靠的歧視可能需要接近人類水平的人工智慧,這在不久的將來是不太可能的,如果永遠也不可能實現的話。
難度的大小也將取決於操作領域。海基蜂群(無論是水面無人機還是海上使用的空中無人機)將比陸基蜂群面臨的環境障礙要少得多。
在開闊的海洋上,樹枝不會遮蔽敵艦。同樣,由於設計和大型武器系統的存在,軍用船隻可能更容易與民用船隻區分開來。
儘管如此,相對容易的歧視只是相對的,它仍然是一個需要解決的主要挑戰。
由於這些實際困難或道德原因,一些州可能選擇永遠不發展這樣的武器;然而,應該假設有些地區會這樣做。
從轟炸德累斯頓到敘利亞政府使用化學武器和各種非洲種族滅絕,許多國家在追求軍事目標的過程中選擇了不擔心平民傷亡。
伊拉克甚至把它作為一個戰略目標來尋求:驚恐的民眾對政權的威脅較小。
就像AK-47蔓延到世界各地不穩定的地區一樣,為什麼不使用自主無人機呢?
各國應該限制武裝的、完全自主的無人機群的擴散,建立禁止使用無人機的規範,如果使用軍事力量,應該認真考慮,並讓軍隊做好可能發生衝突的準備。
具體地說,各國應該考慮採取幾個步驟。
第一,政府可以正式表明其立場,認為AFADS應被視為大規模殺傷性武器。
廣泛承認將有助於制定反對AFADS的國際規範,並鼓勵就實質性對策進行討論。特別是,各國應該表明,AFADS屬於“海底條約”和“外層空間條約”的範圍。禁止在外層空間和海底使用AFADS可能會帶來次要的國家安全利益,比如降低無人機群對海基核力量的風險。
第二,應擴大反大規模殺傷性武器組織的範圍。
各國應該評估與打擊大規模殺傷性武器有關的政府組織和國際組織是否應該納入AFADS。
由於AFADs仍然是一個新出現的威脅,最初的努力應該集中在防止出現和不擴散上。
重點應該是編纂國際條約中禁止使用的規範,擴大出口管制制度,納入AFADS,並制定對違規者的懲罰政策。
國務院的國際安全和防擴散局和商務部的工業和安全域性可能是主要參與者。
第三,應該探索核查和信任的方法。
驗證AFADS的使用可能非常困難,因為一個關鍵方面-完全自治-主要存在於程式碼中。
為了解決自主武器的這個問題,一般已經提出了各種建議,它們可能適用於蜂群。
例如,各國可以開發需要操作員身份驗證、氣隙射擊授權以及確保安全操作的方法的資訊共享的控制系統。
應與其他國家政府合作,努力確定和制定有效的方法。
第四,和更廣泛的國際社會應該就使用防空系統是否足以值得軍事幹預衝突進行辯論。
這場辯論應該集中在目標的使用規模和性質(軍事與民用)上。
在平民人口上使用一萬架無人機群可能值得幹預,但在持續的衝突中使用兩架無人機群攻擊軍事基地可能不應該。
各國還應考慮軍事力量水平以下的選擇(例如制裁),並與國際人道主義法界合作,確定旨在限制對平民造成過度傷害的武器的現有法律框架。
無人機群技術,特別是自我瞄準、自我移動的無人機群,對全球安全構成了重大風險。
如果不能制定國際規範,並在強有力的政策的支援下,防止和應對AFADS的出現,可能會使各國變得不那麼安全,世界也會變得更加危險。