每當先進的技術在拓展人們能力的同時，也會帶來極大的安全風險。就人工智能的戰爭應用問題而言，就存在着不少隱患挑戰，必須引起我們高度關注。
競爭性風險。鑑於人工智能技術在軍事領域的廣闊應用前景，一些國家陷入人工智能軍備競賽的可能性在不斷上升。特別是人工智能技術在發展過程中，技術還不夠強大，很難保證系統的穩健性和可預測性。然而，即便如此，人們仍會堅持採取一些看似風險很大的舉措，其重要原因在於人工智能系統將有助於奪取戰略優勢，沒有哪個大國敢冒落後於對手的風險，這就陷入了“囚徒困境”。
可靠性風險。戰爭環境複雜、變化迅速，對人工智能系統的環境適應性提出了很高要求。在戰場上多方部署的人工智能系統會使環境更加複雜化，多個系統的解析力衝突，會進一步加劇系統的脆弱性，增加事故和失誤的可能性。可靠性也不僅僅是系統設計的問題，戰爭是競爭性行為，入侵和破壞潛在敵人的系統是常態。以大數據為基礎的人工智能算法在有毒數據面前仍然很脆弱。
自主性風險。隨着人工智能的不斷髮展並在軍事領域的廣泛運用，戰術制定到戰略決策，人的監督作用存在極大弱化甚至退出的可能。可以設想，完全自動化的戰場，戰爭一經打響，人工智能系統會迅速鎖定從導彈發射井到航空母艦等不同目標，然後設計出快速而精確的打擊方式。由於人工智能縮短了戰爭決策流程，對手做出反應和決策的時間更加短暫。為避免在戰爭中陷入被動，先發制人的傾向性大大提升，戰略穩定面臨巨大風險。戰略決策自主化因各種因素造成的誤判更會帶來毀滅性的結果。
多元化風險。人工智能的介入，會讓武器和戰爭越來越多元，各種無人裝備包括人工智能虛擬武器將會層出不窮。在萬物互聯的物聯網社會，各種民用設備都有可能被改造為武器裝備。無人系統集羣作戰的相對低成本、擁有大量智能化無人裝備系統軍隊的低傷亡，將會深刻改變戰爭的成本收益對比，極大地降低戰爭門檻。無人水下航行器、無人飛行器、臨近空間飛行器、網絡空間智能化軟件，都是基於算法進行自主控制，其攻防界限、偵打界限更加模糊，有可能被對手誤解為是直接攻擊，引發戰爭衝突的可能性也將大大增加。
擴散性風險。同其他與國家安全密切相關的技術相比，人工智能技術可通過商用、民用不斷得到研發和升級。而且由於人工智能更多體現在軟件而非硬件中，其研究平台更加廣泛，獲取途徑更為多元，跟蹤和控制的難度也成倍加大。人工智能武器在全球網絡上的擴散，相當於帶有放射性的物質分佈在世界各地。恐怖主義分子通過無人裝備形成行動的突然性和產生的破壞力更加難以預料，勢必會引起法律、倫理等多方面的問題。
來源:解放軍報