縱觀歷史，人類總是利用新技術在戰爭中獲得優勢。目前世界各國都在熱衷於開發和部署致命性自主武器系統 (AWS)，情況也不例外。這項技術的掌握者將獲得令人眼花撩亂的硬實力，支持者堅稱這些能力將透過威懾促進和平。批評者認為，它將生與死的決定交給冷酷的演算法計算，從而刺激戰爭，同時使戰鬥人員和平民失去人性。
根據具體情況，兩種觀點都有可能被證明是正確的。很大程度取決於該技術的使用環境。問題的核心是人類操作員將多少控制權讓給了機器——尤其是當衝突場景以更快的速度展開時。因為如果圍繞 AWS 有共識的話，那就是這些系統將大大加速戰爭。
2017 年，100 多名人工智慧 (AI) 和機器人技術專家簽署了一封致聯合國 (UN) 的公開信，警告稱 AWS 可能使戰爭“以前所未有的規模和比人類更快的時間尺度進行”理解” 。事實上，這種動態正在引發重大的軍備控制困境。關於人類是否能夠控制比人類思考速度更快、有一天可能獨立行動的致命技術，這是一個充滿不確定性和分歧的問題。
根據「阻止殺手機器人運動」的說法，嚴格的國際規則對於遏制 AWS 的擴散和濫用是必要的。這一立場得到了數十個小國和諾貝爾和平獎得主以及許多和平與安全學者的支持。相較之下，軍事大國正在抵制具有法律約束力的保障措施。
相反，英國、中國、印度、以色列、美國等國家正在倡導透過「人在迴路」原則進行負責任的使用。從理論上講，這承諾讓一名操作員始終監督和批准 AWS 單位使用武力。
但 AWS 的新迭代已經在加速 OODA 週期——軍事術語，描述觀察、定位、決策和行動的順序如何決定攻擊。
此外，眾所周知，在新興技術的使用中，自動化偏見通常取代人類的判斷。當將提高的速度和對機器的尊重這兩個因素結合起來時，即使是 AWS 的實際操作員是否也能完全控制他們所使用的武器，這是一個懸而未決的問題。
“電腦說殺”
自動化偏差通常被定義為使用者接受電腦生成的決策而不是相互矛盾的證據或他們自己的看法的情況。
「最危險的人工智慧不是終結者類型的，」麻省理工學院的技術專家帕特·帕塔拉努塔蓬（Pat Pataranutaporn）在一封電子郵件中說。 “因為其險惡用心顯而易見。”相反，根據人機互動專家 Pataranutaporn 的說法，「真正的危險在於人工智慧看似友好，但以我們無法預料的方式巧妙地操縱我們的行為」。
八月初，他和一位同事寫了一篇文章，描述了「上癮智能」的危險誘惑——既優越又服從人類操作員的系統。
雖然 Pataranutaporn 的研究重點是人工智慧伴侶，但國家和非國家行為者使用 AWS 的類似風險是顯而易見的。如果支援智慧武器的電腦模型建議或選擇焦土戰術作為取得勝利的最短路徑，則尤其如此。
例如，去年使用大型語言模型運行的多個兵棋推演顯示，人工智慧機器人在軍事指揮官的角色扮演中展現了透過發動核打擊粉碎對手的驚人親和力。
自動衝突
事實上，人工智慧已經正在徹底改變戰爭。莫斯科在烏克蘭的帝國策略恰逢機器學習、視覺識別工具、數位網路連接和機器人技術的可負擔性和可及性的巨大飛躍。除了引發本世紀迄今為止最大規模的州際戰爭之外，其結果還在於創建了一個無與倫比的數據豐富的戰鬥環境來構思、測試和驗證 AWS。
到目前為止，烏克蘭針對俄羅斯入侵者的防禦大部分已被簡化為使用接近完全自主能力的系統進行無人機對無人機的戰鬥。六月，基輔在其軍隊中建立了世界上第一個新的無人系統部隊分支。一個月後，烏克蘭和北約西方軍事聯盟宣佈成立一個新的 4,500 萬歐元（3,700 萬英鎊）共同無人機聯盟基金。由英國和拉脫維亞牽頭，旨在加速向前線烏克蘭戰士採購和交付無人機。
但無人機在東歐以外的地方也無所不在。無人系統已廣泛應用於從加薩和緬甸到蘇丹、衣索比亞、亞塞拜然的納戈爾諾-卡拉巴赫、伊拉克北部和敘利亞等衝突地區。美國軍方擁有一支由人工智慧控制的水面艦艇組成的艦隊，負責監視霍爾木茲海峽，該海峽是與伊朗接壤的全球能源供應的重要戰略走廊。
韓國與北韓之間的非軍事區一側佈滿了自主哨兵砲。聯合國專家的報告顯示，世界上第一個真正的自主殺手機器人——由土耳其國有國防集團STM 生產的無人機——早在2020 年就在利比亞使用，用來追捕忠於流氓陸軍將軍哈利法·哈夫塔爾的叛軍戰士。
先進的軟體組件也正在提高常規部隊的戰鬥效率，無論是支援學習的電子戰還是快速目標識別和捕獲程序。這種創新的很大一部分是由矽谷和其他地方的新創公司推動的，旨在顛覆全球國防工業。美國軍方的報告預測，所有這些新技術的總和將大大提高大規模作戰行動的殺傷力，甚至可能導致現代軍事理論發生變化。
AWS的逃逸速度
寫在 外交 雜誌、前執行長兼Google董事長 Eric Schmidt 以及美國前軍事長官馬克米利(Mark A Milley) 表示，美國及其盟友應該對AWS 採取最大化戰略。他們認為：“未來的戰爭將不再是關於誰能聚集最多人員或部署最好的噴射機、船隻和坦克的問題。” “相反，它們將被日益自主的武器系統和強大的演算法所主導。”
施密特和米利表示，實現這一目標的關鍵是將大量軍事規劃外包給人工智慧。他們寫道：“例如，人工智慧系統可以模擬不同的戰術和作戰方法數千次，從而大大縮短準備和執行之間的時間。”
然而，其他人對這種未來持謹慎態度。他們警告說，將 AWS 大規模整合到軍事職能中可能會加劇武裝衝突中固有的殘酷性和戰爭迷霧。
戰鬥中的人為因素——無論是傷亡風險、不同意見或官僚指揮系統——通常會限制政府使用武力，儘管這種影響並不完美，有時甚至是無意的。它至少減慢了速度，以至於可以考慮採取替代行動。 AWS 的大力採用將消除其中一些障礙。
這在很大程度上歸結為支撐武器系統硬體的軟體和資料訓練協議。 「即使這些系統名義上處於人類控制之下，也可能會遇到困難，」英國無人機戰爭研究人員彼得·伯特在一封電子郵件中提到。 “如果系統的太多功能都是自動化的，操作員可能無法正確監控流程並在必要時覆蓋系統。”
這非常重要，因為這意味著 AWS 可能會扭曲有關使用武力的責任。牛津大學高級研究員、美國國家安全委員會奧巴馬時代成員布萊恩娜·羅森 (Brianna Rosen) 在 3 月份的播客中表示，戰時決策的可解釋性和可追溯性「已經極其短缺」。
她預測，將人工智慧引入這一過程將使情況變得更糟，因為不同軍事部門和情報機構首選的不同演算法、數據集和程式的不透明網路意味著「沒有一個人能夠完全理解這項技術如何作品」。
倫敦瑪麗皇后大學政治理論教授 Elke Schwarz 同意這些觀點，該教授專注於人工智慧軍事應用的倫理問題。
「自動化偏見的問題非常棘手，因為它不是可以輕易克服的問題，」她說。 “操作人工智慧武器系統並不是簡單的指揮和控制。”
相反，當人類操作員「嵌入到螢幕、介面和數位技術的設定中，其工作原理並不總是容易理解」時，應該監督系統的人實際上變得依賴於透過以下方式呈現給他們的訊息： AI分析黑盒子。然後，埃爾克說，「殺戮就變成了高效數據處理的問題。將殺戮作為工作流程管理的一種形式。
人為監督
除了俄羅斯去年告訴聯合國，它並不過度擔心維持人類對 AWS 的完全直接控制之外，大多數軍事強國都公開表示，他們希望該技術始終受到人類監督。但這些立場的主張並沒有附加任何細節。
當談到讓人類參與循環時，「每個人都可以接受這個概念，但同時，每個人都可以不同意它在實踐中的實際含義，」法學教授兼 AWS 專家 Rebecca Crootof 告訴我們 衛報 今年早些時候。 “就實際指導技術設計決策而言，它並沒有那麼有用。”
隨著人工智慧系統的發展，新的設計本質上每次都會將人類的控制距離拉開幾度。
新美國安全智庫中心執行副總裁兼研究主任保羅·沙爾警告說：“15 或 20 年後，我們可能會意識到我們跨越了一個非常重要的門檻。”
自主無人機
例如，烏克蘭的新創公司開發了自主無人機，它們可以成群運行，每個單元相互通信和協調，或者可以透過程式設計來執行攻擊，即使與人類操作員的網路連線被切斷。
同時，AWS 的批評者表示，以色列在加薩使用人工智慧武器，消除了人們認為該技術將使戰爭更加精確和人性化的觀念，而這正是其支持者的關鍵賣點。據當地衛生部門稱，截至9月底，加薩已有超過42,000人被以色列國防軍殺害，近10萬人受傷，其中絕大多數是無辜平民。
為了在未來糾正這個問題，谷歌前執行長兼董事長施密特和美國前軍事參謀長米利建議 AWS 及其人類操作員應該接受嚴格的培訓。他們建議武器系統必須不斷進行測試和評估，以確認它們在現實條件下按預期運作。
施密特和米利也建議華盛頓對不遵守這項原則的國家實施經濟制裁。他們警告說：“下一代自主武器必須根據自由價值和對人權的普遍尊重來製造，而這需要積極的美國領導。”
牛津大學學者羅森對人工智慧的軍事應用持懷疑態度，他同樣建議自由民主國家就智慧武器的使用發起一場更引人注目的公開辯論。她說，這可以成為制定國內政策和法律文件以減少其危害的基礎。一旦這些治理機製到位，它們可能會提供必要的可信度，以試圖就 AWS 達成國際共識。
幾週前，包括美國在內的 61 個國家在首爾舉行的負責任軍事使用人工智慧高峰會上簽署了一份所謂的「行動藍圖」。這個不具約束力的框架詳細介紹了 20 項不同的承諾，分為三個不同的類別，旨在就如何解決人工智慧對國際和平與安全的影響達成共識。這包括維持人類對 AWS 的控制，以及對軍事領域人工智慧未來治理模式的願景。
總而言之，自主武器似乎將成為 21 世紀衝突的固定因素。從現在起一兩年後，人類的決策是否仍然如此，還有待觀察。
