凱利參議員在國防授權法案中提案：AI自主武器殺傷鏈須保留「人類最終責任」

華盛頓 — 負責監督五角大廈的美國參議院委員會，已通過亞利桑那州民主黨參議員馬克·凱利（Mark Kelly）提出的修正案，要求在使用武力時必須維持「人類最終責任」。

美國及其他國家正日益部署自主武器系統，人工智慧的應用在美國對伊朗的戰爭及俄烏戰爭中也急速升溫。

喬治亞州提比里斯市高加索國際大學教授扎扎·措特尼亞什維利（Zaza Tsotniashvili）透過電子郵件表示：「國會正在回應來自民眾及盟友的憂慮——若自主系統造成平民傷亡，卻沒有明確的人類決策者在指揮鏈中，美國可能在法律與道德上陷入被動。」

修正案背景

曾擔任海軍戰鬥機飛行員的凱利，將這項條款加入了參議院版本的《國家國防授權法案》（NDAA）。此修正案將2023年國防部第3000.09號指令（Directive 3000.09）明文化為法律。該指令要求在使用自主武器（即無須人類介入即可自行運作的軍事系統）時，必須有人類監督。

然而，川普總統於6月5日簽發總統備忘錄，指示五角大廈「消除AI快速部署的不必要障礙」，並要求在90天內提交更新版的第3000.09號指令。若凱利的修正案能順利完成立法程序，將有效覆蓋川普的行政命令，阻止在「殺傷鏈」（kill chain）中排除人類參與的做法。

參議院軍事委員會於週四以18比9票通過此修正案，並將法案送交參議院全院審議。

值得注意的是，凱利最終仍投票反對整份NDAA，儘管法案中納入了這項AI條款及其他他所支持的修正案。他援引高達1.15兆美元的預算規模，以及川普未知會國會逕自對伊朗開戰所呈現的透明度不足問題，作為反對理由。

「我們不能再給他們一張空白支票，」凱利上週在聲明中說道。

AI在戰場上的爭議

近幾個月來，美國軍方使用AI的狀況備受外界關注。

今年1月，Anthropic的AI工具Claude被用於協助逮捕委內瑞拉總統尼古拉斯·馬杜羅（Nicolás Maduro）。

Claude也在「史詩狂怒行動」（Operation Epic Fury）對伊朗開打的第一天即投入使用。外界推測，一起導彈攻擊誤中一所軍事基地附近學校、造成175人罹難（多為年輕女學生）的事件，可能與Claude有所關聯。

事件發生後，科技學者凱文·貝克（Kevin Baker）指出，用於識別攻擊目標的AI系統——即「Maven智慧系統」（Maven Smart System）——及其背後的相關官員，所需承擔的責任遠大於Claude本身。貝克說，正是因為舊有資料庫未能及時更新，才導致Maven將那所學校列為目標；而該校所在地，最晚在2016年之前曾是伊斯蘭革命衛隊的設施。

「有人沒有更新資料庫，另一群人則建立了一套快到足以讓這個疏失致命的系統，」貝克在《衛報》撰文指出。

Maven由Palantir Technologies於2017年開發，設計目的是分析情報資料並評估打擊目標。據《紐約客》報導，從目標識別到摧毀，一名操作員只需點擊四下即可完成，這使Maven成為多年來利用AI壓縮殺傷鏈的代表性計畫。

專家看法分歧

在AI致命性使用上建立法律護欄的努力，獲得部分專家的肯定。

非營利組織RegulatingAI的非駐研究員、喬治華盛頓大學講師保羅·盧申科（Paul Lushenko）稱此舉為「法律、道德與倫理上的迫切要求」。

「軍方和公眾都有一種共識，認為這些能力應該受到人類監督，」他說。

盧申科指出，Maven等工具在確保國家安全方面發揮了重要作用，但如何使用這些工具、以及誰應為誤用負責，都必須有明確規範。此類規範必須來自文官監督、軍隊內部文化，以及技術層面的防護機制。

措特尼亞什維利表示，國防部的相關政策穩定性不足，國會不能置之不理。「行政部門可以在未經國會批准的情況下，重新詮釋、豁免或悄悄修改國防部指令，」他說。

川普的備忘錄雖提到AI技術部署必須「維持嚴格監督」，卻未具體說明由誰執行、或監督的樣貌為何。「模糊性正符合部署這些系統者的利益，」措特尼亞什維利說。

參議員魯本·加雷戈（Ruben Gallego）本週一致函國防部長皮特·黑格塞斯（Pete Hegseth），要求釐清更新後的指令將如何確保美國及其軍事人員免受自主武器的傷害。這位亞利桑那州民主黨人主張，川普對第3000.09號指令的更新將增加平民傷亡的風險。

「人類監督」定義仍待厘清

盧申科指出，如何定義「人類監督」本身就是一項挑戰。「有意義的人類控制」和「適當的人類判斷」兩個概念，在詮釋上都存在空間；而「監督機制可以內建於自主武器設計中」的論點，更使情況更加複雜。

不過，愛荷華大學研究軍事倫理的教授約瓦娜·大衛多維奇（Jovana Davidovic）認為，開發者對其所創建的任何AI系統的行為都負有責任。

「系統的自主程度越高，開發者的決策對最終結果的影響就越大，」她透過電子郵件表示。

措特尼亞什維利則認為，將第3000.09號指令明文化是必要的，但仍不足夠，需要更多具體規範，才能確保人類監督是「實質性的，而非流於形式」。

「2027年NDAA的這項條款是一步向前，」他說，「但若缺乏配套的問責機制，可能只是在維護人類控制的表象，而其實質內涵卻持續被侵蝕。」

---

本文原刊於亞利桑那州立大學《小型戰爭期刊》（Small Wars Journal by Arizona State University）。

---

原文來源： 查看原文