美國參議員提出軍事AI法案：高風險決策必須保留「人類在迴路中」
美國參議員乞立伯蘭（Kirsten Gillibrand）提出《2026年安全且可問責軍事AI法案》，首度建立國防部軍事人工智慧治理的法律框架，要求核武目標選定、致命打擊與自主武器等高風險決策必須由人類決策者把關，並嚴格限制全自主武器系統部署。
Highlights
- 美國參議員乞立伯蘭提出《2026年安全且可問責軍事AI法案》，為國防部軍事AI治理建立首部法律框架。
- 法案要求核武目標、致命打擊、自主武器等高風險決策必須由人類決策者把關，並具備覆蓋或終止系統的能力。
- 全自主武器系統僅限4種例外情境可部署，超出範圍須經國防部長向國會申請並獲聯合決議批准。
- 軍事承包商須於安全漏洞發生72小時內、行為異常7天內向國防部通報。
- 美軍目標定位系統預期從400個目標擴增至5,000個，法案的人類決策要求與作戰需求存在根本矛盾。
美國參議員提出軍事AI法案：高風險決策必須保留「人類在迴路中」
美國紐約州民主黨參議員乞立伯蘭（Kirsten Gillibrand）近日提出《2026年安全且可問責軍事AI法案》（Secure and Accountable Military AI Act of 2026），將為美國國防部在軍事行動中治理人工智慧技術，建立首部全面性的法律框架。
核心原則：AI 支援但不能取代人類判斷
該法案的架構建立在一項核心原則之上：AI 可以輔助人類判斷，但不能在高風險決策中取代人類。法案將「高風險決策」定義範圍廣泛，涵蓋核武目標選定、致命打擊支援、自主武器系統、具有外部影響的網路作戰行動，以及對美國公民的國內監控等。根據法案規定，上述所有情境都必須指定人類決策者，且該決策者需擁有書面授權及實際能力來覆蓋或終止系統運作。
自主武器系統：僅四種例外情境
在操作面影響最大的條款方面，法案實質上禁止全自主武器系統，僅保留四種特定例外情境：
- 半自主系統：由操作員選定目標
- 受監督的自主系統：用於應對飽和攻擊的局部據點及平台防禦
- 地對空飛彈攔截
- 非致命性非動能應用
超出上述類別的任何全自主武器系統，國防部長必須直接向國會提出申請，並須經國會通過指名該特定系統的聯合決議案後，方可進行部署。
軍事承包商責任義務
向國防部提供前沿AI模型的承包商，必須通報特定事件，包括：
- 模型權重遭竊
- 訓練資料遭受汙染攻擊
- 供應鏈遭到入侵
- 模型出現重大異常行為，例如意外展現網路攻擊能力或欺騙行為
法案要求承包商在安全漏洞發生後 72 小時內通報，行為異常則須在 7 天內通報。
爭議：作戰需求與安全防線的拉鋸
儘管法案立意良善，但作戰實務需求與安全防護措施之間存在明顯的矛盾張力。以《經濟學人》近期封面故事關於現代戰爭演進的報導為例，美國工程師預期目標定位系統處理的目標數量將從 400 個大幅提升至 5,000 個，而這樣的速率被公認「超出人類處理範圍」。
要嘛放寬人類決策的要求，要嘛犧牲作戰能力——兩者不可兼得。隨著法案進入《國防授權法案》（NDAA）審議程序，預計將引發激烈辯論。
影響分析
此法案若獲通過，不僅將深刻影響美軍的自主武器發展路徑，也將為無人機自主作戰系統的部署設下明確法律界線。對於全球無人機與軍用AI產業而言，美國作為主要軍事採購國，其法規走向勢必牽動產業供應鏈與技術研發方向。
原文來源： 查看原文
