什麼是「人類在迴路中」原則？

「人類在迴路中」（human-in-the-loop）是指AI系統在做出關鍵決策，特別是涉及致命武力時，必須由人類進行最終確認與授權，而非完全交由機器自主判斷，是防止AI失控的重要安全機制。

Bradley上將對戰鬥AI的立場是什麼？

Frank Bradley 海軍上將在 SOF Week 上呼籲業界對戰鬥AI進行「現實檢視」，強調在釋放任何暴力行為前，人類必須留在決策迴路中，對AI軍事應用保持謹慎態度。

SOF Week（特種作戰部隊週）是美國特種作戰司令部相關的年度活動，匯集軍方、業界與技術專家，討論特種作戰領域的最新發展與技術應用。

文章重點

美國特戰司令 Frank Bradley 海軍上將在 SOF Week 呼籲對戰鬥AI進行「現實檢視」

Bradley 強調在釋放「暴力」前，人類必須留在決策迴路（human-in-the-loop）中

此立場反映美軍高層對自主武器系統與AI軍事應用的審慎態度

「人類在迴路中」原則被視為防止AI失控與避免誤傷的重要安全機制

美國特種作戰司令部（SOCOM）指揮官 Frank Bradley 海軍上將在特種作戰部隊週（SOF Week）活動上向與會者表示，在將人工智慧（AI）應用於戰鬥領域時，「必須非常謹慎」。

Bradley 上將強調，在釋放任何「暴力行為」之前，人類必須留在決策迴路（human-in-the-loop）之中。他呼籲業界與軍方對戰鬥AI進行一場「現實檢視」（reality check），確保在自主武器系統與AI輔助決策的發展過程中，始終維持人類的監督與控制。

這番言論反映出美軍高層對於AI在軍事領域快速發展的審慎態度。隨著無人機、自主武器系統與AI決策工具在全球戰場上的應用日益廣泛，如何在提升作戰效能的同時確保倫理與安全底線，已成為各國國防領域的核心議題。

「人類在迴路中」（human-in-the-loop）是指在AI系統做出關鍵決策——特別是涉及致命武力的使用時——必須由人類進行最終確認與授權，而非完全交由機器自主判斷。這一原則被視為防止AI失控、避免誤傷的重要安全機制。

原文來源： 查看原文