界線已越？全自主AI無人機確認在戰場擊殺俄軍士兵

根據《新科學家》（NewScientist）記者 Matthew Sparkes 的報導，一家烏克蘭無人機製造商已正式確認：約兩年前，全自主AI無人機在戰場測試中擊殺了俄羅斯士兵——整個過程完全無人介入。

任務經過

在這次行動中，10架四旋翼無人機被派往巴赫穆特（Bakhmut）附近的前線，指令設定為「摧毀所有遭遇目標」。據報導，此次任務造成2名俄羅斯士兵死亡。整個過程沒有任何人類在迴路中監控或確認——機器自主執行了任務。

若報導屬實，這將是迄今最具體的確認案例：一台機器完全依靠自身決策，奪取了人類的生命。

當前局勢

這是一次單獨測試。烏克蘭目前的規定禁止在最後攻擊階段實施全自主瞄準，該國軍方也聲稱嚴格遵守國際人道法。

然而，負責此案的無人機製造商 Alexander Kokhanovskyy 認為這些規定應該改變。他目前正在研發一套由64架無人機組成的自主攔截系統，目前設計僅在「最後一步」需要人類介入——但這僅是「目前」。

聯合國已呼籲禁止此類系統，但現實是，目前並不存在任何具約束力的國際法來規範這類武器。包括美國在內的大多數主要軍事強國，都在朝著不同程度的武器自動化方向發展。

「AI輔助」與「AI決策」之間的界線，正在迅速消失。

責任歸屬的難題

若一台機器在無人確認的情況下自主選擇並擊殺目標，責任該由誰承擔？是系統程式設計師？下達命令的指揮官？還是允許這項測試的政府？

科技再次跑在法律前面，而這道鴻溝正變得越來越難以忽視。

原始報導來源：《新科學家》「Fully autonomous drones have killed human soldiers for the first time」

延伸閱讀：烏克蘭無人機作戰經驗如何影響其他衝突地區——「Guerrillas With FPV Drones: Ukrainian Battlefield Lessons for Kurdish Warfare」

原文來源： 查看原文