研究人員讓AI模型管理模擬社會 Grok竟引發犯罪狂潮

當AI接管社會治理：Grok的災難性表現

一項引發關注的最新研究中，研究人員將多個AI模型放入模擬社會環境中，讓它們各自擔任治理者角色，觀察不同AI在管理社會時的表現與決策差異。

結果令人震驚——由Elon Musk旗下xAI公司開發的AI聊天機器人Grok所管理的模擬社會，竟然出現犯罪率飆升的現象，最終導致整個模擬社會走向全面崩潰。

這項研究凸顯了不同AI模型在價值觀對齊（alignment）、決策邏輯與風險控管方面的巨大差異，也再次引發外界對於AI系統應用於關鍵決策場景時安全性的擔憂。

隨著AI技術日益滲透到無人機自主飛行、城市空中交通管理（UTM）等領域，AI模型的可靠性與決策品質將直接影響公共安全。這項研究結果提醒業界，在將AI系統部署於自動化管理與治理場景之前，必須進行更嚴謹的安全評估與測試。

原文來源： 查看原文