研究曝光「幻覺蹲點」攻擊：駭客誘騙AI開發助理安裝惡意程式

大型語言模型的新型安全漏洞

以色列特拉維夫大學的研究團隊最近揭露一種巧妙的攻擊手法——HalluSquatting，直譯為「幻覺蹲點」，專門針對大型語言模型（LLM）與AI程式開發助理的安全弱點。

攻擊原理：利用AI的「幻覺」現象

大型語言模型在生成代碼或提出建議時，有時會無意中捏造不存在的外部資源名稱。這可能包括不存在的代碼儲存庫URL、虛構的npm套件名稱，或者虛假的AI代理技能名稱。攻擊者正是利用這一弱點，提前搶先註冊這些名稱（類似域名搶註的概念），在其中植入對抗性提示或惡意指令。

當開發者使用AI程式開發助理（例如GitHub Copilot等工具）時，AI可能會建議使用某個「儲存庫」或「技能」。開發者或自動化流程若信任AI的建議而直接拉取或執行這些資源，就會無意中下載並執行駭客預先準備的惡意代碼。

威脅鏈與影響範圍

HalluSquatting攻擊的危險之處在於其多層欺騙機制：

1. 初始欺騙：LLM無意中捏造資源名稱
2. 主動搶占：駭客搶先註冊並建立假資源
3. 信任濫用：開發者或自動化系統信任AI的建議
4. 代碼執行：惡意代碼得以在開發環境或生產環境中運行

這種攻擊特別危險的原因在於，它繞過了傳統的人工代碼審查。許多開發者已經習慣信任AI助理的建議，可能不會對AI生成的資源名稱進行額外驗證。

對軟體供應鏈的新威脅

隨著AI輔助開發工具在業界普及率提升，HalluSquatting攻擊可能成為軟體供應鏈攻擊的新向量。尤其是在持續整合與自動化部署流程中，如果自動化系統直接執行AI建議的命令而無人工檢查，風險更加嚴重。

這項研究提醒軟體開發組織應強化供應鏈安全意識，即使在使用AI輔助工具時，也應保持必要的人工審查與驗證機制。