研究揭LLM攻擊新手法HalluSquatting，可誘使AI程式開發助理安裝惡意程式

文章重點

• 以色列特拉維夫大學研究人員揭露名為HalluSquatting的新型LLM攻擊手法，利用模型幻覺弱點發動供應鏈攻擊。
• 攻擊者預先找出LLM容易捏造的錯誤資源名稱（如儲存庫、AI代理技能），搶先註冊並植入對抗性提示內容。
• 一旦AI程式開發助理自動拉取這些假資源，攻擊者即可在目標環境中執行惡意指令，威脅軟體供應鏈安全。
• 此攻擊手法對任何依賴LLM輔助開發或自動化部署的系統均構成潛在威脅，包括無人機控制與AI代理平台。