看似無害的圖片如何破解視覺語言AI模型的安全防護

佛羅里達國際大學（Florida International University）的研究人員開發出一種名為 JaiLIP（Jailbreaking with Loss-guided Image Perturbation，基於損失引導圖片擾動的越獄技術）的新型攻擊手法，能夠利用對圖片的細微修改，繞過AI模型內建的安全防護機制。

與傳統越獄攻擊的差異

傳統的AI「越獄」（Jailbreak）攻擊通常依賴精心設計的文字提示詞（prompt），誘使模型輸出違反安全規範的內容。然而，JaiLIP 採用截然不同的途徑——攻擊媒介是圖片而非文字。

這些被修改過的圖片對人類觀看者而言外觀完全正常，肉眼難以察覺任何異常，但其中隱含的細微像素擾動卻足以讓AI模型的安全防護失效。

測試對象：多模態AI模型 BLIP-2

研究團隊以 BLIP-2（Bootstrapping Language-Image Pre-training 2）作為主要測試目標。BLIP-2 是一款多模態AI模型，能夠同時理解圖像與文字輸入。實驗結果顯示，經過 JaiLIP 技術處理的圖片能顯著提高模型輸出不當內容的機率，有效突破其安全防線。

對AI安全領域的啟示

此研究揭示了當前視覺語言AI模型（Vision-Language Models, VLMs）在安全防護上的潛在漏洞。隨著多模態AI在各行各業的應用日益廣泛——包括無人機影像辨識、自駕車視覺感知等領域——此類攻擊手法的出現對相關系統的安全性構成新的挑戰。

研究人員表示，此項研究旨在揭露問題，促使業界正視並強化多模態AI模型的安全機制，而非提供惡意利用的工具。

---

原文來源：Slashdot

---

原文來源： 查看原文