研究警示：看不見的圖片擾動可瓦解AI視覺模型安全防護

新型圖片攻擊威脅AI視覺安全

佛羅里達國際大學的研究人員近日揭露了一項重要安全漏洞：透過稱為「JaiLIP」(Jailbreaking with Loss-guided Image Perturbation，基於損失引導圖片擾動的越獄技術)的方法，攻擊者可利用人眼無法察覺的圖片微調，成功突破多模態AI模型的安全防護。

與傳統越獄攻擊的根本差異

過去針對AI模型的「越獄」(Jailbreak)攻擊主要透過精心設計的文字提示詞(prompt)進行，試圖誘導模型輸出違反安全規範的內容。然而JaiLIP採用全然不同的攻擊向量——以圖片而非文字作為載體。

這類被修改的圖片對人類觀看者而言完全正常，肉眼無法偵測任何異常跡象，但其中隱含的細微像素擾動卻足以破壞AI模型的安全邊界。此攻擊手法的隱蔽性遠高於傳統文字型越獄，防守難度明顯升級。

BLIP-2多模態模型實驗驗證

研究團隊選擇BLIP-2(Bootstrapping Language-Image Pre-training 2)作為主要測試對象。BLIP-2是一款能同時理解圖像與文字輸入的多模態AI模型。實驗結果顯示，經JaiLIP技術處理後的圖片能顯著提高模型輸出不當內容的機率，有效突破其既有安全防線。

跨領域安全隱患

隨著視覺語言模型(Vision-Language Models, VLMs)在實際應用中日益普及，此類攻擊手法的浮現帶來新的安全挑戰。特別是在無人機影像辨識、自駕車視覺感知、監控系統智能分析等領域，多模態模型已成為核心決策引擎。若攻擊者能透過看似正常的圖片輸入來破壞模型判斷，後果將極為嚴重。

研究意義與未來防護方向

佛大研究團隊強調，此項研究的目的是揭露問題、促進業界警覺，而非提供惡意利用工具。研究人員呼籲視覺語言AI模型開發者應針對像素層級的擾動攻擊進行加強防禦，採取更堅實的安全機制。未來的防護策略可能包括對輸入圖片進行更嚴格的檢驗、開發檢測像素擾動的技術，以及建立更具魯棒性的模型架構。