Stage-wise Attention-Guided Region Sequencing for Adversarial Attacks on Large Vision-Language Models
用于对大型视觉语言模型进行对抗攻击的逐阶段注意力引导区域排序
机构 * KAIST(韩国科学技术院) ; KENTECH(KENTECH研究院)
AI总结 研究针对大型视觉语言模型的有针对性对抗攻击,基于注意力分析提出逐阶段注意力引导区域排序,介绍了黑盒区域排序框架SAGA,在多个模型上取得了最先进的攻击成功率和最佳不可感知性。
Comments Pre-print