大模型对齐与安全

Hijacking Large Audio-Language Models via Context-Agnostic and Imperceptible Auditory Prompt Injection

通过上下文无关且不可察觉的音频提示注入劫持大型音频-语言模型

Meng Chen, Kun Wang, Li Lu, Jiaheng Zhang, Tianwei Zhang

机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术区（滨江）区块链与数据安全研究院） ； Nanyang Technological University（南洋理工大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

AI总结 本文提出AudioHijack框架，通过生成不可察觉的对抗性音频劫持LALMs，实验显示在6种恶意行为中平均成功率达79%-96%。

Comments Accepted by IEEE S&P 2026