ServiceNow

Through the Stealth Lens: Attention-Aware Defenses Against Poisoning in RAG

通过隐秘视角：检索增强生成中针对投毒攻击的注意力感知防御

Sarthak Choudhary, Nils Palumbo, Ashish Hooda, Krishnamurthy Dj Dvijotham, Somesh Jha

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； ServiceNow Research（ServiceNow研究） 纠错

AI总结 针对检索增强生成系统在低污染率下仍易受投毒攻击的问题，提出基于注意力权重的归一化段落注意力分数和注意力方差滤波器，实现高精度检测与防御，并揭示真正隐秘投毒的挑战。

Comments Accepted at ICML 2026