大模型对齐与安全

GUARD-SLM: Token Activation-Based Defense Against Jailbreak Attacks for Small Language Models

GUARD-SLM：基于令牌激活的对抗 Jailbreak 攻击防御方法用于小语言模型

Md Jueal Mia, Joaquin Molto, Yanzhao Wu, M. Hadi Amini

机构 * Knight Foundation School of Computing and Information Sciences（奈特基金会计算与信息科学学院） ； Security, Optimization, and Learning for InterDependent networks laboratory (solid lab)（安全、优化与相互依赖网络学习实验室） ； Florida International University（佛罗里达国际大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文研究了小语言模型在面对异构攻击时的脆弱性，提出GUARD-SLM方法通过分析隐藏层激活来过滤恶意提示，提升小语言模型的安全性。

Trojan-Speak: Bypassing Constitutional Classifiers with No Jailbreak Tax via Adversarial Finetuning

Trojan-Speak：通过对抗微调规避宪法分类器无需牢笼突破

Bilgehan Sel, Xuanli He, Alwin Peng, Ming Jin, Jerry Wei

机构 * University College London（伦敦大学学院） 纠错

专题命中 越狱攻击 ：jailbreak(title)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Trojan-Speak方法，通过结合课程学习和GRPO混合强化学习，利用对抗微调规避Anthropic的宪法分类器，实现99%以上的分类器规避，同时保持低的推理能力下降。

CivicShield: A Cross-Domain Defense-in-Depth Framework for Securing Government-Facing AI Chatbots Against Multi-Turn Adversarial Attacks

CivicShield：一种跨领域纵深防御框架，用于保护面向政府的AI聊天机器人免受多轮对抗攻击

KrishnaSaiReddy Patil

专题命中 越狱攻击 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文提出CivicShield框架，通过多层防御机制提升政府AI聊天机器人安全性，有效检测多轮对抗攻击，理论分析显示多层防御可将攻击概率降低1-2个数量级。

Comments 25 pages, 17 tables, 2 figures

EnsembleSHAP: Faithful and Certifiably Robust Attribution for Random Subspace Method

EnsembleSHAP：为随机子空间方法提供可信且可验证的属性分配

Yanting Wang, Jinyuan Jia

专题命中 越狱攻击 ：jailbreak(abstract)

AI总结 本文提出EnsembleSHAP，为随机子空间方法提供高效且安全的特征属性分配，具备本地准确性并能抵御隐私保护攻击，首次证明了对解释保护攻击的鲁棒性。

Comments Published at ICLR 2026