University of Maryland, College Park（马里兰大学帕克分校）

From Refusal Tokens to Refusal Control: Discovering and Steering Category-Specific Refusal Directions

从拒绝标记到拒绝控制：发现并引导类别特定的拒绝方向

Rishab Alagharu, Ishneet Sukhvinder Singh, Shaibi Shamsudeen, Zhen Wu, Ashwinee Panda

机构 * Algoverse AI Research（Algoverse AI研究院） ； School of Computer Science, University of Maryland, College Park, United States（美国马里兰大学计算机科学学院） ； School of Computer Science, Carnegie Mellon University, Pittsburgh, United States（美国卡内基梅隆大学计算机科学学院） 纠错

AI总结 本文通过训练模型生成类别化拒绝标记，实现推理时对细粒度拒绝行为的控制，提升安全性和可靠性，通过提取残差流方向构建类别引导向量，并引入低秩组合实现多类拒绝控制。