大模型对齐与安全

TRACER: Token ReAssignment for Concept ERasure in Generative Recommendation

TRACER: 面向生成式推荐中概念擦除的令牌重分配

Ziheng Chen, Jiali Cheng, Zezhong Fan, Hadi Amiri, Diyuan Wu, Gabriele Tolomei, Yang Zhang

机构 * Stony Brook University（石英布鲁克大学） ； University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校） ； Columbia University（哥伦比亚大学） ； Institute of Science and Technology Austria（奥地利科学技术研究院） ； Sapienza University of Rome（罗马大学 sapienza） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对生成式推荐中概念遗忘与推荐效用冲突的问题，提出基于令牌重分配的概念遗忘框架TRACER，通过将概念相关物品重分配给替代令牌并引入一致性正则化，有效移除目标概念同时保持推荐效用。

Maris: A Formally Verifiable Privacy Policy Enforcement Paradigm for Multi-Agent Collaboration Systems

Maris：一种用于多智能体协作系统的形式化可验证隐私策略执行范式

Jian Cui, Zichuan Li, Chi Wang, Luyi Xing, Xiaojing Liao

专题命中 隐私与版权 ：prompt injection(abstract)

AI总结 针对多智能体协作系统（MACS）中敏感数据泄露风险，提出一种基于引用监视器的隐私增强开发范式Maris，通过嵌入消息流控制机制实现细粒度数据保护，并在AutoGen和LangChain框架中实现，实验表明其能有效缓解数据泄露威胁且保持高任务成功率。