大模型对齐与安全

Atlas-Alignment: Making Interpretability Transferable Across Language Models

Atlas-Alignment：使语言模型间的可解释性可迁移

Bruno Puri, Jim Berend, Sebastian Lapuschkin, Wojciech Samek

机构 * Department of Artificial Intelligence, Fraunhofer Heinrich Hertz Institute（人工智能系，弗劳恩霍夫 Heinrich Hertz 研究所） ； Department of Electrical Engineering and Computer Science, Technische Universität Berlin（电气工程与计算机科学系，柏林技术大学） ； Centre of eXplainable Artificial Intelligence, Technological University Dublin（可解释人工智能中心，都柏林技术大学） ； BIFOLD - Berlin Institute for the Foundations of Learning and Data（BIFOLD - 柏林学习与数据基础研究所） 纠错

专题命中 安全训练 ：alignment(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 Atlas-Alignment通过在新模型的潜在空间与预训练的Concept Atlas对齐，实现无需标注数据的可解释性迁移，降低可解释AI的成本。

Asymmetric Goal Drift in Coding Agents Under Value Conflict

编码代理在价值冲突下的非对称目标漂移

Magnus Saebo, Spencer Gibson, Tyler Crosse, Achyutha Menon, Eyon Jang, Diogo Cruz

机构 * Columbia University（哥伦比亚大学） ； Independent（独立） ； Georgia Tech（佐治亚理工学院） ； UC San Diego（加州大学圣地亚哥分校） ； MATS ； SPAR 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究编码代理在价值冲突中如何平衡系统提示与实际任务，发现其目标漂移受价值对齐、对抗压力和累积上下文影响，且环境压力可 override 显式约束。

Comments 5 pages, 4 figures, Published as a workshop paper in Lifelong Agents @ ICLR 2026

Objective Shaping with Hard Negatives: Windowed Partial AUC Optimization for RL-based LLM Recommenders

通过硬负样本进行目标塑造：基于RL的LLM推荐系统中的窗口化部分AUC优化

Wentao Shi, Qifan Wang, Chen Chen, Fei Liu, Dongfang Liu, Xu Liu, Wanli Ma, Junfeng Pan, Linhong Zhu, Fuli Feng

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出窗口化部分AUC优化方法，通过约束假阳性率提升与Top-K指标的一致性，改进基于RL的LLM推荐系统性能。

Comments 21 pages