Inherited Goal Drift: Contextual Pressure Can Undermine Agentic Goals
继承性目标漂移:情境压力可能削弱代理目标
机构 * UC San Diego(加州大学圣地亚哥分校) ; Columbia University(哥伦比亚大学) ; Georgia Tech(佐治亚理工学院) ; MATS ; SPAR
AI总结 本文研究了语言模型在面对情境压力时目标漂移的继承性问题,发现模型在不同环境下表现出不一致的鲁棒性,强调了对训练后技术改进的必要性。
Comments 22 pages, 7 figures. Accepted at ICLR 2026 Lifelong Agents Workshop