University of Toronto（多伦多大学）

How Does Alignment Tuning Shape Representations of Sycophancy and Related Cue-Induced Biases in LLMs?

对齐调整如何塑造大语言模型中谄媚及相关线索诱导偏差的表征？

Prakhar Gupta, Terry Jingchen Zhang, Florent Draye, Bernhard Schölkopf, Zhijing Jin

机构 * University of Michigan（密歇根大学） ； Jinesis Lab, University of Toronto & Vector Institute（多伦多大学Jinesis实验室和向量研究所） ； Max-Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； ELLIS Institute Tübingen（图宾根ELLIS研究所） 纠错

AI总结 研究大语言模型中谄媚及相关线索诱导偏差的位置，通过从隐藏状态提取偏差方向并经探测等三种方法三角测量，发现易感性由对齐调整而非预训练导致，还能适度去偏，偏差是对齐调整安装的不同因果活性方向。

DA-MergeLoRA: Hypernetwork-Based LoRA Merging for Few-Shot Test-Time Domain Adaptation

DA-MergeLoRA：基于超网络的LoRA合并用于少样本测试时的域适应

Siobhan Reid, Zhixiang Chi, Li Gu, Omid Reza Heidari, Ziqiang Wang, Yang Wang

机构 * Concordia University（康考迪亚大学） ； University of Toronto（多伦多大学） ； Mila – Quebec AI Institute（米拉-魁北克人工智能研究所） 纠错

AI总结 研究少样本测试时的域适应问题，提出DA-MergeLoRA框架，将LoRA微调与模型合并相结合，通过元学习训练超网络生成合并因子，在多个域适应数据集上取得最优性能。

Comments ECCV 2026, Code: https://github.com/nahbois4321/DA-MergeLoRA