AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-07-23 至 2026-07-23 共收录 4 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 偏好对齐 4 篇

2607.19371 2026-07-23 cs.AI cs.CL cs.LG 新提交 82%

通过表示对齐减轻苏格拉底式导师中的支架坍塌

Jing Shao, Qifeng Wu, Hanyu Zhang, Sixia Sun, Jun Zhuang

专题命中偏好对齐：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结研究基于大语言模型的苏格拉底式导师的支架坍塌问题，提出支架保留表示对齐方法，先监督微调预热，再结合轨迹加权优化与表示损失，经多学科和策略评估，该方法能提升长程苏格拉底辅导的鲁棒性。

Comments preprint, under review

2607.19824 2026-07-23 cs.AI cs.CL 新提交 81%

奖励更好的思维以实现大语言模型偏好对齐

Xubo Liu, Wenya Guo, Ruxue Yan, Xinying Qian, Ying Zhang

专题命中偏好对齐：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结研究大语言模型偏好对齐问题，提出思维清单奖励（TCR）方法，将偏好对转化为思维清单评估推理轨迹，引入EMA残差公式减少与结果监督重叠，实验证明该方法能提升对齐性能。

Comments under review

2607.13315 2026-07-23 cs.CL 版本更新 79%

多语言语言模型对齐的元学习偏好

Jiaying Lin, Seongho Son, Nam Phuong Tran, Long Tran-thanh, Ilija Bogunovic, Debmalya Mandal

机构 * University of Warwick（华威大学）； University College London（伦敦大学学院）； University of Basel（巴塞尔大学）

专题命中偏好对齐：alignment(title,abstract)；分类 cs.CL

AI总结针对多语言环境下低资源语言对齐数据不足问题，提出元学习框架，利用其他语言偏好数据学习可转移初始化，经理论和实验验证，该方法在极低资源设置下比基线方法胜率最多提高28%，且在多场景表现优异。

2607.20057 2026-07-23 q-bio.BM cs.LG 新提交 70%

用于功能性抗体设计的抗原特异性抗体多模态基础模型

Xiaoliang Shi, Zichen Wang, Runze Ma, Zhongyue Zhang, Shuangjia Zheng

机构 * Shanghai Jiao Tong University（上海交通大学）

专题命中偏好对齐：DPO(abstract,abstract_cn)；分类 cs.LG

AI总结该研究针对抗原特异性抗体设计难题，引入AAMFM多模态基础模型，通过跨模态适配器整合抗原信息，用校准直接偏好优化微调，实现抗体 - 抗原相互作用联合建模，实验证明其在功能性抗体设计中性能最优，有抗原特异性抗体工程潜力。