AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-08-06 至 2026-08-06 共收录 3 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 偏好对齐 3 篇

2608.05040 2026-08-06 cs.CR 新提交 88%

面向大语言模型对齐的私有直接偏好优化

Yangfan Jiang, Fei Wei, Ergute Bao, Xiaokui Xiao, Yaliang Li, Bolin Ding

专题命中偏好对齐：DPO(summary_cn,abstract)；alignment(title,abstract)

AI总结该研究针对DPO的隐私缺陷，提出PrivDPO方法，通过沿偏好轴添加校准随机性实现偏好隐私，在对齐基准和LLM上取得了更好的隐私-效用权衡。

Comments accepted for publication at CCS 2026, extended version

2602.06337 2026-08-06 cs.CL cs.AI cs.LG 版本更新 75%

训练后能否将大语言模型转变为因果推理者？

Junqi Chen, Sirui Chen, Chaochao Lu

机构 * Shanghai Artificial Intelligence Library（上海人工智能图书馆）； Fudan University（复旦大学）； Tongji University（同济大学）

专题命中偏好对齐：DPO(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结本文通过CauGym数据集评估了训练后方法对LLM因果推理能力的提升，发现适当训练可使小型模型在因果推理任务中超越大模型。

2601.03808 2026-08-06 cs.CV cs.LG 版本更新 57%

从暴力到语义洞察：基于LLM的性能引导数据转换设计

Usha Shrestha, Dmitry Ignatov, Radu Timofte

机构 * Computer Vision Lab, CAIDAS & IFI, University of Würzburg（计算机视觉实验室、CAIDAS与IFI、乌尔姆大学）

专题命中偏好对齐：alignment(abstract)；分类 cs.LG

AI总结本文提出了一种基于LLM的性能引导数据转换设计方法，通过经验反馈实现闭环优化，减少穷举搜索需求，提升代码生成的准确性与任务对齐性。