AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-08-03 至 2026-08-03 共收录 2 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 偏好对齐 2 篇

2607.29185 2026-08-03 cs.CL 新提交 77%

学习标量奖励模型的端到端潜在推理轨迹

Sanwoo Lee, Clive Bai, Hsiu-Yuan Huang, Kun Liang, Weijie Liu, Yunfang Wu

专题命中偏好对齐：RLHF(abstract,abstract_cn)；alignment(abstract)；分类 cs.CL

AI总结针对奖励模型范式不匹配问题，提出LatentRM框架，将推理轨迹作为潜在变量端到端优化，在多任务上优于各类基准奖励模型。

2607.28647 2026-08-03 cs.HC cs.AI 新提交 77%

ConnectED：面向越南教学课程规划与学生学习的课程对齐AI系统

Thang Doan Viet, Anh Nguyen Hoang, Tinh Luong Son, Anh Hoang Thi Ngoc, Huyen Giang Thi Thu, Tai Le Quy

专题命中偏好对齐：DPO(abstract,abstract_cn)；alignment(abstract)；分类 cs.AI

AI总结该研究提出以人为本的AI系统ConnectED，基于VietEduQwen构建，支持越南教育完整教学生命周期，经评估其准确率优于基准模型，可缩短教师备课时间且获师生高满意度。