大模型对齐与安全

To model human linguistic prediction, make LLMs less superhuman

为了模拟人类语言预测，让大语言模型不那么超人类

Byung-Doh Oh, Tal Linzen

机构 * Division of Linguistics and Multilingual Studies, Nanyang Technological University, Singapore（南洋理工大学语言学与多语言研究系，新加坡） ； Department of Linguistics, New York University, New York, USA（纽约大学语言学系，纽约，美国） ； Center for Data Science, New York University, New York, USA（纽约大学数据科学中心，纽约，美国） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文指出大语言模型因超人类预测能力而无法解释人类阅读行为，主张通过模拟人类记忆来改进模型，并提出新实验方向。

Comments Accepted to Trends in Cognitive Sciences

AlignEvoSkill: Towards Knowledge-Aware and Task-Aligned Agent Skill Evolution

AlignEvoSkill: 迈向知识感知与任务对齐的智能体技能进化

Dingzirui Wang, Xuanliang Zhang, Keyan Xu, Qingfu Zhu, Wanxiang Che, Yang Deng

机构 * Singapore Management University（新加坡国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出AlignEvoSkill框架，通过联合建模知识覆盖和任务对齐，从失败轨迹中识别知识标签、检索并适配候选技能，再基于知识覆盖和任务对齐分数筛选高质量技能，在3个基准和4个LLM骨干上相对提升34.7%，实现技能进化新SOTA且成本更低。

DV-SFT: Direct Vision Supervision for Fine-Grained Visual Understanding

DV-SFT: 直接视觉监督用于细粒度视觉理解

Jianfei Zhao, Feng Zhang, Xin Sun, Chong Feng, Bing Wang, Zhixing Tan

机构 * School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院） ； Zhongguancun Academy（中关村学院） ； Beihang University（北航） ； Zhongguancun Laboratory（中关村实验室） ； Southeast Academy of Information Technology, Beijing Institute of Technology（北京理工大学信息科学技术东南学院） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出DV-SFT方法，通过为视觉令牌构建显式令牌级监督信号，利用OCR场景中的直接视觉-文本对应关系，在不修改模型架构或增加前向传播的情况下，显著提升多模态大语言模型的细粒度视觉理解能力。

Comments Under Review

EgoExo-WM: Unlocking Exo Video for Ego World Models

EgoExo-WM: 利用外部视频解锁自我世界模型

Danny Tran, Roberto Martín-Martín, Kristen Grauman

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出通过从外部视频提取结构化身体姿态并利用人体运动学先验将其转换为自我视频，从而利用丰富的野外外部数据训练自我世界模型，显著提升预测质量和下游规划性能。

Comments Project Page: https://vision.cs.utexas.edu/projects/EgoExo-WM/

World-R1: Reinforcing 3D Constraints for Text-to-Video Generation

World-R1：通过强化学习为文本到视频生成注入3D约束

Weijie Wang, Xiaoxuan He, Youping Gu, Yifan Yang, Zeyu Zhang, Yefei He, Yanbo Ding, Xirui Hu, Donny Y. Chen, Zhiyuan He, Yuqing Yang, Bohan Zhuang

机构 * Zhejiang University（浙江大学） ； Microsoft Research（微软研究院） ； Independent Researcher（独立研究者） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出World-R1框架，利用强化学习（Flow-GRPO）结合3D基础模型和视觉语言模型的反馈，在不修改架构的情况下增强视频生成的3D一致性，并采用周期解耦训练策略平衡刚体几何与动态场景。

Comments ICML 2026, Project Page: https://aka.ms/world-r1, Code: https://github.com/microsoft/World-R1

MVISTA-4D: View-Consistent 4D World Model with Test-Time Action Inference for Robotic Manipulation

MVISTA-4D: 用于机器人操作的一致性视图4D世界模型与测试时动作推理

Jiaxu Wang, Yicheng Jiang, Tianlun He, Jingkai Sun, Qiang Zhang, Junhao He, Jiahang Cao, Zesen Gan, Mingyuan Sun, Qiming Shao, Xiangyu Yue

机构 * MMLab, The Chinese University of Hong Kong, Hong Kong SAR（香港理工大学MMLab，香港中文大学，香港特别行政区） ； The Hong Kong University of Science（香港理工大学） ； The University of Hong Kong（香港大学） ； Tsinghua University（清华大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出一种基于世界模型的4D场景生成方法，通过多视图RGBD预测和测试时动作优化，实现几何一致的4D动态预测与机器人操作。

Journal ref International Conference on Machine Learning 2026