University of Maryland, College Park（马里兰大学帕克分校）

IDEAL: In-DEpth ALignment Makes A Discrete Representation AutoEncoder

IDEAL: 深度对齐实现离散表示自编码器

Yitong Chen, Zijie Diao, Junke Wang, Lingyu Kong, Yixuan Ren, Bo He, Yu-Gang Jiang, Zuxuan Wu

机构 * Institute of Trustworthy Embodied AI, Fudan University（复旦大学可信具身人工智能研究所） ； Shanghai Innovation Institute（上海创新研究院） ； University of Maryland, College Park（马里兰大学帕克分校） 纠错

AI总结 提出IDEAL框架，通过联合对齐量化令牌与浅层和深层VFM特征，提升离散表示自编码器的重建质量，在ImageNet上实现0.61 rFID，并创下自回归图像生成新纪录（gFID 1.89）。

Comments Code is available at https://github.com/Row11n/IDEAL

Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models

推理是否保持对齐？关于大型推理模型的可信度研究

Prajakta Kini, Avinash Reddy, Souradip Chakraborty, Satya Sai Srinath Namburi GNVV, Furong Huang, Amrit Singh Bedi, Alvaro Velasquez

机构 * University of Colorado Boulder（科罗拉多大学博尔德分校） ； University of Central Florida（中佛罗里达大学） ； University of Maryland College Park（马里兰大学帕克分校） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

AI总结 研究通过监督微调、强化学习和蒸馏生成的推理模型在安全、偏见、隐私等六个可信度维度上是否保持对齐，发现推理模型常出现对齐退化，如毒性增加、刻板印象加剧等。

Moral Sensitivity in LLMs: A Tiered Evaluation of Contextual Bias via Behavioral Profiling and Mechanistic Interpretability

大语言模型中的道德敏感性：通过行为剖析和机制可解释性对上下文偏见进行分层评估

Yash Aggarwal, Atmika Gorti, Vinija Jain, Aman Chadha, Krishnaprasad Thirunarayan, Manas Gaur

机构 * University of Maryland, College Park（马里兰大学学院公园分校） ； Purdue University（普渡大学） ； Meta ； Apple（苹果公司） ； Wright State University（怀特州立大学） ； University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校） 纠错

AI总结 提出道德敏感性指数（MSI）量化大语言模型在七级压力测试中的偏见概率，并通过行为剖析和机制验证揭示模型偏见随情境变化的U型曲线，发现推理蒸馏会重新激活浅层统计关联。

V-REX: Benchmarking Exploratory Visual Reasoning via Chain-of-Questions

V-REX: 通过问题链进行探索性视觉推理的基准测试

Chenrui Fan, Yijun Liang, Shweta Bhardwaj, Kwesi Cobbina, Ming Li, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学学院市分校） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

AI总结 提出V-REX基准，通过问题链将多步探索推理分解为规划和遵循能力，评估视觉语言模型在复杂开放任务中的表现。

Comments 28 pages