Massachusetts Institute of Technology（麻省理工学院）

Reasoning Models Know What's Important, and Encode It in Their Activations

推理模型知道什么重要，并在其激活中编码

Yaniv Nikankin, Martin Tutek, Tomer Ashuach, Jonathan Rosenfeld, Yonatan Belinkov

机构 * Technion（技术离子大学） ； University of Zagreb, FER（扎格雷布大学，FER） ； MIT（麻省理工学院） ； Kempner Institute, Harvard（哈佛大学凯普纳研究所） 纠错

AI总结 通过分析模型激活而非仅依赖推理链文本，发现激活能更有效识别关键推理步骤，且模型在生成后续步骤前已内部编码步骤重要性。

Unraveling Syntax: Language Modeling and the Substructure of Grammars

解析句法：语言建模与语法的子结构

Laura Ying Schulz, Daniel Mitropolsky, Tomaso Poggio

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

AI总结 本文研究语言模型在上下文无关语法子结构上的学习行为，证明损失函数在顶层子语法上线性递归，并发现参数化模型并行学习子语法，子语法预训练能提升小模型性能并改善内部表征。

Comments Equal contribution by LYS and DM. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

MoReBench: Evaluating Procedural and Pluralistic Moral Reasoning in Language Models, More than Outcomes

MoReBench：评估语言模型中的程序性和多元道德推理，超越结果

Yu Ying Chiu, Michael S. Lee, Rachel Calcott, Brandon Handoko, Paul de Font-Reaulx, Raphaël Millière, Paula Rodriguez, Chen Bo Calvin Zhang, Ziwen Han, Udari Madhushani Sehwag, Yash Maurya, Christina Q Knight, Harry R. Lloyd, Florence Bacus, Conor Downey, Mantas Mazeika, Bing Liu, Yejin Choi, Mitchell L Gordon, Sydney Levine

机构 * University of Washington（华盛顿大学） ； New York University（纽约大学） ； Scale AI ； Harvard University（哈佛大学） ； University of Michigan（密歇根大学） ； UNC Chapel Hill（北卡罗来纳大学教堂山分校） ； Center for AI Safety（人工智能安全中心） ； Stanford University（斯坦福大学） ； MIT（麻省理工学院） ； University of Oxford（牛津大学） 纠错

AI总结 提出MoReBench基准，包含1000个道德场景和超过2.3万条标准，用于评估语言模型在道德推理中的程序性推理能力，发现现有基准无法预测模型表现，且模型对特定道德框架存在偏好。

Comments 46 pages, 8 figures, 10 tables. Published in ICLR 2026. Accepted at CHAI workshop and SPP 2026 (non-archival)

Competition and Diversity in Generative AI

生成式人工智能中的竞争与多样性

Manish Raghavan

机构 * MIT Sloan School of Management & Department of Electrical Engineering and Computer Science（麻省理工学院斯隆管理学院及电气工程与计算机科学系） 纠错

AI总结 通过博弈论模型和Scattergories游戏实验，研究竞争如何促使生成式AI模型多样化，缓解同质化，并提升社会福利。