ICLR

The Serial Scaling Hypothesis

序列扩展假说

Yuxi Liu, Konpat Preechakul, Kananart Kuwaranancharoen, Yutong Bai

机构 * UC Berkeley（加州大学伯克利分校） ； Independent Researcher（独立研究者） 纠错

AI总结 研究指出某些问题本质上是顺序的，无法高效并行化，提出扩散模型无法解决此类问题，对机器学习和硬件发展有深远影响。

Comments ICLR 2026. Equal contribution by the first two authors. Project page: https://serial-scaling-hypothesis.github.io

Sustained Gradient Alignment Mediates Subliminal Learning in a Multi-Step Setting: Evidence from MNIST Auxiliary Logit Distillation Experiment

持续的梯度对齐在多步骤设置中介导了潜意识学习：基于MNIST辅助logit蒸馏实验的证据

Chayanon Kitkana, Shivam Arora

机构 * Independent（独立） ； Equivariant labs（等变实验室） 纠错

AI总结 该研究通过MNIST辅助logit蒸馏实验发现，梯度对齐在多步骤训练中持续正向影响潜意识学习，提出liminal训练方法未能有效抑制特质获取。

Comments Published in ICLR 2026 Sci4DL Workshop

LegalMidm: Use-Case-Driven Legal Domain Specialization for Korean Large Language Model

LegalMidm: 面向韩国法律领域的用例驱动型法律领域专业化

Youngjoon Jang, Chanhee Park, Hyeonseok Moon, Young-kyoung Ham, Jiwon Moon, Jinhyeon Kim, JuKyung Jung, Heuiseok Lim

机构 * Department of Computer Science and Engineering, Korea University（韩国大学计算机科学与工程系） ； KT (Korea Telecom)（韩国电信） 纠错

AI总结 本文提出基于法律领域实际需求的系统训练框架，开发了韩国法律领域的LLM LegalMidm，并通过与法律专业人士合作和严格数据筛选，构建高质量的用例驱动型法律数据集和优化训练流程。

Comments ICLR 2026 DATA-FM Workshop

Learning Illumination Control in Diffusion Models

在扩散模型中学习光照控制

Nishit Anand, Manan Suri, Christopher Metzler, Dinesh Manocha, Ramani Duraiswami

机构 * University of Maryland College Park（马里兰大学学院公园分校） 纠错

AI总结 本文提出一个完全开源的管道，通过生成光照控制训练三元组来改进扩散模型的光照控制，实验显示在感知相似性、结构相似性和身份保持方面优于基线模型。

Comments Accepted to ICLR 2026 ReALM-GEN Workshop on Diffusion Models. Project Website: https://nishitanand.github.io/relighting-diffusion-website

Learning to Adapt: In-Context Learning Beyond Stationarity

学习以适应：超越平稳性的上下文学习

Zhen Qin, Jiachen Jiang, Zhihui Zhu

机构 * Michigan Institute for Computational Discovery and Engineering（密歇根计算发现与工程研究所） ； Department of Electrical Engineering and Computer Science（电气工程与计算机科学系） ； Department of Statistics（统计学系） ； University of Michigan（密歇根大学） ； Department of Computer Science and Engineering（计算机科学与工程系） ； The Ohio State University（俄亥俄州立大学） 纠错

AI总结 本文研究了非平稳回归问题中上下文学习的理论机制，揭示了门控线性注意力机制在动态环境下的适应性优势。

Journal ref The Fourteenth International Conference on Learning Representations, 2026

Revisiting the Past: Data Unlearning with Model State History

重访过去：利用模型状态历史的数据遗忘

Keivan Rezaei, Mehrdad Saberi, Abhilasha Ravichander, Soheil Feizi

机构 * Department of Computer Science, University of Maryland（大学马里兰大学计算机科学系） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） 纠错

AI总结 本文提出MSA算法，通过利用预训练过程中的模型检查点来估计并抵消特定数据点的影响，实验证明其在多个基准、模型和评估指标上表现优异，为更灵活的数据擦除大型语言模型提供有效方法。

Comments Accepted to ICLR 2026

A Reward-Free Viewpoint on Multi-Objective Reinforcement Learning

多目标强化学习的无奖励视角

Ying-Tu Chen, Wei Hung, Bing-Shu Wu, Zhang-Wei Hong, Ping-Chun Hsieh

机构 * National Yang Ming Chiao Tung University（国立阳明交通大学） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

AI总结 本文提出利用无奖励强化学习（RFRL）视角解决多目标强化学习（MORL）问题，通过引入RFRL的训练目标作为辅助任务，提升知识共享效率，实验表明其在多目标Gymnasium任务中表现更优。

Comments ICLR 2026

PhysNote: Self-Knowledge Notes for Evolvable Physical Reasoning in Vision-Language Model

PhysNote: 为视觉-语言模型中的可进化物理推理提供自我知识笔记

Sinin Zhang, Yunfei Xie, Yuxuan Cheng, Haoyu Zhang, Tong Zhang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Rice University（里奇大学） ； City University of Hong Kong（香港城市大学） ； Fudan University（复旦大学） 纠错

AI总结 本文提出PhysNote框架，通过自我生成的知识笔记提升视觉-语言模型在动态物理推理中的表现，实验显示其在PhysBench上达到56.68%的准确率，优于多智能体基线。

Comments 11 pages. Accepted by ICLR 2026 Workshop ES-Reasoning

Fine-R1: Make Multi-modal LLMs Excel in Fine-Grained Visual Recognition by Chain-of-Thought Reasoning

Fine-R1: 通过链式推理使多模态大语言模型在细粒度视觉识别中脱颖而出

Hulingxiao He, Zijun Geng, Yuxin Peng

机构 * Wangxuan Institute of Computer Technology（王轩计算机技术研究所） 纠错

AI总结 Fine-R1通过链式推理监督微调和三元组增强策略优化，提升多模态大语言模型在细粒度视觉识别中的表现，仅用4次训练即超越现有模型。

Comments Published as a conference paper at ICLR 2026. The models are available at https://huggingface.co/collections/StevenHH2000/fine-r1

On the Surprising Effectiveness of a Single Global Merging in Decentralized Learning

在去中心化学习中单一全局融合的惊人效果

Tongtian Zhu, Tianyu Zhang, Mingze Wang, Zhanpeng Zhou, Can Wang

机构 * Zhejiang University（浙江大学） ； Mila, Quebec AI Institute（魁北克AI研究院） ； Université de Montréal（蒙特利尔大学） ； Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 本文研究了去中心化学习中通信调度策略，发现集中通信预算在后期阶段可显著提升测试性能，通过单一全局融合实现完全连接，有效提升高数据异质性下的学习性能。

Comments We discover and theoretically explain why and when a single global parameter merging in decentralized learning can recover the performance of federated learning, even in highly heterogeneous and communication-constrained environments

Journal ref ICLR 2026 (Oral Presentation)

Hindsight Preference Optimization for Financial Time Series Advisory

金融时间序列建议的 hindsight 偏好优化

Yanwei Cui, Guanghui Wang, Xing Zhang, Peiyang He, Ziyuan Li, Bing Zhu, Wei Qiu, Xusheng Wang, Zheng Yu, Anqi Xin

机构 * AWS Generative AI Innovation Center（AWS生成式AI创新中心） ； HSBC Holdings Plc（汇丰控股有限公司） ； HSBC Technology Center China（汇丰技术中心（中国）） 纠错

AI总结 本文提出通过回顾性偏好优化方法，利用观测结果生成偏好对，提升语言模型在金融时间序列预测中的建议质量。

Comments Accepted at ICLR 2026 TSALM Workshop

LearnPruner: Rethinking Attention-based Token Pruning in Vision Language Models

LearnPruner: 重新思考基于注意力的视觉语言模型中令牌修剪

Rinyoichi Takezoe, Yaqian Li, Zihao Bo, Anzhou Hou, Mo Guang, Kaiwen Long

机构 * Li Auto Inc.（利自动公司） 纠错

AI总结 本文提出LearnPruner，通过两阶段令牌修剪框架在视觉语言模型中实现高效修剪，保留95%性能的同时减少5.5%视觉令牌使用，提升3.2倍推理速度。

Comments Accepted to ICLR 2026

Quasi-Equivariant Metanetworks

准等变元网络

Viet-Hoang Tran, An Nguyen, Benoît Guérand, Thieu N. Vo, Tan M. Nguyen

机构 * FPT Software AI Center（FPT软件人工智能中心） 纠错

AI总结 本文提出准等变元网络，通过引入准等变性概念，在保留功能一致性的同时，突破严格等变性的刚性限制，提升元网络的表达能力和鲁棒性。

Comments Accepted to ICLR 2026

GraphPlanner: Graph Memory-Augmented Agentic Routing for Multi-Agent LLMs

GraphPlanner: 多智能体LLM的图记忆增强代理路由

Tao Feng, Haozhen Zhang, Zijie Lei, Peixuan Han, Jiaxuan You

机构 * Department of Computer Science（计算机科学系） 纠错

AI总结 GraphPlanner通过图记忆增强代理路由方法，提升多智能体LLM在任务规划和多轮协作中的性能，实现更高的准确率和计算效率。

Journal ref ICLR 2026

NI Sampling: Accelerating Discrete Diffusion Sampling by Token Order Optimization

基于令牌顺序优化的NI采样：通过令牌顺序优化加速离散扩散采样

Enshu Liu, Xuefei Ning, Yu Wang, Zinan Lin

机构 * Department of EE, Tsinghua University（清华大学电子工程系） ； Microsoft Research（微软研究院） 纠错

AI总结 本文提出NI采样方法，通过优化令牌采样顺序显著提升离散扩散模型的采样效率，实验表明在保持准确性的同时，加速效果达14.3倍。

Comments Accepted by ICLR 2026

TRINITY: An Evolved LLM Coordinator

TRINITY：一个进化的人工智能语言模型协调器

Jinglue Xu, Qi Sun, Peter Schwendeman, Stefan Nielsen, Edoardo Cetin, Yujin Tang

机构 * Sakana AI ； University of Michigan（密歇根大学） ； Institute of Science Tokyo（东京科学研究所） 纠错

AI总结 TRINITY通过轻量级协调器高效分配角色，提升多轮查询处理能力，在多个任务中超越单一模型和现有方法，实现卓越性能。

Comments To appear at the 14th International Conference on Learning Representation (ICLR 2026)

A Fano-Style Accuracy Upper Bound for LLM Single-Pass Reasoning in Multi-Hop QA

为LLM单步推理在多跳问答中的准确性设定一种Fano风格的上限

Kaiyang Wan, Lang Gao, Honglin Mu, Preslav Nakov, Yuxia Wang, Xiuying Chen

机构 * MBZUAI（马克斯·普朗克智能研究院） ； INSAIT（索菲亚大学） 纠错

AI总结 本文提出了一种Fano风格的准确性上限，用于分析LLM在多跳问答中的单步推理能力，通过容量感知的任务分解与主动剪枝，构建了InfoQA框架以提升性能和鲁棒性。

Comments 22 pages, 6 figures, ICLR 2026. Reported by MIT Technology Review

Mind the Gap: Evaluating Model- and Agentic-Level Vulnerabilities in LLMs with Action Graphs

注意差距：通过动作图评估LLM在模型和代理层面的漏洞

Ilham Wicaksono, Zekun Wu, Rahul Patel, Theo King, Adriano Koshiyama, Philip Treleaven

机构 * Holistic AI ； University College London（伦敦大学学院） 纠错

AI总结 本文通过动作图评估LLM在模型和代理层面的漏洞，揭示了代理层面特有的风险，并展示了通过动作图改进提示能有效降低代理 jailbreak 成功率。

Comments ICLR 2026 Agents in the Wild (Spotlight & Oral); ICLR 2026 AFAA; OpenAI Red-Teaming Challenge Winner (2025); NeurIPS 2025 LLMEval

Guided Speculative Inference for Efficient Test-Time Alignment of LLMs

引导推测推断用于大型语言模型的高效测试时间对齐

Jonathan Geuter, Youssef Mroueh, David Alvarez-Melis

机构 * Harvard SEAS（哈佛大学SEAS学院） ； Kempner Institute（Kempner研究所） ； IBM Research（IBM研究院） 纠错

AI总结 本文提出引导推测推断（GSI），通过结合软最佳n次测试时间缩放、奖励模型和小型辅助模型的推测样本，提高大语言模型的奖励引导解码效率，并在多个基准测试中实现更高的准确性和更低的延迟。

Comments 41 pages, 11 figures. Published at ICLR 2026

Ulterior Motives: Detecting Misaligned Reasoning in Continuous Thought Models

隐秘动机：在连续思维模型中检测不一致的推理

Sharan Ramjee

机构 * Stanford University（斯坦福大学） 纠错

AI总结 本文研究了连续思维模型中如何检测不一致的推理，提出MoralChain基准测试，并通过双触发方法训练模型，揭示了潜在空间中不一致推理的存在及早期规划阶段的安全监控重要性。

Comments 15 pages with 2 figures

Journal ref International Conference on Learning Representations (ICLR) Latent & Implicit Thinking (LIT) Workshop 2026

Analytica: Soft Propositional Reasoning for Robust and Scalable LLM-Driven Analysis

分析：用于稳健和可扩展的LLM驱动分析的软命题推理

Junyan Cheng, Kyle Richardson, Peter Chin

机构 * Dartmouth College（达特茅斯学院） ； Allen Institute for AI（人工智能研究院） 纠错

AI总结 本文提出Analytica，一种基于软命题推理的新型代理架构，通过并行分治框架减少误差，提升LLM在金融、科学等领域的预测准确性与稳定性。

Comments ICLR 2026 Camera-ready

Understanding Representation Gaps Across Scales in Tropical Tree Species Classification from Drone Imagery

理解无人机影像中热带树种分类的多尺度表征差距

Sulagna Saha, Arthur Ouaknine, Etienne Laliberté, Carol Altimas, Evan M. Gora, Adriane Esquivel Muelbert, Ian R. McGregor, Cesar Gutierrez, Vanessa E. Rubio, David Rolnick

机构 * Mila – Quebec AI Institute（魁北克人工智能研究所） ； McGill University（麦吉尔大学） ； Université de Montréal（蒙特利尔大学） ； Cary Institute of Ecosystem Studies（生态系统研究所） ； Smithsonian Tropical Research Institute（史密松国家热带研究所） ； Department of Plant Sciences, University of Cambridge（剑桥大学植物科学系） ； Universidade do Estado do Mato Grosso (UNEMAT)（马托格罗索州立大学（UNEMAT）） 纠错

AI总结 研究通过对比高分辨率近景与粗分辨率俯视影像，发现近景影像在树种分类中表现更优，尤其对稀有物种效果更显著，提出跨尺度自监督表征对齐方法提升分类模型性能。

Comments ML4RS @ICLR 2026 (Main)

Probing Visual Planning in Image Editing Models

探测图像编辑模型中的视觉规划

Zhimu Zhou, Yanpeng Zhao, Qiuyu Liao, Bo Zhao, Xiaojian Ma

机构 * Shanghai Jiao Tong University（上海交通大学） ； Renmin University of China（中国人民大学） ； State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI） 纠错

AI总结 本文提出EAR框架，通过抽象谜题和生成数据集AMAZE，评估图像编辑模型的视觉规划能力，发现模型在零样本设置下表现不佳，但微调后能有效泛化。

Comments Accepted to ES-Reasoning Workshop @ ICLR 2026. Our code is available at https://github.com/spatigen/amaze

Position: Logical Soundness is not a Reliable Criterion for Neurosymbolic Fact-Checking with LLMs

位置：逻辑正确性不是LLM神经符号事实核查中的可靠标准

Jason Chan, Robert Gaizauskas, Zhixue Zhao

机构 * School of Computer Science University of Sheffield（计算机科学学院 伦敦大学谢菲尔德分校） 纠错

AI总结 本文指出，逻辑正确性无法有效检测误导性声明，提出利用LLM的人类推理倾向来验证神经符号系统中的正式组件输出。

Comments ICLR 2026 Workshop on Logical Reasoning of Large Language Models

Delta-XAI: A Unified Framework for Explaining Prediction Changes in Online Time Series Monitoring

Delta-XAI：一个用于在线时间序列监控中解释预测变化的统一框架

Changhun Kim, Yechan Mun, Hyeongwon Jang, Eunseo Lee, Sangchul Hahn, Eunho Yang

机构 * AITRICS ； KAIST（韩国科学技术院） ； Sungkyunkwan University（全北大学） 纠错

AI总结 本文提出Delta-XAI框架，通过封装函数适配14种XAI方法，并引入在线环境下的评估套件，解决时间序列模型解释中的时间依赖性和在线动态挑战，实验显示SWING方法在多种指标上表现优异。

Comments Accepted at ICLR 2026; Code is available at https://github.com/AITRICS/Delta-XAI

Learning an Image Editing Model without Image Editing Pairs

无需图像编辑配对学习图像编辑模型

Nupur Kumari, Sheng-Yu Wang, Nanxuan Zhao, Yotam Nitzan, Yuheng Li, Krishna Kumar Singh, Richard Zhang, Eli Shechtman, Jun-Yan Zhu, Xun Huang

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Adobe Research（Adobe研究） 纠错

AI总结 本文提出无需配对数据的图像编辑模型训练方法，通过扩散模型解卷积和视觉语言模型反馈实现端到端优化，同时结合分布匹配损失提升视觉真实性。

Comments project page: https://nupurkmr9.github.io/npedit/ ICLR 2026

ZeroGR: A Generalizable and Scalable Framework for Zero-Shot Generative Retrieval

ZeroGR: 一种通用且可扩展的零样本生成检索框架

Weiwei Sun, Keyi Kong, Xinyu Ma, Shuaiqiang Wang, Dawei Yin, Maarten de Rijke, Zhaochun Ren, Yiming Yang

AI总结 ZeroGR通过自然语言指令扩展生成检索，解决零样本检索场景下的泛化问题，提出文档ID生成器、指令调优查询生成器和反向退火解码策略，实验表明其在BEIR和MAIR基准上表现优异。

Comments ICLR 2026

ODE-GS: Latent ODEs for Dynamic Scene Extrapolation with 3D Gaussian Splatting

ODE-GS：基于动态场景外推的隐式ODE与3D高斯点划法

Daniel Wang, Patrick Rim, Tian Tian, Dong Lao, Alex Wong, Ganesh Sundaramoorthi

机构 * Yale University（耶鲁大学） ； TU Delft（代尔夫特理工大学） ； Louisiana State University（路易斯安那州立大学） ； RTX（RTX公司） 纠错

AI总结 ODE-GS结合隐式ODE与3D高斯点划法，通过连续时间隐式动态建模实现动态3D场景的未来外推，优于传统时间条件变形网络方法，提升外推性能19.8%。

Comments Accepted at ICLR 2026

Residual Feature Integration is Sufficient to Prevent Negative Transfer

残差特征整合足以防止负迁移

Yichen Xu, Ryumei Nakada, Linjun Zhang, Lexin Li

机构 * University of California, Berkeley（加州大学伯克利分校） ； Harvard University（哈佛大学） ； Rutgers University（罗格斯大学） 纠错

AI总结 本文提出通过整合冻结的预训练源特征与可训练的目标编码器，有效防止负迁移，理论证明其收敛率不低于从头训练，并在多个数据集上验证了方法的鲁棒性与广泛适用性。

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026)

"Noisier" Noise Contrastive Eestimation is (Almost) Maximum Likelihood

更嘈杂的噪声对比估计几乎等同于最大似然估计

Peiyu Yu, Dinghuai Zhang, Hengzhi He, Xiaojian Ma, Sirui Xie, Ruiyao Miao, Yifan Lu, Yasi Zhang, Deqian Kong, Ruiqi Gao, Jianwen Xie, Guang Cheng, Ying Nian Wu

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Mila - Quebec AI Institute（魁北克人工智能研究所） ； Google DeepMind（谷歌DeepMind） ； Beijing Institute for General Artificial Intelligence (BIGAI)（北京通用人工智能研究院） ； Akool Research（Akool研究） 纠错

AI总结 本文提出'Noisier' NCE，通过增大噪声幅度使NCE梯度接近最大似然估计，从而在理论和实践中实现更快收敛，适用于高维和多模态数据集的密度比估计。

Comments ICLR 2026