ICLR

Purifying Generative LLMs from Backdoors without Prior Knowledge or Clean Reference

从后门中净化生成式大语言模型而不依赖先验知识或干净参考

Jianwei Li, Jung-Eun Kim

机构 * Department of Computer Science（计算机科学系） 纠错

AI总结 本文提出一种无需先验知识或干净参考的生成式大语言模型净化框架，通过分析后门关联在MLP层中的冗余编码，设计免疫启发的消除方法，通过合成后门变体和对比清洁版本，发现共享的后门签名，从而净化模型以抵御多种后门攻击。

Comments ICLR 2026

Modality-free Graph In-context Alignment

无模态图上下文对齐

Wei Zhuo, Siqiang Luo

机构 * Nanyang Technological University（南洋理工大学） 纠错

AI总结 本文提出MF-GIA框架，通过梯度指纹捕捉领域特征，实现跨异构域的无模态few-shot预测与泛化。

Comments Accepted at ICLR 2026

SERUM: Simple, Efficient, Robust, and Unifying Marking for Diffusion-based Image Generation

SERUM：一种简单、高效、鲁棒且统一的扩散图像生成标记方法

Jan Kociszewski, Hubert Jastrzębski, Tymoteusz Stępkowski, Filip Manijak, Krzysztof Rojek, Franziska Boenisch, Adam Dziedzic

机构 * CISPA Helmholtz Center for Information Security（CISPA 情报安全中心） 纠错

AI总结 SERUM通过在扩散模型生成的初始噪声中添加唯一水印噪声，并训练轻量级检测器识别水印图像，实现了高效且鲁棒的图像标记，同时保持图像质量影响极小。

Comments Accepted as an ICLR 2026 Poster

AutoTool: Automatic Scaling of Tool-Use Capabilities in RL via Decoupled Entropy Constraints

AutoTool: 通过解耦熵约束实现强化学习中工具使用能力的自动扩展

Yirong Zeng, Xiao Ding, Yufei Liu, Yuxian Wang, Qunyao Du, Yutai Hou, Wu Ning, Haonan Song, Duyu Tang, Dandan Tu, Bing Qin, Ting Liu

机构 * Harbin Institute of Technology, SCIR Lib（哈尔滨工业大学，SCIR实验室） ； Peking University（北京大学） ； Huawei Technologies Ltd（华为技术有限公司） 纠错

AI总结 本文提出AutoTool方法，通过解耦熵约束实现强化学习中工具使用能力的自动扩展，提升模型在复杂问题上的表现，同时减少计算开销。

Comments ICLR 2026 poster

Auditing Cascading Risks in Multi-Agent Systems via Semantic-Geometric Co-evolution

通过语义-几何共演化审计多智能体系统中的级联风险

Zixun Luo, Yuhang Fan, Hengyu Lin, Yufei Li, Youzhi Zhang

机构 * Huazhong University of Science and Technology（华中科技大学） ； Lingnan University（岭大大学） ； Tsinghua University（清华大学） ； Centre for Artificial Intelligence and Robotics（人工智能与机器人中心） ； Hong Kong Institute of Science and Innovation（香港创新科技研究院） ； Chinese Academy of Sciences（中国科学院） 纠错

AI总结 本文提出基于语义-几何共演化的框架，通过动态图模型和Ollivier-Ricci曲率检测多智能体系统中的级联风险，提前预警并定位根本原因。

Comments This work has been accepted to ICLR 2026 Workshop: Principled Design for Trustworthy AI

Learning Retrieval Models with Sparse Autoencoders

通过稀疏自编码器学习检索模型

Thibault Formal, Maxime Louis, Hervé Dejean, Stéphane Clinchant

机构 * NAVER LABS Europe（NAVER实验室欧洲） 纠错

AI总结 本文提出SPLARE方法，利用稀疏自编码器改进检索模型，实验显示其在多语言和领域外任务中优于传统方法，SPLARE-7B在多语言检索任务中表现优异。

Journal ref ICLR 2026

Explain in Your Own Words: Improving Reasoning via Token-Selective Dual Knowledge Distillation

用自身语言解释：通过令牌选择性双知识蒸馏提升推理能力

Minsang Kim, Seung Jun Baek

机构 * Korea University（韩国大学） ； SK Telecom（SK电信） 纠错

AI总结 本文提出TSD-KD框架，通过令牌选择性双知识蒸馏提升学生模型的推理能力，结合间接和直接蒸馏方法，实验表明在10个挑战性推理基准上性能优于基线和亚军。

Comments The Fourteenth International Conference on Learning Representations (ICLR) 2026, Accepted

Learning to Repair Lean Proofs from Compiler Feedback

从编译器反馈中学习修复Lean证明

Evan Wang, Simon Chess, Daniel Lee, Siyuan Ge, Ajit Mallavarapu, Jarod Alper, Vasily Ilin

AI总结 本文研究了将Lean证明修复作为监督学习问题，提出APRIL数据集，通过系统生成的证明错误与编译器诊断配对，提升修复准确性和反馈条件推理能力。

Comments 15 pages, 6 figures

Journal ref ICLR VerifAI Workshop, 2026

PRISM: Enhancing Protein Inverse Folding through Fine-Grained Retrieval on Structure-Sequence Multimodal Representations

PRISM：通过结构-序列多模态表示的细粒度检索增强蛋白质反向折叠

Sazan Mahbub, Souvik Kundu, Eric P. Xing

机构 * Carnegie Mellon University（卡内基梅隆大学） ； GenBio AI（基因组生物人工智能） ； Intel（英特尔） 纠错

AI总结 PRISM通过结构-序列多模态表示的细粒度检索提升蛋白质反向折叠性能，结合混合自交叉注意力解码器，实现更高效的序列生成与折叠预测。

Comments Published as a conference paper at International Conference on Learning Representation (ICLR) 2026

Understanding Sensitivity of Differential Attention through the Lens of Adversarial Robustness

通过对抗鲁棒性视角理解差分注意的敏感性

Tsubasa Takahashi, Shojiro Yamabe, Futa Waseda, Kento Sasaki

AI总结 本文从对抗鲁棒性视角揭示差分注意的敏感性问题，发现其减法结构导致梯度范数增加和局部Lipschitz常数升高，实验显示DA在对抗攻击下更脆弱，揭示了选择性与鲁棒性间的根本权衡。

Comments Accepted at ICLR 2026

Steer Away From Mode Collisions: Improving Composition In Diffusion Models

避免模式碰撞：改进扩散模型中的组合性能

Debottam Dutta, Jianchong Chen, Rajalaxmi Rajagopalan, Yu-Lin Wei, Romit Roy Choudhury

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

AI总结 本文提出通过纠正采样策略改进文本到图像扩散模型中多概念提示的保真度，避免模式碰撞，提升概念平衡性和鲁棒性。

Comments Accepted to ICLR 2026. Code: https://github.com/debottam-dutta7/co3

Risk-Sensitive Agent Compositions

风险敏感型代理组合

Guruprerana Shabadi, Rajeev Alur

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

AI总结 本文提出一种风险最小化方法，用于在代理组合中平衡任务成功率与安全、公平和隐私要求，通过动态规划和联合界估算近优解。

Comments 19 pages, 6 figures. Accepted to ICLR 2026

RRNCO: Towards Real-World Routing with Neural Combinatorial Optimization

RRNCO：面向现实世界的神经组合优化路由

Jiwoo Son, Zhikai Zhao, Federico Berto, Chuanbo Hua, Zhiguang Cao, Changhyun Kwon, Jinkyoo Park

机构 * Omelet ； KAIST（韩国科学技术院） ； Radical Numerics ； Singapore Management University（新加坡管理大学） 纠错

AI总结 RRNCO通过引入自适应节点嵌入和神经自适应偏置机制，解决现实世界路由问题中的复杂约束，提升神经求解器在物流中的实用性。

Comments Accepted at ICLR 2026. OpenReview: https://openreview.net/forum?id=sKvo9ZZfpe

Representation Learning for Spatiotemporal Physical Systems

时空物理系统的表示学习

Helen Qu, Rudy Morel, Michael McCabe, Alberto Bietti, François Lanusse, Shirley Ho, Yann LeCun

AI总结 本文研究了时空物理系统中下游科学任务的表示学习，发现潜在空间学习方法在物理参数估计任务中表现更优。

Comments Published at ICLR 2026 Workshop on AI & PDE

Learnability and Privacy Vulnerability are Entangled in a Few Critical Weights

可学习性与隐私漏洞在少数关键权重中相互交织

Xingli Fang, Jung-Eun Kim

AI总结 本文发现隐私漏洞主要存在于少量关键权重中，这些权重对效用性能至关重要，通过重置这些权重而非丢弃神经元，提升了对抗 Membership Inference Attacks 的鲁棒性同时保持效用。

Comments ICLR 2026

Evaluating VLMs' Spatial Reasoning Over Robot Motion: A Step Towards Robot Planning with Motion Preferences

评估VLMs在机器人运动中的空间推理能力：迈向具有运动偏好的机器人规划的一步

Wenxi Wu, Jingjing Zhang, Martim Brandão

机构 * King’s College London（伦敦国王学院） ； University College London（伦敦大学学院） 纠错

AI总结 本文评估了四种先进VLMs在机器人运动中的空间推理能力，探讨了运动偏好（如物体接近性和路径风格）的处理，并分析了准确率与计算成本的权衡。

Comments Accepted to the First Workshop on Efficient Spatial Reasoning at ICLR 2026

Tiny Recursive Reasoning with Mamba-2 Attention Hybrid

微小递归推理与Mamba-2注意力混合

Wenlong Wang, Fergal Reid

机构 * Intercom Dublin, Ireland（Intercom都柏林，爱尔兰） 纠错

AI总结 本文探讨将Mamba-2混合操作符替换TRM中的Transformer块，验证其在递归框架下保持推理能力，提升抽象推理任务表现。

Comments Published at ICLR 2026 Latent & Implicit Thinking Workshop

LLM Unlearning with LLM Beliefs

基于LLM信念的去学习

Kemou Li, Qizhou Wang, Yue Wang, Fengpeng Li, Jun Liu, Bo Han, Jiantao Zhou

机构 * State Key Laboratory of Internet of Things for Smart City, University of Macau（物联网智能城市国家重点实验室，澳门大学） ； TMLR Group, Department of Computer Science, Hong Kong Baptist University（TMLR集团，香港 Baptist大学计算机科学系） ； Imperfect Information Learning Team, RIKEN Center for Advanced Intelligence Project（不完美信息学习团队，RIKEN高级智能项目中心） ； PRADA Lab, King Abdullah University of Science and Technology（PRADA实验室，国王阿卜杜勒阿齐兹大学科学与技术学院） ； National Institute of Informatics（国家信息研究所） 纠错

AI总结 本文提出BS框架，通过结合模型自身高置信度生成（即模型信念）来对抗去学习中的挤压效应，从而更彻底地实现遗忘并保持实用性。

Comments ICLR 2026

The Illusion of Diminishing Returns: Measuring Long Horizon Execution in LLMs

持续扩展的幻觉回报：衡量LLM的长周期执行

Akshit Sinha, Arvindh Arun, Shashwat Goel, Steffen Staab, Jonas Geiping

机构 * University of Cambridge（剑桥大学） ； Institute for AI, University of Stuttgart（斯图加特大学人工智能研究所） ； Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所） ； ELLIS Institute Tübingen（图宾根ELLIS研究所） ； University of Southampton（南安普顿大学） ； Tübingen AI Center（图宾根人工智能中心） 纠错

AI总结 本文通过分析LLM在长周期任务中的执行能力，揭示了持续扩展LLM并非必然导致回报递减，而是执行能力的提升能显著改善长周期任务表现。

Comments Published at ICLR 2026

Evolution and compression in LLMs: On the emergence of human-aligned categorization

语言模型中的进化与压缩：关于人类对齐分类的出现

Nathaniel Imel, Noga Zaslavsky

机构 * New York University（纽约大学） 纠错

AI总结 研究探讨LLM是否能进化出高效的人类对齐语义系统，通过颜色分类实验发现，大模型在复杂性和英语对齐性上表现各异，仅最强模型能复现人类近最优的信息瓶颈贸易-offs。

Comments Published as a conference paper at ICLR 2026 (The Fourteenth International Conference on Learning Representations). OpenReview: https://openreview.net/forum?id=s7gSTR2AqA&noteId=s7gSTR2AqA

Superficial Safety Alignment Hypothesis

表面安全对齐假说

Jianwei Li, Jung-Eun Kim

AI总结 本文提出表面安全对齐假说，认为安全对齐通过让模型选择正确推理方向来实现，识别出四种关键组件以建立安全防护。

Comments ICLR 2026

ToolTree: Efficient LLM Agent Tool Planning via Dual-Feedback Monte Carlo Tree Search and Bidirectional Pruning

ToolTree: 通过双反馈蒙特卡洛树搜索与双向剪枝实现高效的LLM代理工具规划

Shuo Yang, Soyeon Caren Han, Yihao Ding, Shuhe Wang, Eduard Hoy

机构 * School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息学院） ； School of Physics, Mathematics and Computing, The University of Western Australia（西澳大学物理、数学与计算学院） 纠错

AI总结 本文提出ToolTree，一种基于蒙特卡洛树搜索的工具规划方法，通过双阶段LLM评估和双向剪枝机制，提升工具使用序列的适应性和效率，实验表明其在多种基准测试中性能提升约10%。

Comments ICLR 2026

Feynman: Knowledge-Infused Diagramming Agent for Scalable Visual Designs

Feynman: 一种融合知识的图表生成代理，用于可扩展的视觉设计

Zixin Wen, Yifu Cai, Kyle Lee, Sam Estep, Josh Sunshine, Aarti Singh, Yuejie Chi, Wode Ni

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 本文提出Feynman代理，通过知识组件枚举和代码规划生成高质量图表-描述对，构建了可扩展的图表生成流水线，并创建了视觉语言基准Diagramma。

Comments A previous version was submitted to ICLR 2025

Swap-guided Preference Learning for Personalized Reinforcement Learning from Human Feedback

基于交换引导的偏好学习用于从人类反馈中获得个性化强化学习

Gihoon Kim, Euntai Kim

机构 * Yonsei University（延世大学） ； Korea Institute of Science and Technology（韩国科学技术院） 纠错

AI总结 本文提出Swap-guided Preference Learning (SPL)来解决变分偏好学习中后验崩溃的问题，通过引入交换引导基础正则化、偏好逆自回归流和自适应潜在条件化来提升个性化强化学习效果。

Comments ICLR 2026

Maximizing Incremental Information Entropy for Contrastive Learning

为对比学习最大化增量信息熵

Jiansong Zhang, Zhuoqin Yang, Xu Wu, Xiaoling Luo, Peizhong Liu, Linlin Shen

AI总结 本文提出IE-CL框架，通过优化增强视图间的熵增来提升对比学习性能，在CIFAR-10/100、STL-10和ImageNet数据集上验证了其有效性，并能无缝集成到现有框架中。

Comments ICLR 2026 (The Fourteenth International Conference on Learning Representations) https://openreview.net/forum?id=XL7ValpExh

Modal Logical Neural Networks for Financial AI

模态逻辑神经网络用于金融AI

Antonin Sulc

机构 * Lawrence Berkeley National Lab（伯克利国家实验室） 纠错

AI总结 本文提出模态逻辑神经网络，结合模态语义与神经网络，解决金融AI中深度学习与符号逻辑的矛盾，通过监管护栏、市场压力测试等应用提升合规性与鲁棒性。

Comments 4 pages, 1 figure, Accepted at ICLR 2026 FinAI

Thermodynamics of Reinforcement Learning Curricula

强化学习课程的热力学

Jacob Adamczyk, Juan Sebastian Rojas, Rahul V. Kulkarni

AI总结 本文基于非平衡热力学提出强化学习课程的几何框架，通过最小化超额热力学功确定最优课程，提出MEW算法用于最大熵强化学习的温度退火调度。

Comments Accepted at SciForDL Workshop at ICLR 2026

Cross-Family Speculative Prefill: Training-Free Long-Context Compression with Small Draft Models

跨家族推测预填：无训练长上下文压缩与小型草稿模型

Shubhangi Upasani, Ravi Shanker Raju, Bo Li, Mengmeng Ji, John Long, Chen Wu, Urmish Thakker, Guangtao Wang

AI总结 本文研究跨家族推测预填技术，利用不同模型家族的轻量草稿模型实现无训练提示压缩，保留90-100%的完整提示性能并显著降低TTFT，表明推测预填依赖任务先验和语义结构。

Journal ref ICLR 2026 (WS)

Do LLMs Share Human-Like Biases? Causal Reasoning Under Prior Knowledge, Irrelevant Context, and Varying Compute Budgets

大型语言模型是否具有人类般的偏见？在先验知识、无关上下文和不同计算预算下的因果推理

Hanna M. Dettki, Charley M. Wu, Bob Rehder

AI总结 本文通过对比20余种LLM与人类基准，在11个由碰撞结构形式化的因果判断任务中发现，小型可解释模型能有效压缩LLM的因果判断，多数LLM表现出比人类更规则化的推理策略，但未表现出人类典型的碰撞偏见。

Journal ref ICLR 2026 Workshop "From Human Cognition to AI Reasoning (HCAIR)"

When to Ensemble: Identifying Token-Level Points for Stable and Fast LLM Ensembling

何时进行集成：识别令牌级点以实现稳定且快速的LLM集成

Heecheol Yun, Kwangmin Ki, Junghyun Lee, Eunho Yang

机构 * KAIST（韩国科学技术院） ； Korea University（韩国大学） ； AITRICS 纠错

AI总结 本文提出SAFE框架，通过考虑令牌化不匹配和下一个令牌概率分布的一致性，改进长形式生成中的模型集成，提升准确性和效率。

Comments ICLR 2026