ICLR

Beyond Multi-Token Prediction: Pretraining LLMs with Future Summaries

超越多令牌预测：通过未来摘要预训练语言模型

Divyat Mahajan, Sachin Goyal, Badr Youbi Idrissi, Mohammad Pezeshki, Ioannis Mitliagkas, David Lopez-Paz, Kartik Ahuja

机构 * Carnegie Mellon University（卡内基梅隆大学） ； FAIR at Meta（Meta的FAIR） 纠错

AI总结 本文提出未来摘要预测(FSP)方法，通过训练辅助头预测紧凑的长期未来表示，提升长形式生成能力，在数学、推理和编码基准测试中优于NTP和MTP。

Comments Proceedings of the Fourteenth International Conference on Learning Representations (ICLR) 2026

Score-Based Density Estimation from Pairwise Comparisons

基于成对比较的密度估计

Petrus Mikkola, Luigi Acerbi, Arto Klami

机构 * Department of Computer Science University of Helsinki（计算机科学系赫尔辛基大学） 纠错

AI总结 本文研究通过成对比较进行密度估计，提出利用温度化胜利密度进行学习，通过得分匹配估计目标密度，证明信念与胜利密度的得分向量共线性。

Comments Accepted at ICLR 2026. Camera-ready version. 36 pages, 16 figures

Disentangling Knowledge Representations for Large Language Model Editing

解构知识表示以实现大语言模型编辑

Mengqi Zhang, Zisheng Zhou, Xiaotian Ye, Qiang Liu, Zhaochun Ren, Zhumin Chen, Pengjie Ren

机构 * Shandong University（山东大学） ； Suzhou Research Institute of Shandong University（山东大学苏州研究院） ； School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院） ； New Laboratory of Pattern Recognition (NLPR) State Key Laboratory of Multimodal Artificial Intelligence Systems (MAIS) Institute of Automation, Chinese Academy of Sciences（模式识别新实验室（NLPR）多模态人工智能系统国家重点实验室（MAIS）中国科学院自动化研究所） ； Leiden University（莱顿大学） 纠错

AI总结 本文提出DiKE方法，通过解构知识表示来提升大语言模型编辑中细粒度无关知识的保留能力，同时保持编辑性能。

Comments ICLR 2026

Accelerated Parallel Tempering via Neural Transports

加速的神经传输并行退火

Leo Zhang, Peter Potaptchik, Jiajun He, Yuanqi Du, Arnaud Doucet, Francisco Vargas, Hai-Dang Dau, Saifuddin Syed

机构 * University of Oxford（牛津大学） ； University of Cambridge（剑桥大学） ； Cornell University（康奈尔大学） ； Xaira Therapeutics ； National University of Singapore（新加坡国立大学） ； University of British Columbia（不列颠哥伦比亚大学） 纠错

AI总结 本文提出利用神经采样器加速并行退火，通过减少相邻分布间的重叠需求，提升多模态采样效率并降低计算成本。

Comments Camera-ready version for ICLR 2026

MCP Security Bench (MSB): Benchmarking Attacks Against Model Context Protocol in LLM Agents

MCP安全基准（MSB）：针对LLM代理中模型上下文协议的攻击评估

Dongsen Zhang, Zekun Li, Xu Luo, Xuannan Liu, Peipei Li, Wenjun Xu

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

AI总结 本文提出MSB，首个端到端评估套件，系统评估LLM代理在MCP全流程中的抗攻击能力，包含12种攻击类型及性能指标NRP，评估九种主流LLM代理在10个领域405种工具上的表现。

Comments Accepted by ICLR 2026

A Schrödinger Eigenfunction Method for Long-Horizon Stochastic Optimal Control

一个用于长horizon随机最优控制的Schrödinger特征函数方法

Louis Claeys, Artur Goldman, Zebang Shen, Niao He

机构 * ETH Zürich（苏黎世联邦理工学院） ； Department of Mathematics（数学系） ； ETH AI Center（ETH人工智能中心） ； Institute for Machine Learning（机器学习研究所） 纠错

AI总结 本文提出一种基于Schrödinger算子的特征函数方法，用于解决长horizon随机最优控制问题，通过将Hamilton-Jacobi-Bellman方程转化为线性PDE，并利用其特征函数系统高效描述控制问题。

Comments Accepted to ICLR 2026, code available in https://github.com/lclaeys/eigenfunction-solver

When Language Models Lose Their Mind: The Consequences of Brain Misalignment

当语言模型失去理智：大脑错位的后果

Gabriele Merlin, Mariya Toneva

机构 * MPI-SWS（马克斯·普朗克研究所） 纠错

AI总结 研究探讨了大脑对齐对语言能力的影响，通过创建大脑错位模型发现其显著损害下游性能，强调了大脑对齐在实现稳健语言能力中的关键作用。

Comments Accepted at ICLR 2026

Can Graph Foundation Models Generalize Over Architecture?

图基础模型能否在架构上泛化？

Benjamin Gutteridge, Michael Bronstein, Xiaowen Dong

机构 * University of Oxford（牛津大学） ； AITHYRA 纠错

AI总结 本文探讨图基础模型在架构适应性上的必要性，指出现有模型在任务依赖的架构属性上缺乏鲁棒性，并提出一种能适应任务特定线性图运算的框架，实现跨异构架构的零样本泛化。

Comments 9 pages main text + 18 pages references and appendix (27 pages total), 5 figures. Accepted to GRaM Workshop @ ICLR 2026: Workshop on Geometry-grounded Representation Learning and Generative Modeling (to appear in PMLR)

Conditionally Identifiable Latent Representation for Multivariate Time Series with Structural Dynamics

具有结构性动态的多变量时间序列条件可识别潜在表示

Minkey Chang, Jae-Young Kim

AI总结 本文提出iVDFM模型，通过在创新过程上应用iVAE式条件，保证多变量时间序列潜在因子的可识别性，展示了在合成数据和现实基准中的改进性能。

Comments Accepted paper for 2026 ICLR FINAI workshop

Learning What Matters Now: Dynamic Preference Inference under Contextual Shifts

学习当下重要的事物：在情境变化下的动态偏好推断

Xianwei Cao, Dou Quan, Zhenliang Zhang, Shuang Wang

机构 * School of Artificial Intelligence, Xidian University（西安电子科技大学人工智能学院） ； State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI） 纠错

AI总结 本文研究了在偏好权重随情境变化而变化的情况下，动态偏好推断（DPI）框架如何通过维护概率信念并更新信念来提高决策性能，展示了其在队列、迷宫和多目标连续控制环境中的有效性。

Comments 10 pages, ICLR 2026 poster paper

Sparse but Critical: A Token-Level Analysis of Distributional Shifts in RLVR Fine-Tuning of LLMs

稀疏但关键：RLVR微调中LLMs分布偏移的token级分析

Haoming Meng, Kexin Huang, Shaohang Wei, Chiyu Ma, Shuo Yang, Xue Wang, Guoyin Wang, Bolin Ding, Jingren Zhou

机构 * Alibaba Group（阿里巴巴集团） 纠错

AI总结 研究通过token级分析揭示RLVR微调中分布偏移的机制，发现微调导致稀疏且针对性强的token分布变化，通过交叉采样实验验证了少量token决策对性能提升的关键作用。

Comments Published as a conference paper at the International Conference on Learning Representations (ICLR 2026)

Spectral Gaps and Spatial Priors: Studying Hyperspectral Downstream Adaptation Using TerraMind

光谱间隙与空间先验：利用TerraMind研究高光谱下游适应

Julia Anna Leonardi, Johannes Jakubik, Paolo Fraccaro, Maria Antonia Brovelli

机构 * IBM Research Europe（IBM欧洲研究院） 纠错

AI总结 本文研究了TerraMind在无高光谱预训练情况下处理高光谱下游任务的适应性，比较了通道适应策略并证明了深度学习模型在处理高光谱数据方面的优势。

Comments Accepted to ICLR 2026 Machine Learning for Remote Sensing (ML4RS) Workshop

When Sensors Fail: Temporal Sequence Models for Robust PPO under Sensor Drift

当传感器失效时：用于在传感器漂移下鲁棒PPO的时序序列模型

Kevin Vogt-Lowell, Theodoros Tsiligkaridis, Rodney Lafuente-Mercado, Surabhi Ghatti, Shanghua Gao, Marinka Zitnik, Daniela Rus

机构 * MIT Lincoln Laboratory（MIT林肯实验室） ； Harvard（哈佛大学） ； MIT（麻省理工学院） 纠错

AI总结 本文研究了在传感器漂移下PPO的鲁棒性，通过引入时序序列模型提升政策在部分可观测性和表示偏移下的性能。

Comments Accepted at ICLR 2026 CAO Workshop

Obscure but Effective: Classical Chinese Jailbreak Prompt Optimization via Bio-Inspired Search

晦涩但有效的：基于生物启发搜索的古典中文 Jailbreak 提示优化

Xun Huang, Simeng Qin, Xiaoshuang Jia, Ranjie Duan, Huanqian Yan, Zhitao Zeng, Fei Yang, Yang Liu, Xiaojun Jia

机构 * Nanyang Technological University（南洋理工大学） ； BraneMatrix AI ； Nanjing University of Science and Technology（南京理工大学） ； Northeast University（东北大学） ； Renmin University of China（中国人民大学） ； Alibaba Group（阿里巴巴集团） ； Beihang University（北航） ； National University of Singapore（新加坡国立大学） ； Zhejiang Lab（浙江实验室） 纠错

AI总结 本文提出 CC-BOS 框架，利用多维果蝇优化算法生成古典中文对抗提示，提升黑盒 Jailbreak 攻击效果，通过八维政策维度迭代优化，实验表明其优于现有方法。

Comments ICLR 2026 Poster The source code relevant to this article has now been open-sourced; for details, please visit: https://github.com/xunhuang123/CC-BOS

Refine Now, Query Fast: A Decoupled Refinement Paradigm for Implicit Neural Fields

细化现在，查询快速：一种用于隐式神经场的解耦细化范式

Tianyu Xiong, Skylar Wurster, Han-Wei Shen

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Ohio State University（俄亥俄州立大学） ； Adobe（Adobe公司） 纠错

AI总结 本文提出了解耦表示细化（DRR）范式，通过解耦高容量神经网络与快速推理路径，提升隐式神经场的精度与速度，实验表明其在多个模拟数据集上达到最佳性能，推理速度比高保真基线快27倍。

Comments Accepted to ICLR 2026. Code available at https://github.com/xtyinzz/DRR-INR

Temporal Slowness in Central Vision Drives Semantic Object Learning

中央视觉中的时间迟滞驱动语义物体学习

Timothy Schaumlöffel, Arthur Aubret, Gemma Roig, Jochen Triesch

机构 * Department of Computer Science, Goethe University Frankfurt（法兰克福歌德大学计算机科学系） ； The Hessian Center for Artificial Intelligence (hessian.AI)（黑森人工智能中心） ； Frankfurt Institute for Advanced Studies（法兰克福高级研究 institute） ； Xidian-FIAS international Joint Research Center（西电-法兰克福国际联合研究中心） 纠错

AI总结 研究通过模拟人类视觉经验，探讨中央视觉和时间迟滞学习在语义物体表示形成中的作用，发现利用时间迟滞能提升物体语义的编码能力。

Comments ICLR 2026

FlyPrompt: Brain-Inspired Random-Expanded Routing with Temporal-Ensemble Experts for General Continual Learning

FlyPrompt: 基于大脑启发的随机扩展路由与时间-集成专家的通用持续学习

Hongwei Yan, Guanglong Sun, Kanglei Zhou, Qian Li, Liyuan Wang, Yi Zhong

机构 * School of Life Sciences, IDG/McGovern Institute for Brain Research, Tsinghua University（生命科学学院，IDG/麦克格雷文脑科学研究院，清华大学） ； Department of Psychological and Cognitive Sciences, Tsinghua University（心理学与认知科学系，清华大学） ； School of Medicine, Shenzhen Campus of Sun Yat-Sen University（中山大学深圳校区医学学院） 纠错

AI总结 FlyPrompt通过分解通用持续学习为专家路由和专家能力提升两个子问题，提出了一种脑启发框架，利用随机扩展分析路由器和时间集成输出头，提升持续学习性能，实验显示在CIFAR-100、ImageNet-R和CUB-200上分别取得11.23%、12.43%和7.62%的提升。

Comments 34 pages. Accepted by ICLR 2026

Non-Clashing Teaching in Graphs: Algorithms, Complexity, and Bounds

图中的非冲突教学：算法、复杂性与界限

Sujoy Bhore, Liana Khazaliya, Fionn Mc Inerney

AI总结 本文研究图中闭邻域的非冲突教学，改进算法结果并推导更强的下界，同时获得更广泛图类的组合上界。

Comments An extended abstract of this paper will appear in the proceedings of ICLR 2026

GUIrilla: A Scalable Framework for Automated Desktop UI Exploration

GUIrilla：一个可扩展的自动化桌面UI探索框架

Sofiya Garkot, Maksym Shamrai, Ivan Synytsia, Mariya Hirna

机构 * MacPaw 纠错

AI总结 本文提出GUIrilla框架，用于生成大规模真实桌面交互数据，以提升交互系统基础模型的性能与泛化能力，特别针对macOS平台，提供可重用的MacApp Trees结构化表示。

Comments Accepted to the 3rd DATA-FM Workshop @ ICLR 2026

Information Gain-based Policy Optimization: A Simple and Effective Approach for Multi-Turn Search Agents

基于信息增益的策略优化：一种用于多轮搜索代理的简单而有效的方法

Guoqing Wang, Sunhao Dai, Guangze Ye, Zeyu Gan, Wei Yao, Yong Deng, Xiaofeng Wu, Zhenzhe Ying

机构 * Venus Team, Ant Group（蚂蚁集团 Venus 团队） ； Renmin University of China（中国人民大学） 纠错

AI总结 本文提出基于信息增益的策略优化框架，通过密集内在监督提升多轮代理训练效果，实验表明其在多轮场景中优于现有方法，准确性和数据效率更高。

Comments Accepted by ICLR 2026

BIRD-INTERACT: Re-imagining Text-to-SQL Evaluation for Large Language Models via Lens of Dynamic Interactions

BIRD-INTERACT：通过动态交互视角重新审视大型语言模型的文本到SQL评估

Nan Huo, Xiaohan Xu, Jinyang Li, Per Jacobsson, Shipei Lin, Bowen Qin, Binyuan Hui, Xiaolong Li, Ge Qu, Shuzheng Si, Linheng Han, Edward Alexander, Xintong Zhu, Rui Qin, Ruihan Yu, Yiyao Jin, Feige Zhou, Weihao Zhong, Yun Chen, Hongyu Liu, Chenhao Ma, Fatma Ozcan, Yannis Papakonstantinou, Reynold Cheng

机构 * The University of Hong Kong（香港大学） ； Google Cloud（谷歌云） ； The BIRD Team（BIRD团队） 纠错

AI总结 本文提出BIRD-INTERACT基准，通过动态交互环境和双重评估设置，解决多轮对话中模糊查询和执行错误等问题，验证有效交互对复杂SQL任务的重要性。

Comments ICLR 2026 Oral. Dataset and code available at https://bird-interact.github.io

Generalizable Heuristic Generation Through LLMs with Meta-Optimization

通过元优化实现通用启发式生成

Yiding Shi, Jianan Zhou, Wen Song, Jieyi Bi, Yaoxin Wu, Zhiguang Cao, Jie Zhang

机构 * Nanyang Technological University（南洋理工大学） ； Shandong University（山东大学） ； Singapore Management University（新加坡国立大学） ； Eindhoven University of Technology（埃因霍温理工大学） 纠错

AI总结 本文提出MoH框架，利用LLM进行元学习，自主构建多样化的启发式优化器，提升跨任务的泛化能力。

Comments Accepted at ICLR 2026

LatentQA: Teaching LLMs to Decode Activations Into Natural Language

LatentQA: 教授大语言模型将激活解码为自然语言

Alexander Pan, Lijie Chen, Jacob Steinhardt

机构 * UC Berkeley（加州大学伯克利分校） 纠错

AI总结 本文提出LatentQA任务，通过生成激活与自然语言描述的数据库，训练解码器LLM以回答关于激活的开放性问题，并验证其在阅读任务和行为控制中的优越性。

Comments ICLR 2026; project page at https://latentqa.github.io

Unveiling the Mechanism of Continuous Representation Full-Waveform Inversion: A Wave Based Neural Tangent Kernel Framework

揭示连续表示全波形反演的机制：一种基于波的神经切线核框架

Ruihua Chen, Yisi Luo, Bangyu Wu, Deyu Meng

机构 * School of Mathematics and Statistics, Xi’an Jiaotong University, Xi’an, Shaanxi, China（西安交通大学数学与统计学学院） ； Macao Institute of Systems Engineering, Macau University of Science and Technology, Taipa, Macao（澳门系统工程研究院，澳门科技大学，路环，澳门） 纠错

AI总结 本文提出基于波的神经切线核框架，揭示连续表示全波形反演的机制，通过分析神经切线核的特征，改进了全波形反演的鲁棒性和高频收敛性。

Comments Published as a conference paper at ICLR 2026 (poster)

Journal ref In Proceedings of the 14th International Conference on Learning Representations (ICLR 2026), Rio de Janeiro, Brazil

Graph Signal Processing Meets Mamba2: Adaptive Filter Bank via Delta Modulation

图信号处理与Mamba2交汇：通过Delta调制实现自适应滤波器组

Yehjin Shin, Seojin Kim, Noseong Park

机构 * KAIST（韩国科学技术院） 纠错

AI总结 本文提出HADES框架，将Mamba2重新解释为线图上的自适应滤波器组，通过结构化偏置实现全局低通和局部高通滤波，提升效率和可解释性。

Comments The Fourteenth International Conference on Learning Representations (ICLR 2026)

Mixture of Mini Experts: Overcoming the Linear Layer Bottleneck in Multiple Instance Learning

混合小专家：克服多实例学习中的线性层瓶颈

Daniel Shao, Joel Runevic, Richard J. Chen, Drew F. K. Williamson, Ahrong Kim, Andrew H. Song, Faisal Mahmood

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Harvard University（哈佛大学） ； Emory University（埃默里大学） ； MD Anderson Cancer Center（MD安德森癌症中心） 纠错

AI总结 本文提出MAMMOTH模块，通过低秩变换提升多实例学习中任务特定特征提取，实验显示其在130种配置中提升性能，平均提升3.8%。

Comments Published in ICLR 2026 (37 pages, 16 figures)

Data Curation for Machine Learning Interatomic Potentials by Determinantal Point Processes

通过确定性点过程数据筛选机器学习互原子势

Joanna Zou, Youssef Marzouk

机构 * Computational Science & Engineering Massachusetts Institute of Technology（计算科学与工程 马萨诸塞理工学院） 纠错

AI总结 本文提出利用确定性点过程筛选原子构型子集，以生成高质量训练集，提升分子系统机器学习表示的准确性与鲁棒性。

Comments Original publication at https://openreview.net/forum?id=PKGP7tg65A

Journal ref ICLR AI4MAT Workshop (2025)

MIND: Multi-agent inference for negotiation dialogue in travel planning

MIND：用于旅行规划谈判对话的多智能体推理

Hunmin Do, Taejun Yoon, Kiyong Jung

机构 * School of Mechanical Engineering, Sungkyunkwan University（成均馆大学机械工程学院） ； Department of Applied Artificial Intelligence, Sungkyunkwan University（成均馆大学应用人工智能系） ； Department of Software, Sungkyunkwan University（成均馆大学软件系） 纠错

AI总结 MIND通过理论思维框架模拟旅行者异质偏好下的共识建立，通过战略评估阶段以90.2%准确率推断对手意愿，实验显示其在高意愿命中率和辩论命中率上分别提升20.5%和30.7%。

Comments Accepted at ICLR 2026 Workshop (HCAIR)

Towards Multimodal Time Series Anomaly Detection with Semantic Alignment and Condensed Interaction

迈向多模态时间序列异常检测的语义对齐与压缩交互

Shiyan Hu, Jianxin Jin, Yang Shu, Peng Chen, Bin Yang, Chenjuan Guo

机构 * East China Normal University（华东师范大学） 纠错

AI总结 本文提出MindTS模型，通过语义对齐和压缩交互解决多模态时间序列异常检测中的关键问题，实验表明其性能优于现有方法。

Comments ICLR 2026

What Do World Models Learn in RL? Probing Latent Representations in Learned Environment Simulators

世界模型在强化学习中学习了什么？在学习的环境模拟器中探测潜在表示

Xinyu Zhang

机构 * Anyscale 纠错

AI总结 研究通过线性与非线性探针、因果干预和注意力分析，探讨了IRIS和DIAMOND两种架构的世界模型对游戏状态的内部表示，发现其具有近似线性的结构化表示。

Comments 5 pages, 3 figures, 1 table

Journal ref ICLR 2026 the 2nd Workshop on World Models: Understanding, Modelling and Scaling