ICLR

Human-LLM Collaborative Feature Engineering for Tabular Data

人类与大语言模型协作的表格数据特征工程

Zhuoyan Li, Aditya Bansal, Jinzhao Li, Shishuang He, Zhuoran Lu, Mutian Zhang, Qin Liu, Yiwei Yang, Swati Jain, Ming Yin, Yunyao Li

机构 * Purdue University（普渡大学） ； Adobe（Adobe公司） ； UIUC（伊利诺伊大学香槟分校） ； University of Washington（华盛顿大学） ； UC Davis（加州大学戴维斯分校） 纠错

AI总结 本文提出人类与大语言模型协作的表格数据特征工程框架，通过解耦操作提出与选择过程，结合人类专家反馈提升特征工程效率和效果。

Comments ICLR 2026

Everything in Its Place: Benchmarking Spatial Intelligence of Text-to-Image Models

万物皆有其位：文本到图像模型空间智能基准测试

Zengbin Wang, Xuecai Hu, Yong Wang, Feng Xiong, Man Zhang, Xiangxiang Chu

机构 * AMAP, Alibaba Group（AMAP、阿里巴巴集团） 纠错

AI总结 本文提出SpatialGenEval基准测试，通过信息密集的提示评估文本到图像模型的空间智能，揭示高阶空间推理的瓶颈，并构建SpatialT2I数据集提升模型性能。

Comments Accepted by ICLR 2026, URL: https://github.com/AMAP-ML/SpatialGenEval

LogicReward: Incentivizing LLM Reasoning via Step-Wise Logical Supervision

LogicReward: 通过逐步逻辑监督激励大语言模型推理

Jundong Xu, Hao Fei, Huichi Zhou, Xin Quan, Qijun Huang, Shengqiong Wu, William Yang Wang, Mong-Li Lee, Wynne Hsu

机构 * National University of Singapore（新加坡国立大学） ； University College London（伦敦大学学院） ； University of Manchester（曼彻斯特大学） ； University of Melbourne（墨尔本大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

AI总结 LogicReward通过逐步逻辑监督提升大语言模型的推理能力，有效增强推理可信度和泛化能力，实验显示其在自然语言推理和逻辑推理任务中优于GPT-4o和o4-mini。

Comments ICLR 2026

LLM2Fx-Tools: Tool Calling For Music Post-Production

LLM2Fx-Tools: 音乐后期制作中的工具调用

Seungheon Doh, Junghyun Koo, Marco A. Martínez-Ramírez, Woosung Choi, Wei-Hsiang Liao, Qiyu Wu, Juhan Nam, Yuki Mitsufuji

机构 * KAIST（韩国科学技术院） ； Sony AI（索尼人工智能） ； Sony Group Corporation（索尼集团） 纠错

AI总结 LLM2Fx-Tools通过LLM实现音频效果模块的工具调用，生成可执行的音频效果序列，提升音乐后期制作的可解释性和可控性。

Comments ICLR 2026

JointDiff: Bridging Continuous and Discrete in Multi-Agent Trajectory Generation

JointDiff: 在多智能体轨迹生成中弥合连续与离散

Guillem Capellera, Luis Ferraz, Antonio Rubio, Alexandre Alahi, Antonio Agudo

机构 * Kognia Sports Intelligence（Kognia体育智能） ； Visual Intelligence for Transportation, EPFL（交通视觉智能，EPFL） ； Institut de Robòtica i Informàtica Industrial, CSIC-UPC（机器人与信息工业研究所，CSIC-UPC） 纠错

AI总结 JointDiff通过联合生成连续和离散事件，提升多智能体轨迹生成的可控性和真实性。

Comments Accepted at ICLR 2026

SFT Doesn't Always Hurt General Capabilities: Revisiting Domain-Specific Fine-Tuning in LLMs

SFT并不总是损害通用能力：重新审视LLM中的领域特定微调

Jiacheng Lin, Zhongruo Wang, Kun Qian, Tian Wang, Arvind Srinivasan, Hansi Zeng, Ruochen Jiao, Xie Zhou, Jiri Gesi, Dakuo Wang, Yufan Guo, Kai Zhong, Weiqi Zhang, Sujay Sanghavi, Changyou Chen, Hyokun Yun, Lihong Li

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University at Buffalo（布法罗大学） ； Northeastern University（东北大学） 纠错

AI总结 本文研究了SFT对LLM通用能力的影响，发现较小学习率可缓解性能下降，提出TALR方法在平衡领域特定性能与通用能力方面表现优异。

Comments Accepted by ICLR 2026

Stackelberg Coupling of Online Representation Learning and Reinforcement Learning

Stackelberg耦合在线表示学习与强化学习

Fernando Martinez, Tao Li, Yingdong Lu, Juntao Chen

机构 * Fordham University（福坦大学） ； City University of Hong Kong（香港城市大学） ； IBM Research（IBM研究院） 纠错

AI总结 SCORER通过Stackelberg博弈机制，将表示学习与Q学习分层优化，减少价值估计偏差并提升稳定性的强化学习框架。

Comments The Fourteenth International Conference on Learning Representations (ICLR 2026)

There Was Never a Bottleneck in Concept Bottleneck Models

概念瓶颈模型中从未存在瓶颈

Antonio Almudévar, José Miguel Hernández-Lobato, Alfonso Ortega

机构 * ViVoLab, I3A University of Zaragoza（ViVoLab，I3A 萨拉戈萨大学） 纠错

AI总结 本文提出最小概念瓶颈模型，通过信息瓶颈目标提升表示的可解释性并支持概念层面的干预。

Comments Accepted to ICLR 2026

Towards Anomaly-Aware Pre-Training and Fine-Tuning for Graph Anomaly Detection

面向图异常检测的异常感知预训练与微调

Yunhui Liu, Jiashun Cheng, Yiqing Lin, Qizhuo Xie, Jia Li, Fugee Tsung, Hongzhi Yin, Tao Zheng, Jianhua Zhao, Tieke He

机构 * State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； HKUST(GZ)（香港科技大学（广州）） ； Tsinghua University（清华大学） ； The University of Queensland（昆士兰大学） 纠错

AI总结 本文提出APF框架，通过预训练和微调提升图异常检测的异常感知能力，结合谱多项式滤波器和门控融合机制，实现更有效的异常识别。

Comments Accepted by ICLR 2026

RAS: Retrieval-And-Structuring for Knowledge-Intensive LLM Generation

RAS：基于检索与构建的知识密集型大语言模型生成

Pengcheng Jiang, Lang Cao, Ruike Zhu, Minhao Jiang, Yunyi Zhang, Jiaming Shen, Jimeng Sun, Jiawei Han

机构 * Department of Computer Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校计算机科学系） 纠错

AI总结 RAS通过动态构建问题特定知识图谱，提升大语言模型在知识密集型任务中的推理准确性和鲁棒性。

Comments ICLR 2026

The Ramanujan Library -- Automated Discovery on the Hypergraph of Integer Relations

拉马努金图书馆——整数关系超图上的自动发现

Itay Beit-Halachmi, Ido Kaminer

机构 * The Ramanujan Machine Team, Faculty of Electrical and Computer Engineering Technion - Israel Institute of Technology（拉马努金机器团队，电气与计算机工程学院，技术离子理工学院） 纠错

AI总结 本文提出一个基于超图的数学常数图书馆，利用PSLQ算法自动发现常数间的新关系，包括对π和e关系的扩展。

Comments 20 pages, 7 figures

Journal ref ICLR 2025 Conference

Scaling Offline Model-Based RL via Jointly-Optimized World-Action Model Pretraining

通过联合优化的世界-动作模型扩展离线模型基于的强化学习

Jie Cheng, Ruixi Qiao, Yingwei Ma, Binhua Li, Gang Xiong, Qinghai Miao, Yongbin Li, Yisheng Lv

机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（多模态人工智能系统国家重点实验室，自动化研究所，中国科学院） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Alibaba Group（阿里巴巴集团） 纠错

AI总结 JOWA通过联合优化的世界-动作模型扩展离线RL，实现高效泛化和高性能

Comments Accepted by ICLR 2025

When LLMs Play the Telephone Game: Cultural Attractors as Conceptual Tools to Evaluate LLMs in Multi-turn Settings

当LLMs玩电话游戏：文化吸引子作为评估多轮设置中LLM的观念工具

Jérémy Perez, Grgur Kovač, Corentin Léger, Cédric Colas, Gaia Molinaro, Maxime Derex, Pierre-Yves Oudeyer, Clément Moulin-Frier

机构 * Inria（法国国家信息与自动化研究所） ； Université de Bordeaux（波尔多大学） ； MIT（麻省理工学院） ； Computational Cognitive Science Lab（计算认知科学实验室） ； University of California, Berkeley（加州大学伯克利分校） ； Institute for Advanced Study in Toulouse（图卢兹高级研究学院） 纠错

AI总结 本文通过电话游戏实验揭示LLM多轮交互中的信息失真与吸引子现象，探讨初始文本、指令等对吸引子效应的影响。

Comments Code available at https://github.com/jeremyperez2/TelephoneGameLLM. Companion website with a Data Explorer tool at https://sites.google.com/view/telephone-game-llm . This paper was published at the 2025 International Conference on Learning Representations (ICLR2025) https://iclr.cc/virtual/2025/poster/28880

Scaling Laws for Downstream Task Performance of Large Language Models

大语言模型下游任务性能的扩展定律

Berivan Isik, Natalia Ponomareva, Hussein Hazimeh, Dimitris Paparas, Sergei Vassilvitskii, Sanmi Koyejo

机构 * Google Research（谷歌研究） ； OpenAI（开放人工智能） ； Stanford University（斯坦福大学） 纠错

AI总结 本研究探讨了预训练数据规模和分布对齐对大语言模型下游任务性能的影响，揭示了扩展定律在迁移学习中的应用及翻译质量的预测方法。

Comments Published at the International Conference on Learning Representations (ICLR) 2025, with title: "Scaling Laws for Downstream Task Performance in Machine Translation"

EVEREST: An Evidential, Tail-Aware Transformer for Rare-Event Time-Series Forecasting

EVEREST：一种证据感知、尾部意识的Transformer用于稀有事件时间序列预测

Antanas Zilinskas, Robert N. Shorten, Jakub Marecek

机构 * Imperial College London（伦敦帝国学院） ； Czech Technical University in Prague（布拉格捷克技术大学） 纠错

AI总结 EVEREST通过结合证据头和极值头，实现稀有事件时间序列预测的高精度与可解释性，适用于高风险领域。

Comments Updated author affiliation. No changes to technical content

Journal ref 14th International Conference on Learning Representations, 2026

Neural Theorem Proving for Verification Conditions: A Real-World Benchmark

为验证条件进行神经定理证明：一个现实世界的基准测试

Qiyuan Xu, Xiaokun Luan, Renxi Wang, Joshua Ong Jun Leang, Peixin Wang, Haonan Li, Wenda Li, Conrad Watt

机构 * Nanyang Technological University（南洋理工大学） ； Peking University（北京大学） ； MBZUAI ； Imperial College London（帝国理工学院） ； East China Normal University（华东师范大学） ； University of Edinburgh（爱丁堡大学） 纠错

AI总结 本研究提出NTP4VC，首个现实世界多语言基准测试，评估LLMs在自动验证条件证明中的表现，揭示程序验证中的挑战与未来研究方向。

Comments Accepted in ICLR'26

Splat Feature Solver

基于稀疏线性逆问题的特征提升求解器

Butian Xiong, Rong Liu, Kenneth Xu, Meida Chen, Andrew Feng

机构 * University of Southern California, Institute for Creative Technologies（南加州大学，创意技术研究所） ； University of Michigan, Ann Arbor（密歇根大学安娜堡分校） 纠错

AI总结 Splat Feature Solver通过统一的稀疏线性逆问题框架，高效解决3D场景中特征提升问题，实现高质量提升特征生成，优于现有基线方法。

Comments ICLR 2026 Accepted

HeuriGym: An Agentic Benchmark for LLM-Crafted Heuristics in Combinatorial Optimization

HeuriGym: 一个用于评估LLM生成启发式算法的代理基准

Hongzheng Chen, Yingheng Wang, Yaohui Cai, Hins Hu, Jiajie Li, Shirley Huang, Chenhui Deng, Rongjian Liang, Shufeng Kong, Haoxing Ren, Samitha Samaranayake, Carla P. Gomes, Zhiru Zhang

AI总结 HeuriGym是一个用于评估LLM生成启发式算法的代理基准，通过代码执行反馈和迭代改进，揭示了LLM在组合优化中的局限性。

Comments Accepted to ICLR'26

Structurally Human, Semantically Biased: Detecting LLM-Generated References with Embeddings and GNNs

结构上的人类，语义上偏见：利用嵌入和图神经网络检测LLM生成的参考文献

Melika Mobini, Vincent Holst, Floriano Tori, Andres Algaba, Vincent Ginis

机构 * Vrije Universiteit Brussel（布鲁塞尔自由大学） ； SEAS, Harvard University（哈佛大学工程学院） 纠错

AI总结 本文通过嵌入和图神经网络检测LLM生成的参考文献，发现其拓扑结构接近人类，但语义特征可被识别。

Comments 34 pages, 20 figures. Accepted at ICLR 2026

Is Pure Exploitation Sufficient in Exogenous MDPs with Linear Function Approximation?

在具有线性函数逼近的外生MDP中纯利用是否足够？

Hao Liang, Jiayu Cheng, Sean R. Sinclair, Yali Du

机构 * Department of Informatics, King’s College London（伦敦国王学院信息学院） ； Independent Researcher（独立研究者） ； Department of Industrial Engineering and Management Sciences, Northwestern University（西北大学工业工程与管理科学系） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

AI总结 在具有线性函数逼近的外生MDP中，作者提出纯利用学习算法，证明无需探索即可获得有效的 regret 界，且在不同场景下均优于基准方法。

Comments Accepted to ICLR 2026

ShieldedCode: Learning Robust Representations for Virtual Machine Protected Code

ShieldedCode: 学习具有保护意识的虚拟机保护代码表示

Mingqiao Mo, Yunlong Tan, Hao Zhang, Heng Zhang, Yangfan He

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； South China Normal University（华南师范大学） ； University of Minnesota Twin Cities（明尼苏达大学双城分校） 纠错

AI总结 ShieldedCode通过学习鲁棒表示提升虚拟机保护代码的生成与分析能力，实现更高效的软件保护。

Comments Accepted to ICLR 2026

Harder Is Better: Boosting Mathematical Reasoning via Difficulty-Aware GRPO and Multi-Aspect Question Reformulation

更难更好：通过难度感知的GRPO和多方面问题重述提升数学推理

Yanqi Dai, Yuxiang Ji, Xiao Zhang, Yong Wang, Xiangxiang Chu, Zhiwu Lu

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； AMAP, Alibaba Group（阿里集团AMAP） ； Xiamen University（厦门大学） ； Dalian University of Technology（大连理工大学） 纠错

AI总结 MathForge通过难度感知的GRPO和多方面问题重述提升数学推理能力，显著优于现有方法。

Comments Accepted for ICLR 2026

Context Tokens are Anchors: Understanding the Repetition Curse in dMLLMs from an Information Flow Perspective

上下文标记是锚点：从信息流的角度理解dMLLMs中的重复诅咒

Qiyan Zhao, Xiaofeng Zhang, Shuochen Chang, Qianyu Chen, Xiaosong Yuan, Xuhang Chen, Luoqi Liu, Jiajun Zhang, Xu-Yao Zhang, Da-Han Wang

机构 * SJTU（上海交通大学） ； CASIA（中国科学院自动化研究所） ； NTU（国立台湾大学） ； Meitu (China) Limited（美图公司） ； XMUT（新疆大学） 纠错

AI总结 CoTA通过增强上下文标记注意力和引入惩罚项缓解dMLLMs中的重复问题，提升解码性能。

Comments Accepted in ICLR 2026

Truthfulness Despite Weak Supervision: Evaluating and Training LLMs Using Peer Prediction

在弱监督下保持真实性：利用同伴预测评估和训练大语言模型

Tianyi Alex Qiu, Micah Carroll, Cameron Allen

机构 * Center for Human-Compatible Artificial Intelligence（兼容人类的人工智能中心） ； University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 通过同伴预测方法，利用弱监督提升大语言模型的真实性，有效对抗欺骗并增强评估可靠性。

Comments ICLR 2026

The Forecast After the Forecast: A Post-Processing Shift in Time Series

预测之后的预测：时间序列中的后处理转变

Daojun Liang, Qi Li, Yinglong Wang, Jing Chen, Hu Zhang, Xiaoxiao Cui, Qizheng Wang, Shuo Li

机构 * Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputing Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences)（计算机网络与信息安全管理重点实验室，教育部，山东计算机科学中心（济南国家超算中心），齐鲁工业大学（山东省科学院）） ； Shandong Provincial Key Laboratory of Computing Power Internet and Service Computing, Shandong Fundamental Research Center for Computer Science（山东省计算互联网与服务计算重点实验室，山东省计算机科学基础研究中心） ； Joint SDU-NTU Centre for Artificial Intelligence Research (C-FAIR), Shandong University（SDU-NTU联合人工智能研究中心（C-FAIR），山东大学） ； Department of Computer and Data Sciences, Case Western Reserve University（计算机与数据科学系，凯斯西储大学） ； Department of Biomedical Engineering, Case Western Reserve University（生物医学工程系，凯斯西储大学） 纠错

AI总结 本文提出δ-适配器，通过后处理技术提升时间序列预测的准确性和不确定性，无需重新训练或修改模型。

Comments 30 Pages

Journal ref Published at ICLR 2026

Hallucination Begins Where Saliency Drops

幻觉始于显著性下降

Xiaofeng Zhang, Yuanchao Zhu, Chaochen Gu, Xiaosong Yuan, Qiyan Zhao, Jiawei Cao, Feilong Tang, Sinan Fan, Yaomin Shen, Chen Shen, Hao Tang

AI总结 本文提出LVLMs-Saliency框架，通过融合注意力权重与输入梯度，利用显著性引导拒绝采样和局部连贯性强化机制，有效减少幻觉并提升模型可靠性。

Comments Accepted in ICLR 2026

Real-Time Robot Execution with Masked Action Chunking

实时机器人执行与遮蔽动作分块

Haoxuan Wang, Gengyu Zhang, Yan Yan, Yuzhang Shang, Ramana Rao Kompella, Gaowen Liu

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； University of Central Florida（中央佛罗里达大学） ； Cisco Research（思科研究） 纠错

AI总结 REMAC通过遮蔽动作分块学习修正调整，提升机器人在异步推理中的执行可靠性与鲁棒性。

Comments ICLR 2026. Project page at https://remac-async.github.io/

TwinFlow: Realizing One-step Generation on Large Models with Self-adversarial Flows

TwinFlow: 在大模型上实现一步生成的自对抗流

Zhenglin Cheng, Peng Sun, Jianguo Li, Tao Lin

机构 * Inclusion AI ； Shanghai Innovation Institute（上海创新研究院） ； Westlake University（西湖大学） ； Zhejiang University（浙江大学） 纠错

AI总结 TwinFlow 提出了一种无需预训练教师模型和标准对抗网络的一步生成框架，实现了在大模型上高效生成，提升了推理效率并降低了计算成本。

Comments arxiv v1, accepted to ICLR 2026

First is Not Really Better Than Last: Evaluating Layer Choice and Aggregation Strategies in Language Model Data Influence Estimation

首先并非真的优于最后：评估语言模型数据影响估计中的层数选择和聚合策略

Dmytro Vitel, Anshuman Chhabra

机构 * Bellini College of Artificial Intelligence, Cybersecurity, and Computing（人工智能、网络安全与计算学院） 纠错

AI总结 本研究通过理论和实证分析，证明中间注意力层比第一层更有效，提出新的噪声检测率度量标准，挑战传统影响估计方法。

Comments Accepted to ICLR 2026

Mixing Importance with Diversity: Joint Optimization for KV Cache Compression in Large Vision-Language Models

融合重要性与多样性：KV缓存压缩的联合优化

Xuyang Liu, Xiyan Gui, Yuchao Zhang, Linfeng Zhang

机构 * EPIC Lab, Shanghai Jiao Tong University（上海交通大学） ； Sichuan University（四川大学） ； Huazhong University of Science and Technology（华中科技大学） 纠错

AI总结 MixKV通过融合重要性与多样性，优化KV缓存压缩，提升多模态模型的存储效率与推理性能。

Comments Accepted by ICLR 2026. Our code is available at https://github.com/xuyang-liu16/MixKV