ICML

Offline Preference Optimization for Rectified Flow with Noise-Tracked Pairs

离线偏好优化用于具有噪声跟踪配对的校正流

Yunhong Lu, Qichao Wang, Hengyuan Cao, Xiaoyin Xu, Min Zhang

机构 * Zhejiang University（浙江大学） ； Shanghai Institute for Advanced Study-Zhejiang University（上海先进研究院-浙江大学） ； Shanghai Institute for Mathematics and Interdisciplinary Sciences（上海数学与交叉科学研究院） 纠错

AI总结 本文提出PNAPO框架，通过保留生成胜败图像的先验噪声，改进校正流的偏好优化，提升稳定性和样本效率。

Comments Accepted by ICML 2026

Teaching Molecular Dynamics to a Non-Autoregressive Ionic Transport Predictor

将分子动力学教给一个非自回归的离子输运预测器

Jiyeon Kim, Byungju Lee, Won-Yong Shin

机构 * School of Mathematics and Computing (Computational Science and Engineering)（数学与计算学院（计算科学与工程）） ； Yonsei University（延世大学） ； Korea Institute of Science and Technology（韩国科学技术院） ； Nanoscience and Technology（纳米科学与技术） 纠错

AI总结 本文提出一种非自回归学习框架，通过辅助模态学习处理原子轨迹，实现快速准确的离子输运预测，比自回归模型快200倍且减少误差。

Comments International Conference on Machine Learning (ICML 2026) (to appear) (Please cite our conference version.)

Semi-Supervised Neural Super-Resolution for Mesh-Based Simulations

基于网格的模拟的半监督神经超分辨率

Jiyeon Kim, Youngjoon Hong, Won-Yong Shin

机构 * School of Mathematics and Computing (Computational Science and Engineering), Yonsei University（延世大学数学与计算学院（计算科学与工程）） ； Department of Mathematical Sciences, Seoul National University（首尔国立大学数学科学系） 纠错

AI总结 本文提出SuperMeshNet，通过半监督方法结合消息传递神经网络，高效利用少量配对低分辨率-高分辨率数据和大量未配对低分辨率数据，实现网格模拟的高精度超分辨率。

Comments International Conference on Machine Learning (ICML 2026) (to appear) (Please cite our conference version.)

Injecting Distributional Awareness into MLLMs via Reinforcement Learning for Deep Imbalanced Regression

通过强化学习为深度不平衡回归注入分布意识

Yao Du, Shanshan Song, Xiaomeng Li

机构 * The Hong Kong University of Science（香港科学与技术大学） 纠错

AI总结 本文提出基于组相对策略优化的分布感知强化学习框架，通过一致性相关系数奖励实现跨样本关系监督，提升长尾回归任务的分布对齐能力，在中等和少样本场景下表现优异。

Comments Accepted by ICML 2026

Recovering Hidden Reward in Diffusion-Based Policies

从扩散策略中恢复隐藏奖励

Yanbiao Ji, Qiuchang Li, Yuting Hu, Shaokai Wu, Wenyuan Xie, Guodong Zhang, Qicheng He, Deyi Ji, Yue Ding, Hongtao Lu

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 本文提出EnergyFlow框架，通过参数化标量能量函数的梯度作为去噪场，统一生成动作建模与逆强化学习，证明在最大熵最优性下，去噪分数匹配学习的分数函数能恢复专家的软Q函数梯度，无需对抗训练即可提取奖励。

Comments Accepted by ICML 2026

Pair2Scene: Learning Local Object Relations for Procedural Scene Generation

Pair2Scene：学习局部物体关系以生成程序化场景

Xingjian Ran, Shujie Zhang, Weipeng Zhong, Li Luo, Bo Dai

机构 * The University of Hong Kong（香港大学） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

AI总结 本文提出Pair2Scene框架，通过学习局部规则与场景层次和物理算法，生成高保真的3D室内场景，优于现有方法。

Comments ICML 2026

Revis: Sparse Latent Steering to Mitigate Object Hallucination in Large Vision-Language Models

Revis: 通过稀疏潜在引导缓解大视觉-语言模型中的物体幻觉

Jialin Wu, Wei Shi, Han Shen, Peigui Qi, Kunsheng Tang, Zhicong Huang, Binghao Wang, Zhou Yang

机构 * Ant Group（蚂蚁集团） 纠错

AI总结 Revis通过潜在空间几何学提取纯视觉信息向量，采用校准策略在抑制发生深度进行稀疏干预，有效降低物体幻觉率19%，同时保持推理能力。

Comments Accepted by ICML 2026

Optimal Transport-Guided Adversarial Attacks on Graph Neural Network-Based Bot Detection

基于最优传输的图神经网络 bot 检测对抗攻击

Kunal Mukherjee, Zulfikar Alom, Tran Gia Bao Ngo, Cuneyt Gurcan Akcora, Murat Kantarcioglu

机构 * Department of Computer Science, Virginia Tech, Virginia, USA（弗吉尼亚理工大学计算机科学系） ； Department of Computer Science, Manitoba, Canada（曼尼托巴大学计算机科学系） ； Department of Computer Science, University of Toledo, Ohio, USA（托莱多大学计算机科学系） ； AI Initiative, University of Central Florida, Florida, USA（佛罗里达大学人工智能倡议） 纠错

AI总结 本文提出BOCLOAK，通过边编辑和节点注入对抗攻击评估图神经网络在现实约束下的鲁棒性，实现更高攻击成功率和更低资源消耗。

Comments Accepted to Proceedings of the Forty-Third International Conference on Machine Learning (ICML) 2026

Journal ref Proceedings of the Forty-Third International Conference on Machine Learning 2026

On the Convergence Rate of LoRA Gradient Descent

LoRA梯度下降法的收敛速度分析

Siqiao Mu, Diego Klabjan

机构 * Department of Engineering Sciences and Applied Mathematics, Northwestern University, Evanston, IL, United States（工程科学与应用数学系，西北大学，埃文斯顿，伊利诺伊州，美国） ； Department of Industrial Engineering（工业工程系） ； Applied Mathematics, Northwestern University, Evanston, IL, United States（应用数学，西北大学，埃文斯顿，伊利诺伊州，美国） 纠错

AI总结 本文首次对原始LoRA梯度下降算法进行非渐近收敛性分析，证明其收敛速度为O(1/log T)，并验证了理论结果。

Comments ICML 2026

LILO: Bayesian Optimization with Natural Language Feedback

LILO：带有自然语言反馈的贝叶斯优化

Katarzyna Kobalczyk, Zhiyuan Jerry Lin, Benjamin Letham, Zhuokai Zhao, Maximilian Balandat, Eytan Bakshy

机构 * Meta ； DAMTP, University of Cambridge（剑桥大学DAMTP） 纠错

AI总结 LILO通过将大语言模型转化为结构化偏好信号，提升贝叶斯优化在复杂主观偏好下的适应性与效率，实验证明其在反馈受限场景中表现优异。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Preference Learning for AI Alignment: a Causal Perspective

偏好学习用于AI对齐：一种因果视角

Katarzyna Kobalczyk, Mihaela van der Schaar

机构 * Department of Applied Mathematics and Theoretical Physics（应用数学与理论物理系） 纠错

AI总结 本文从因果视角出发，探讨了基于偏好数据的奖励建模在对齐大语言模型与人类价值观中的关键作用，提出因果工具箱以解决因果误识别、偏好异质性和用户特定因素的混淆问题，并提出未来研究的方向。

Journal ref Proceedings of the 42nd International Conference on Machine Learning, Vancouver, Canada. PMLR 267, 2025

LLM-Augmented Chemical Synthesis and Design Decision Programs

基于大语言模型的化学合成与设计决策程序

Haorui Wang, Jeff Guo, Lingkai Kong, Rampi Ramprasad, Philippe Schwaller, Yuanqi Du, Chao Zhang

机构 * École Polytechnique Fédérale de Lausanne (EPFL)（瑞士联邦理工学院洛桑校区） ； National Centre of Competence in Research (NCCR) Catalysis（催化领域竞争力研究国立中心） ； Harvard University（哈佛大学） ； Cornell University（康奈尔大学） 纠错

AI总结 本文提出利用大语言模型增强的 retrosynthesis 规划方法，通过高效编码反应路径和新的路线搜索策略，提升多步合成规划与可合成分子设计能力。

Comments ICML 2025

SMIXAE: Towards Unsupervised Manifold Discovery in Language Models

SMIXAE：朝向语言模型中无监督流形发现

Collin Francel

机构 * Department of Arts and Sciences, University of Alabama, Tuscaloosa, AL, United States（艺术与科学系，阿拉巴马大学，塔斯基吉，AL，美国） 纠错

AI总结 SMIXAE通过引入稀疏混合自编码器架构，解决传统自编码器无法直接建模多维特征的问题，实现在Gemma 2模型中有效学习和发现流形结构。

Comments 20 pages, 10 figures, 11 tables. Submitted to Mechanistic Interpretability Workshop, ICML 2026

Predicting Large Model Test Losses with a Noisy Quadratic System

通过噪声二次系统预测大模型测试损失

Chuning Li, Chris J. Maddison

机构 * Vector Institute（向量研究所） ； University of Toronto（多伦多大学） 纠错

AI总结 本文提出一种预测大模型预训练损失的模型，基于模型大小、批量大小和权重更新次数。该模型在处理变化的批量大小方面具有优势，并在预测扩展计算预算下的损失时优于Chinchilla模型。

Comments ICML 2026

Internalizing Safety Understanding in Large Reasoning Models via Verification

通过验证内部化安全理解以提升大推理模型

Yi Zhang, Yuxin Chen, Leheng Sheng, Dongcheng Zhang, Chaochao Lu, Xiang Wang, An Zhang

机构 * National University of Singapore（国立新加坡大学） ； University of Science and Technology of China（中国科学技术大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

AI总结 本文提出Safety Internal框架，通过训练模型在安全验证任务中自我批判生成答案，提升模型对自身输出安全性的判断能力，增强对抗性突破的鲁棒性。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

FRACTAL: SSM with Fractional Recurrent Architecture for Computational Temporal Analysis of Long Sequences

FRACTAL：基于分数递归架构的序列模型用于长序列计算时序分析

Mengqi Li, Wensheng Lin, Jinshuai Yang, Lixin Li

机构 * School of Electronics and Information（电子信息学院） ； Northwestern Polytechnical University（西北工业大学） ； DecoreX Intelligent Technologies Co., Ltd.（DecoreX智能科技有限公司） 纠错

AI总结 本文提出FRACTAL架构，通过整合分数测度理论改进递归记忆更新，解决长序列中保留无限历史与检测突变短时变化的平衡问题，实现在Long Range Arena基准上取得87.11%的平均得分。

Comments 19 pages (10 pages main text, 9 pages appendix), 3 figures. Accepted by ICML 2026

LightAVSeg: Lightweight Audio-Visual Segmentation

LightAVSeg: 轻量级音频视觉分割

Qing Zhong, Guodong Ding, Lingqiao Liu, Zaiwen Feng, Lin Yuanbo Wu, Angela Yao

机构 * College of Informatics, Huazhong Agricultural University, Wuhan, China（华中农业大学信息学院） ； School of Computing, National University of Singapore, Singapore（新加坡国立大学计算机学院） ； School of Computer Science, Adelaide University, Australia（阿德莱德大学计算机科学学院） ； School of Engineering, University of Warwick, Coventry, UK（沃里克大学工程学院） ； Zhejiang Yuexiu University, Shaoxing, China（浙江越秀大学） 纠错

AI总结 本文提出LightAVSeg，通过解耦设计替代重注意力机制，实现线性交互成本，提升效率，实验显示其在MS3基准上达到50.4 mIoU，参数量仅为AVSegFormer的1/7。

Comments 15 pages, 8 figures, 6 tables, Accepted to ICML 2026

Causal Dimensionality of Transformer Representations: Measurement, Scaling, and Layer Structure

Transformer表示的因果维度：测量、扩展与层数结构

Nilesh Sarkar, Dawar Jyoti Deka

机构 * Erdős AI Lab（埃德罗斯人工智能实验室） 纠错

AI总结 研究通过测量Transformer残差流的因果维度，揭示了表示能力与因果能力的分离现象，证明了因果维度与模型规模无关，且在不同层数间保持恒定。

Comments 9 pages, 17 figures, 14 tables (excluding references and appendices). Companion short paper under review at the ICML 2026 Mechanistic Interpretability Workshop. Code: https://anonymous.4open.science/r/NeurIPS-Causal-Capacity-in-SAEs-7D20/

SynerMedGen: Synergizing Medical Multimodal Understanding with Generation via Task Alignment

SynerMedGen：通过任务对齐协同医疗多模态理解与生成

Weiren Zhao, Yi Dong, Cheng Chen

机构 * The University of Hong Kong, Hong Kong, China（香港大学） 纠错

AI总结 SynerMedGen通过任务对齐实现医疗多模态理解与生成的协同，提出生成对齐理解任务和两阶段训练策略，实现零样本性能和跨数据集泛化，释放大规模数据集支持进一步研究。

Comments Accepted by ICML 2026

Structure-Centric Graph Foundation Model via Geometric Bases

基于几何基的结构导向图基础模型

Xiaodong He, Haolan He, Ruiyi Fang, Ming Sun, Zhao Kang

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Western University（西方大学） 纠错

AI总结 本文提出SCGFM，通过几何基构建共享结构坐标系，解决图结构异质性和节点特征不兼容问题，实现跨领域泛化。

Comments Accepted by ICML 2026

Privacy-Aware Video Anomaly Detection through Orthogonal Subspace Projection

通过正交子空间投影实现隐私感知的视频异常检测

Lei Wang, Wenxiang Diao, Andrew Busch, Jun Zhou, Yongsheng Gao

机构 * School of Engineering and Built Environment, Griffith University（格里菲斯大学工程与环境学院） ； School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院） ； School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院） 纠错

AI总结 本文提出正交投影层（OPL）和引导OPL（G-OPL），通过去除无关变化提升异常检测相关特征，同时抑制面部属性以保护隐私，实验表明隐私约束能减少敏感信息并保持检测精度。

Comments Accepted as a Spotlight paper at the Forty-Third International Conference on Machine Learning (ICML 2026)

The Propagation Field: A Geometric Substrate Theory of Deep Learning

传播场：深度学习的几何子基理论

Xingrui Gu

机构 * EECS, University of California, Berkeley, Berkeley, CA（加州大学伯克利分校电子工程与计算机科学系） 纠错

AI总结 本文提出传播场理论，通过神经网络内部传播的几何结构改进深度学习性能，引入可观察的场度量并验证其在连续学习中的有效性。

Comments Technical notes on exploring the nature of deep learning propagation, Under review by the ICML 4th Workshop on High-dimensional Learning Dynamics (HiLD) 2026

Journal ref ICML 2026

A geometric relation of the error introduced by sampling a language model's output distribution to its internal state

语言模型输出分布采样引入的误差与内部状态的几何关系

Albert F. Modenbach

机构 * Department of Mathematics, King's College London, United Kingdom（伦敦国王学院数学系） 纠错

AI总结 研究揭示语言模型输出分布采样误差与内部状态几何结构的关系，通过几何方法分析token嵌入空间，发现其曲率在棋类任务中反映模型对问题的内部表示。

Comments 12 Pages, 10 Figures, 2 Appendices. To appear in Proceedings of ICML 2026

OSAQ: Outlier Self-Absorption for Accurate Low-bit LLM Quantization

OSAQ: 用于准确低比特LLM量化中的异常自吸收

Zhikai Li, Zhen Dong, Xuewen Liu, Jing Zhang, Qingyi Gu

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of California, Santa Barbara（加州大学圣芭芭拉分校） 纠错

AI总结 本文提出OSAQ方法，通过利用Hessian的低秩特性，利用加法权重抑制技术有效抑制低比特量化中的异常，提升模型性能。

Comments ICML 2026

The Perceptual Bandwidth Bottleneck in Vision-Language Models: Active Visual Reasoning via Sequential Experimental Design

视觉语言模型中的感知带宽瓶颈：通过顺序实验设计实现主动视觉推理

Anjie Liu, Ziqin Gong, Yan Song, Yuxiang Chen, Xiaolong Liu, Hengtong Lu, Kaike Zhang, Chen Wei, Jun Wang

机构 * The Hong Kong University of Science（香港科学与技术大学） ； University College London, London, United Kingdom（伦敦大学学院, 英国伦敦） ； ShanghaiTech University, Shanghai, China（上海科技大学, 中国上海） ； AI Lab, The Yangtze River Delta, China（人工智能实验室, 长江三角洲, 中国） 纠错

AI总结 本文提出通过顺序贝叶斯最优实验设计实现主动视觉推理，解决视觉语言模型中感知带宽瓶颈问题，提升高分辨率视觉推理能力。

Comments 27 pages, 5 figures, accepted at ICML 2026

SLQ: Bridging Modalities via Shared Latent Queries for Retrieval with Frozen MLLMs

SLQ：通过共享潜在查询桥接模态以实现冻结MLLMs的检索

Haoran Lou, Ziyan Liu, Chunxiao Fan, Yuexin Wu, Yue Ming, Hao Wu, Kai Zuo, Yibo Chen, Xu Tang

机构 * School of Electronic Engineering, Beijing University of Posts（北京邮电大学电子工程学院） ； Xiaohongshu Inc., China（小红书公司） 纠错

AI总结 SLQ通过冻结MLLMs的主干，引入共享潜在查询提升多模态检索性能，实验显示其在多个基准上表现优异。

Comments Accepted to ICML-2026

Self-Debias: Self-correcting for Debiasing Large Language Models

Self-Debias：为大型语言模型引入自我纠正的去偏方法

Xuan Feng, Shuai Zhao, Luwei Xiao, Tianlong Gu, Bo An

机构 * Jinan University, China（济南大学，中国） ； Nanyang Technological University, Singapore（南洋理工大学，新加坡） 纠错

AI总结 本文提出Self-Debias框架，通过资源再分配策略使模型具备自我纠正能力，以解决去偏过程中持续的偏见传播问题，无需外部干预即可提升去偏效果。

Comments ICML 2026

Spectrally-Guided Diffusion Noise Schedules

基于光谱引导的扩散噪声调度

Carlos Esteves, Ameesh Makadia

机构 * Google Research（谷歌研究） 纠错

AI总结 本文提出基于图像光谱特性设计实例特定噪声调度的方法，通过理论界限优化噪声级别，提升单阶段像素扩散模型生成质量，尤其在低步数情况下表现更佳。

Comments Accepted to ICML'26

Can Recommender Systems Teach Themselves? A Recursive Self-Improving Framework with Fidelity Control

推荐系统能否自我教学？一种递归自我改进框架与保真度控制

Luankang Zhang, Hao Wang, Zhongzhou Liu, Mingjia Yin, Yonghao Huang, Jiaqi Li, Wei Guo, Yong Liu, Huifeng Guo, Defu Lian, Enhong Chen

AI总结 本文提出递归自我改进推荐框架RSIR，通过闭环机制自主提升性能，克服数据稀疏性问题，实验证明其在多个基准和架构上的有效性。

Comments Accepted to ICML 2026

MEG-XL: Data-Efficient Brain-to-Text via Long-Context Pre-Training

MEG-XL：通过长上下文预训练实现数据高效的脑-文本转换

Dulhan Jayalath, Oiwi Parker Jones

机构 * PNPL assets/pnpl.png , University of Oxford（PNPL资产/pnpl.png，牛津大学） 纠错

AI总结 MEG-XL通过长上下文预训练提升数据效率，利用2.5分钟的MEG上下文捕捉扩展神经上下文，优于传统方法，在脑数据词解码任务中表现更优。

Comments Published as a conference paper at ICML 2026. 19 pages, 8 figures, 5 tables