ICML

JADAI: Jointly Amortizing Adaptive Design and Bayesian Inference

JADAI：联合摊销自适应设计与贝叶斯推理

Niels Bracher, Lars Kühmichel, Desi R. Ivanova, Xavier Intes, Paul-Christian Bürkner, Stefan T. Radev

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） ； TU Dortmund University（多特蒙德技术大学） ； University of Oxford（牛津大学） 纠错

AI总结 针对设计变量可优化以最大化信息增益的参数估计问题，引入JADAI框架，通过端到端训练策略、历史网络和推理网络联合摊销贝叶斯自适应设计与推理，在标准基准测试中性能优越。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

TokSuite: Measuring the Impact of Tokenizer Choice on Language Model Behavior

TokSuite：衡量分词器选择对语言模型行为的影响

Gül Sena Altıntaş, Malikeh Ehghaghi, Brian Lester, Fengyuan Liu, Wanru Zhao, Marco Ciccone, Colin Raffel

机构 * University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； Google DeepMind（谷歌DeepMind） ； McGill University（麦吉尔大学） ； University of Cambridge（剑桥大学） ； Hugging Face 纠错

AI总结 提出TokSuite，含模型集合与基准测试，通过不同分词器的预训练模型及多语言鲁棒性基准测试，解耦分词器影响，阐明多种流行分词器优缺点。

Comments ICML 2026. 46 pages, 13 figures

Is Generation Required for Data-Efficient Perception?

数据高效感知是否需要生成模型？

Jack Brady, Bernhard Schölkopf, Thomas Kipf, Simon Buchholz, Wieland Brendel

AI总结 研究生成式与非生成式方法实现组合泛化的程度，通过理论刻画归纳偏差，表明生成范式可能更易实现组合泛化，实验发现生成式方法泛化性更好。

Comments ICML 2026

Walrus: A Cross-Domain Foundation Model for Continuum Dynamics

海象：用于连续介质动力学的跨域基础模型

Michael McCabe, Payel Mukhopadhyay, Tanya Marwah, Bruno Regaldo-Saint Blancard, Francois Rozet, Cristiana Diaconu, Lucas Meyer, Kaze W. K. Wong, Hadi Sotoudeh, Alberto Bietti, Irina Espejo, Rio Fear, Siavash Golkar, Tom Hehir, Keiya Hirashima, Geraud Krawezik, Francois Lanusse, Rudy Morel, Ruben Ohana, Liam Parker, Mariel Pettee, Jeff Shen, Kyunghyun Cho, Miles Cranmer, Shirley Ho

AI总结 研究针对物理模拟中机器学习的挑战，通过新方法如谐波分析稳定、负载均衡训练策略等，开发基于Transformer的基础模型Walrus，在多场景预训练，实验表明其性能优于现有模型。

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Context Tuning for In-Context Optimization

上下文调整用于上下文优化

Jack Lu, Ryan Teehan, Zhenbang Yang, Mengye Ren

机构 * Agentic Learning AI Lab（智能代理学习AI实验室） 纠错

AI总结 介绍上下文调整方法，利用模型固有上下文学习能力从示例初始化可训练记忆表示并优化，提升少样本适应能力，在多基准测试中表现优于其他方法。

Comments Published at ICML 2026

APEX: Approximate-but-exhaustive search for ultra-large combinatorial synthesis libraries

APEX：针对超大组合合成库的近似但详尽搜索

Aryan Pedawi, Jordi Silvestre-Ryan, Bradley Worley, Darren J Hsu, Kushal S Shah, Elias Stehle, Jingrong Zhang, Izhar Wallach

机构 * Numerion Labs（Numerion实验室） ； NVIDIA（英伟达） 纠错

AI总结 研究超大组合合成库虚拟筛选难题，提出APEX方法，利用神经网络代理，能在一分钟内在消费级GPU上实现完全枚举，可精确检索近似top-k集，性能优于其他方法。

Comments Published in the Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Desirable Effort Fairness and Optimality Trade-offs in Strategic Learning

战略学习中理想的努力公平性与最优性权衡

Valia Efthymiou, Ekaterina Fedorova, Chara Podimata

AI总结 研究战略学习中决策规则与策略性适应特征的主体间的互动，将问题构建为约束优化问题，给出理论保证并通过实验展示准确性与理想努力公平性间的权衡。

Comments ICML 2026

Tight Stability Bounds for Robust Distributed Learning: Byzantine Failures Hurt Generalization More than Data Poisoning

稳健分布式学习的紧密稳定性界限：拜占庭故障对泛化的损害大于数据中毒

Thomas Boudou, Batiste Le Bars, Nirupam Gupta, Aurélien Bellet

机构 * Inria（法国国家信息与自动化技术研究院） ； Inserm（法国国家医学院） ； Univ. Lille（里尔大学） ； Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系） 纠错

AI总结 研究稳健分布式学习中拜占庭故障和数据中毒两种威胁模型对泛化的影响，通过算法稳定性分析，首次揭示拜占庭故障导致的泛化速率比数据中毒更差。

Comments ICML 2026

Conditional Clifford-Steerable CNNs for PDE Modeling

用于偏微分方程建模的条件克利福德可控卷积神经网络

Bálint László Szarvas, Maksim Zhdanov

机构 * University of Amsterdam（阿姆斯特丹大学） ； AMLab（AML实验室） 纠错

AI总结 介绍条件克利福德可控卷积神经网络框架，指出标准形式内核基础不完整，通过输入特征场等变表示增强内核，推导等变约束并有效求解，在多个偏微分方程预测任务中表现出色。

Comments Published at ICML 2026

Journal ref The Forty-Third International Conference on Machine Learning 2026

Chasing Moving Targets with Online Self-Play Reinforcement Learning for Safer Language Models

通过在线自我博弈强化学习追踪移动目标以实现更安全的语言模型

Mickel Liu, Liwei Jiang, Yancheng Liang, Simon Shaolei Du, Yejin Choi, Tim Althoff, Natasha Jaques

AI总结 研究传统大语言模型安全对齐问题，引入Self-RedTeam算法，通过在线自我博弈多智能体强化学习持续共同进化攻防策略，有理论安全保障，实证效果好，推动从被动修补到主动协同进化转变。

Comments ICML 2026 Poster

ICR-RL: Deep Reinforcement Learning via In-Context Regression

ICR-RL：通过上下文回归实现深度强化学习

David Schiff, Ofir Lindenbaum, Yonathan Efroni

机构 * Bar-Ilan University（巴伊兰大学） ； Tel Aviv University（特拉维夫大学） 纠错

AI总结 研究探索基于从强化学习到回归的经典简化的新方法，用预训练的回归基础模型作为上下文回归模型直接用于强化学习问题，引入无梯度方法ICR-RL，实验表明其能与常用方法竞争。

Comments Accepted to ICML 2026 Main Track

Position: Use Sparse Autoencoders to Discover Unknowns

定位：使用稀疏自编码器发现未知因素

Kenny Peng, Rajiv Movva, Jon Kleinberg, Emma Pierson, Nikhil Garg

机构 * Cornell University（康奈尔大学） ； UC Berkeley（伯克利大学） 纠错

AI总结 研究围绕稀疏自编码器（SAEs）的不同观点，指出其虽在作用于已知概念时效果欠佳，但在发现未知概念上很强大，还给出了在机器学习及社会健康科学等方面的应用案例。

Comments ICML 2026

Explainable Concept Generation through Vision-Language Preference Learning for Understanding Neural Networks' Internal Representations

通过视觉-语言偏好学习实现可解释的概念生成以理解神经网络的内部表示

Aditya Taparia, Som Sagar, Ransalu Senanayake

AI总结 本文提出通过视觉-语言偏好学习生成概念图像集，解决传统方法需手动收集概念图像集的不足，提高神经网络内部表示理解的效率和可靠性。

Comments 28 pages, 31 figures

Journal ref Proceedings of the 42nd International Conference on Machine Learning (ICML 2025), PMLR 267:59154-59181, 2025

kAgent: An execution-guided crash resolution agent for the Linux kernel

kAgent：一种用于Linux内核的执行引导式崩溃修复代理

Alex Mathai, Chenxi Huang, Suwei Ma, Jihwan Kim, Hailie Mitchell, Aleksandr Nogikh, Petros Maniatis, Franjo Ivančić, Junfeng Yang, Baishakhi Ray

机构 * Department of Computer Science, Columbia University（哥伦比亚大学计算机科学系） ； Google Inc.（谷歌公司） ； Google DeepMind（谷歌DeepMind） 纠错

AI总结 研究针对Linux内核崩溃修复难题，以内核开发者修复方式为灵感构建kAgent及支持工具栈，通过检查日志等步骤修复崩溃，消融特性定量分析，评估显示其能有效修复多种崩溃。

Comments Accepted to ICML, 2026; in the Deep Learning for Code Workshop. This paper was previously circulated as "CrashFixer"

Failures Are Fated, But Can Be Faded: Characterizing and Mitigating Unwanted Behaviors in Large-Scale Vision and Language Models

失败是注定的，但可以被淡化：在大规模视觉和语言模型中表征和缓解 unwanted 行为

Som Sagar, Aditya Taparia, Ransalu Senanayake

机构 * School of Computing and Augmented Intelligence, Arizona State University, Tempe, United States of America（计算与增强智能学院，亚利桑那州立大学） 纠错

AI总结 本文提出利用深度强化学习表征和缓解大规模视觉和语言模型中的失败模式，通过有限的人类反馈重构失败景观，验证了方法在计算机视觉、自然语言处理和视觉-语言任务中的有效性。

Comments 25 pages, 35 figures

Journal ref Proceedings of the 41st International Conference on Machine Learning (ICML 2024), PMLR 235:42999-43023, 2024

Affinage: genome-scale mechanistic gene annotation from the published literature

Affinage: 基于已发表文献的全基因组尺度机制性基因注释

Matteo Di Bernardo, Iain M. Cheeseman

AI总结 提出Affinage，一个利用大语言模型从原始文献中提取直接实验证据并推理，为人类蛋白质编码基因生成可复用的结构化机制注释的流程，在19,293个基因上优于UniProt。

Comments 12 pages, 6 figures. Accepted to the Workshop on Generative and Agentic AI for Biology at ICML 2026

PointDiT: Pixel-Space Diffusion for Monocular Geometry Estimation

PointDiT: 用于单目几何估计的像素空间扩散

Haofei Xu, Rundi Wu, Philipp Henzler, Nikolai Kalischek, Michael Oechsle, Fabian Manhardt, Marc Pollefeys, Andreas Geiger, Federico Tombari, Michael Niemeyer

AI总结 提出基于纯ViT的像素空间扩散Transformer，直接在原始3D点图块上操作，无需复杂架构和潜在空间压缩，在单目几何估计中超越潜在扩散模型。

Comments ICML 2026. Project page: https://haofeixu.github.io/pointdit/

Online Safety Monitoring for LLMs

LLMs的在线安全监控

Mona Schirmer, Metod Jazbec, Alexander Timans, Christian Naesseth, Maja Waldron, Eric Nalisnick

AI总结 研究通过阈值化外部模型的验证信号并利用风险控制校准阈值，实现LLM输出的实时安全监控，在数学推理和红队测试中与高级方法性能相当。

Comments ICML 2026 Hypothesis Testing Workshop

Reasoning LLM Improves Speaker Recognition in Long-form TV Dramas

推理大模型提升长篇电视剧中的说话人识别

Yuxuan Li, Lingxi Xie, Xinyue Huo, Jihao Qiu, Jiacheng Shao, Pengfei Chen, Jiannan Ge, Kaiwen Duan, Qi Tian

AI总结 提出DramaSR-532K大规模基准和基于推理大模型的DramaSR-LRM方法，通过多模态工具使用聚合上下文证据，显著提升长篇电视剧中说话人识别准确率，尤其对短话语效果显著。

Comments Accepted to ICML 2026

Learning to Move Before Learning to Do: Task-Agnostic pretraining for VLAs

先学移动再学做事：面向VLA的任务无关预训练

Junhao Shi, Siyin Wang, Xiaopeng Yu, Li Ji, Jingjing Gong, Xipeng Qiu

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

AI总结 提出任务无关预训练（TAP）框架，先通过自监督逆动力学从廉价无标签交互数据学习可迁移运动先验，再用少量专家数据将先验与语言对齐，显著降低VLA模型对专家演示的依赖。

Comments Accepted to ICML 2026, 21 pages,6 figures

Fast Multi-dimensional Refusal Subspaces via RFM-AGOP

通过RFM-AGOP的快速多维拒绝子空间

Thomas Winninger

AI总结 提出利用RFM-AGOP算法快速提取大型语言模型中的多维拒绝子空间，在推理和非推理模型上均实现秒级识别，且性能优于现有方法。

Comments Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, Seoul, South Korea, 2026

Steerability via constraints: a substrate for scalable oversight of coding agents

通过约束实现可操控性：编码智能体可扩展监督的基础

Thomas Winninger

AI总结 提出通过访问控制、网络策略和工具强制编码规范等传统工程管理方法约束编码智能体，以降低人类监督成本并提升安全性；实验表明约束基板使后门检测召回率从54.5%提升至90.9%。

Comments Accepted to the Deep Learning for Code Workshop at the 43rd International Conference on Machine Learning, Seoul, South Korea, 2026

Optimizing Visual Generative Models via Distribution-wise Rewards

通过分布级奖励优化视觉生成模型

Ruihang Li, Mengde Xu, Shuyang Gu, Leigang Qu, Fuli Feng, Han Hu, Wenjie Wang

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai Innovation Institute（上海创新研究院） ； Hunyuan Frontier Lab, Tencent（腾讯混元前沿实验室） ； National University of Singapore（新加坡国立大学） 纠错

AI总结 提出分布级奖励框架，通过子集替换策略高效估计奖励并优化模型合并系数，解决样本级奖励导致的模式崩溃和视觉异常问题，在SiT和EDM2上显著提升FID-50K。

Comments ICML 2026 Main

Zeus: Towards Tuning-Free Foundation Model for Time Series Analysis

Zeus：面向时间序列分析的无调优基础模型

Yisong Fu, Zezhi Shao, Chengqing Yu, Yujie Li, Yongjun Xu, Xueqi Cheng, Fei Wang

AI总结 提出统一无调优时间序列基础模型Zeus，通过多尺度Transformer和Multi-Objective Temporal Masking策略，在无需任务特定调优下实现多种分析任务的优异性能。

Comments Accepted by ICML 2026

Gaming Consensus: Coordinated Manipulation in Crowdsourced Fact-Checking

游戏共识：众包事实核查中的协调操纵

Nikil Roashan Selvam, Jay Baxter, Sophie Hilgard, Brad Miller, Keith Coleman, Ellen Vitercik, Sanmi Koyejo

机构 * Stanford University（斯坦福大学） ； X Community Notes（X社区笔记） ； xAI 纠错

AI总结 研究众包事实核查系统中矩阵分解桥接机制对协调操纵的脆弱性，发现通过少于10个评分即可操纵低质量笔记达到共识阈值，并提出了缓解措施。

Comments ICML 2026

Set Diffusion: Interpolating Token Orderings Between Autoregression and Diffusion for Fast and Flexible Decoding

Set Diffusion: 在自回归与扩散之间插值令牌顺序以实现快速灵活的解码

Marianne Arriola, Volodymyr Kuleshov

AI总结 提出Set Diffusion模型，通过将似然参数化为灵活位置和长度的令牌集，并设计集因果扩散架构，支持任意顺序解码和KV缓存更新，在数学推理、摘要和无条件生成上优于先前的扩散语言模型。

Comments ICML 2026. We provide the code at https://github.com/kuleshov-group/setdlms

CoRe: Combined Rewards with Vision-Language Model Feedback for Preference-Aligned Reinforcement Learning

CoRe: 结合视觉语言模型反馈的复合奖励用于偏好对齐强化学习

Hexian Ni, Tao Lu, Yinghao Cai

AI总结 提出CoRe框架，将奖励分解为基于任务知识的正式奖励和从观察中学习的残差奖励，利用视觉语言模型迭代优化奖励，实现无需人工的偏好对齐，在机器人操作任务中优于现有方法。

Comments ICML 2026

WARP: Weight-Space Analysis for Recovering Training Data Portfolios

WARP: 基于权重空间分析恢复训练数据组合

Tzu-Heng Huang, Aditya Goyal, John Cooper, Frederic Sala

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

AI总结 提出WARP框架，通过模型合并生成伪检查点，从权重空间几何特征恢复微调模型的训练数据域混合比例，在BERT和GPT-2上平均MAE分别低至0.046和0.104。

Comments This work appears in the ICML 2026 Workshop on Weight-Space Symmetries (WSS): from Foundations to Practical Applications. Our source code is available at github.com/SprocketLab/WARP

EO-Agents: A Three-Agent LLM Pipeline for Earth Observation Hypothesis Generation

EO-Agents: 用于地球观测假设生成的三智能体LLM流水线

Mahyar Ghazanfari, Amin Tabrizian, Armin Mehrabian, Peng Wei

机构 * ADNET Systems（ADNET系统） 纠错

AI总结 提出基于NASA地球观测知识图谱的三智能体LLM流水线，通过图神经网络排序数据集对，生成并评估结构化研究假设，在1475个数据集上产生160个跨领域假设。

Comments Accepted at the ICML 2026 AI for Science Workshop

Class-Grouped Normalized Momentum and Faster Hyperparameter Exploration to Tackle Class Imbalance in Federated Learning

类分组归一化动量与更快的超参数探索以应对联邦学习中的类别不平衡

Haemin Park, Diego Klabjan, Martin W. Braun, Xiuqi Li, Balakrishnan Ananthanarayanan

AI总结 提出FedCGNM客户端优化器，通过类分组归一化动量平衡梯度幅度并降低噪声，结合FedHOO算法高效优化重采样率，在长尾数据集上优于基线方法。

Journal ref Proceedings of the 43 rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026