ICML

Teaching Models to Teach Themselves: Reasoning at the Edge of Learnability

教模型自学：在可学习性边缘推理

Shobhita Sundaram, John Quan, Ariel Kwiatkowski, Kartik Ahuja, Yann Ollivier, Julia Kempe

机构 * MIT（麻省理工学院） ； Meta FAIR ； New York University（纽约大学） 纠错

AI总结 提出SOAR非对称自对弈框架，通过元强化学习生成自动课程，解决低初始成功率数据集上的推理模型扩展问题，发现基于学生进步的奖励优于内在可学习性奖励，且问题结构比答案正确性更重要。

Comments ICML 2026. Blog post: https://ssundaram21.github.io/soar/

From Similarity to Vulnerability: Key Collision Attack on LLM Semantic Caching

从相似性到脆弱性：LLM语义缓存的密钥碰撞攻击

Zhixiang Zhang, Zesen Liu, Yuchong Xie, Quanfeng Huang, Dongdong She

AI总结 提出语义缓存存在密钥碰撞攻击风险，通过CacheAttack框架在黑盒条件下实现86%的LLM响应劫持命中率，并能在不同嵌入模型间迁移，威胁智能体安全。

Comments Accepted to ICML 2026

Efficient Public Verification of Private ML via Regularization

通过正则化实现私有ML的高效公开验证

Zoë Ruha Bell, Anvith Thudi, Olive Franzese-McLaughlin, Nicolas Papernot, Shafi Goldwasser

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） 纠错

AI总结 提出首个差分隐私算法，在接近最优隐私-效用权衡下，DP保证的验证成本低于训练成本，通过正则化目标最小化和标准DP组合界限实现。

Comments Proceedings of the 43rd International Conference on Machine Learning

Optimal Self-Consistency for Efficient Reasoning with Large Language Models

最优自一致性：用于大语言模型高效推理

Austin Feng, Marius Alonso, Ambroise Odonnat, Vasilii Feofanov, Ievgen Redko

机构 * Yale University（耶鲁大学） ； Inria（法国国家信息与自动化研究所） ； com（42.com） 纠错

AI总结 本文分析自一致性（SC）的缩放行为，提出动态分配样本的Blend-ASC变体，平均减少4.8倍样本量，实现最先进的样本效率。

Comments Accepted at ICML 2026

Not Every Time and Frequency Need to Be Forgotten in Diffusion Unlearning

并非所有时间和频率都需要在扩散遗忘中被遗忘

Jinseong Park, Mijung Park

机构 * Korea Institute for Advanced Study（韩国高等研究院） ； University of British Columbia（不列颠哥伦比亚大学） 纠错

AI总结 提出选择性遗忘扩散模型中的时间和频率，通过理论分析分布失真与遗忘-效用权衡，在多种设置下实现更高遗忘成功率和生成质量。

Comments ICML 2026 Workshop FoGen

L-SR1: Learned Symmetric-Rank-One Preconditioning

L-SR1: 学习型对称秩一预处理

Gal Lifshitz, Shahar Zuler, Ori Fouks, Dan Raviv

机构 * Tel Aviv University（特拉维夫大学） 纠错

AI总结 提出一种学习型二阶优化器，通过可训练的预处理单元增强经典SR1算法，在单目人体网格恢复任务中优于现有方法，无需标注数据或微调。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026). Project page: https://gallif.github.io/lsr1/

Position: Collaborative Agentic AI Needs Interoperability Across Ecosystems

立场：协作式自主AI需要跨生态系统的互操作性

Rishi Sharma, Martijn de Vos, Pradyumna Chari, Ramesh Raskar, Anne-Marie Kermarrec

机构 * EPFL, Lausanne, Switzerland（瑞士洛桑联邦理工学院） 纠错

AI总结 本文提出通过采用最小标准实现互操作性，以构建开放、安全、可扩展的自主代理生态系统，并设计了名为“代理网络”的架构基础。

Comments Accepted at ICML 2026

TraCeS: Learning Per-Timestep Constraint-Violation Credit from Sparse Trajectory-Level Labels

TraCeS: 从稀疏轨迹级标签学习每时间步约束违反信用

Siow Meng Low, Ze Gong, Akshat Kumar

AI总结 提出TraCeS方法，通过稀疏轨迹级标签学习每时间步的约束违反信用，用于强化学习中的安全约束优化，无需已知成本函数或阈值，在连续控制基准上提升约束满足和反馈效率。

Comments Accepted at ICML 2026. Code available at https://github.com/siowmeng/TraCeS

Mantis: Lightweight Foundation Model for Time Series Classification

Mantis: 用于时间序列分类的轻量级基础模型

Vasilii Feofanov, Songkang Wen, Shifeng Xie, Simon Roschmann, Marius Alonso, Hongbo Guo, Romain Ilbert, Malik Tiomoko, Quentin Bouniot, Zeynep Akata, Lujia Pan, Jianfeng Zhang, Ievgen Redko

机构 * com（42.com） ； Helmholtz Munich（亥姆霍兹慕尼黑中心） ； Technical University of Munich（慕尼黑工业大学） ； Criteo ； Meta ； Telecom Paris（巴黎电信学院） 纠错

AI总结 提出基于Transformer的轻量级基础模型Mantis，通过自监督对比学习在合成数据上预训练，并引入新颖的令牌生成单元和增强测试方法，在多个数据集上超越现有基础模型。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Pessimism's Paradox: Conservative Offline Training Amplifies Reward Hacking During Online Adaptation in Reasoning Models

悲观的悖论：保守离线训练加剧推理模型在线适应中的奖励黑客行为

Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary

机构 * Horizon Research ； Apple ； Meta 纠错

AI总结 研究发现，离线训练中越保守的DPO（高β）会压缩策略熵，降低响应多样性，反而加速在线优化中奖励模型的利用，导致更严重的奖励黑客行为。

Comments Accepted in ICML 2026 workshop on Decision-Making from Offline Datasets to Online Adaptation: Black-Box Optimization to Reinforcement Learning

C$^{2}$R: Cross-sample Consistency Regularization Mitigates Feature Splitting and Absorption in Sparse Autoencoders

C$^{2}$R: 跨样本一致性正则化缓解稀疏自编码器中的特征分裂与吸收

Haoran Jin, Xiting Wang, Shijie Ren, Hong Xie, Defu Lian

AI总结 提出跨样本一致性正则化（C$^2$R），通过惩罚方向相似潜变量的共激活，缓解稀疏自编码器中的特征分裂与吸收问题，提升潜变量可解释性而不损失重构保真度。

Comments 24 pages, 6 figures. Accepted by ICML 2026

ITSPACE: Monotone Gaussian Optimal Transport Updates

ITSPACE: 单调高斯最优传输更新

Woojoo Na, Jennifer Dy

AI总结 提出ITSPACE方法，通过平方根分解的闭式更新直接优化Bures-Wasserstein目标，实现协方差矩阵的高效对齐，在严格预算下显著快于现有方法。

Comments Accepted to ICML 2026. Camera-ready version

MuonSSM: Orthogonalizing State Space Models for Sequence Modeling

MuonSSM：正交化状态空间模型用于序列建模

Thai-Khanh Nguyen, Ngoc-Bich-Uyen Vo, Thieu N. Vo, Tan M. Nguyen, Cuong Pham

AI总结 提出MuonSSM框架，通过动量路径和低秩输入的牛顿-舒尔茨变换来条件化记忆更新的几何结构，稳定SSM训练并提升长程性能。

Comments 22 pages, 7 figures. ICML 2026 (Oral)

Internal-State Probes Read the Situation, Not the Action: Three Negative Results for Pre-Action Misalignment Monitoring

内部状态探针读取的是情境而非行动：预行动失调监测的三个负面结果

Max Fomin, Elad David, Amit LeVi

机构 * Zenity 纠错

AI总结 研究通过探针监测模型内部状态以预测有害行动，发现构造有效性、语义可读性和引导效应均无法成为稳健的预行动监测器，并提出了将内部读取转化为预行动测试的方法。

Comments Published at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026. 17 pages (including appendices), 5 figures, 8 tables

REAR: Test-time Preference Realignment through Reward Decomposition

REAR: 通过奖励分解实现测试时偏好重对齐

Fuxiang Zhang, Pengcheng Wang, Chenran Li, Yi-Chen Li, Yuxin Chen, Lang Feng, Chenfeng Xu, Masayoshi Tomizuka, Bo An

机构 * Nanyang Technological University（新加坡国立大学） ； Nanjing University（南京大学） 纠错

AI总结 提出REAR框架，通过将奖励函数分解为问题相关和偏好相关两部分，推导出可线性组合的对齐奖励，实现无需训练的测试时偏好重对齐，适用于多种任务。

Comments Accepted by ICML 2026

Local-Minima-Preserving Continuous Relaxation of Ising Problems

Ising问题的局部极小保持连续松弛

Debraj Banerjee, Santanu Mahapatra, Kunal N. Chaudhury

AI总结 针对广义Ising问题，提出一种多项式松弛方法，证明其局部极小与原始问题单翻转局部极小一一对应，从而将问题转化为光滑函数优化，可应用梯度优化器如ADAM，在自旋玻璃、MAX-CUT和NPP等基准测试中表现优异。

Comments Accepted (regular) at 43rd International Conference on Machine Learning (ICML'26)

BrainJanus: A Unified Model for Understanding and Generation across Brain, Vision, and Language

BrainJanus：一个统一的大脑、视觉与语言理解与生成模型

Haitao Wu, Qirui Zhang, Zhouheng Yao, Shangquan Sun, Qihao Zheng, Mianxin Liu, Chi Zhang, Wanli Ouyang, Chunfeng Song, Changqing Zhang, Jiamin Wu

AI总结 提出首个统一大脑模型BrainJanus，通过统一大脑分词器和全能自回归架构，实现脑信号与视觉、语言之间的双向编码与解码，在多个基准上取得优异性能并具备零样本泛化能力。

Journal ref ICML 2026

Characterizing Optimizer-Dependent Training Dynamics Through Hessian Eigenvector Displacement and Localization

通过Hessian特征向量位移与局域化刻画优化器依赖的训练动力学

Marcelina Marjankowska, Valerio Modugno, Paolo Barucca

机构 * Financial Computing and Analytics Group, University College London（金融计算与分析组，伦敦大学学院） ； Robot Perception and Learning Lab, University College London（机器人感知与学习实验室，伦敦大学学院） 纠错

AI总结 研究多层感知机训练中Hessian主导特征向量的演化，通过位移和局域化统计量揭示SGD与Adam优化器在曲率方向稳定性上的显著差异。

Comments Accepted as a poster at High-dimensional Learning Dynamics (HiLD), ICML 2026. OpenReview: https://openreview.net/forum?id=SabYcw5Nh6

Federated Learning with Energy-Based Structured Probabilistic Inference

基于能量结构化概率推理的联邦学习

Dario Fenoglio, Daniil Kirilenko, Martin Gjoreski, Marc Langheinrich

AI总结 提出使用条件随机场（CRF）优化联邦学习中客户端聚合权重，通过一元势和成对势建模客户端可靠性与交互，提升非IID数据下的全局模型收敛性能。

Comments Accepted to the Structured Probabilistic Inference Generative Modeling workshop at ICML 2026

Robust Strategic Classification under Decision-Dependent Cost Uncertainty

决策依赖成本不确定性下的鲁棒策略分类

Sura Alhanouti, Güzin Bayraksan, Parinaz Naghizadeh

AI总结 针对策略分类中成本依赖决策的现实问题，提出两阶段鲁棒优化框架，利用决策依赖不确定集建模，减少博弈行为并降低不确定性。

Comments 29 pages, 7 figures, accepted for publication at ICML 2026

Does Verbose Chain-of-Thought Really Help? In-Distribution Evidence that Content, Not Length, Matters

冗长的思维链真的有用吗？来自分布内证据表明，内容而非长度才是关键

Wenlong Wang, Fergal Reid

机构 * Fin AI Research（Fin AI研究） 纠错

AI总结 通过分布内采样和受控干预实验，发现思维链中额外标记的长度不影响推理准确性，真正起作用的是标记携带的推理和验证内容。

Comments ICML Workshop on Efficient Multimodal Question Answering (EMM-QA)

SABER-Math: Automated Benchmark for Information Retrieval Evaluation in Mathematics

SABER-Math：数学信息检索评估的自动化基准

Nikolay Georgiev, Maria Drencheva, Kseniia Ibragimova, Ivo Petrov, Dimitar I. Dimitrov, Martin Vechev

AI总结 提出首个无需专家标注的数学信息检索自动化基准SABER-Math，通过三步构建重排序任务，评估检索器在数学领域的效果，发现通用基准无法可靠预测数学检索性能。

Comments Accepted in the 3rd AI for Math Workshop at the 43rd International Conference on Machine Learning (ICML), Seoul, South Korea, 2026

Clinical Reasoning Graphs: Structured Evaluation of LLM Diagnostic Reasoning Reveals Competence Without Consistency

临床推理图：LLM诊断推理的结构化评估揭示能力与一致性无关

Nisarg A. Patel

AI总结 通过从LLM诊断痕迹中提取结构化图（5种节点和7种边），分析50例临床病例，发现图相似性在相似病例与不相似病例间无显著差异，表明LLM具备诊断能力但缺乏推理一致性。

Comments Spotlight Paper, Proceedings of the Workshop on Structured Data for Health at the 43rd International Conference on Machine Learning (ICML), Seoul, South Korea

Rethinking Forgery Attacks on Semantic Watermarks in Black-Box Settings: A Geometric Distortion Perspective

重新思考黑盒设置下语义水印的伪造攻击：一种几何畸变视角

Cheng-Yi Lee, Yichi Zhang, Yuchen Yang, Chun-Shien Lu, Jun-Cheng Chen

机构 * Academia Sinica（中国台湾“学术院） 纠错

AI总结 本文从率-畸变理论出发，揭示代理模型与目标模型间的结构失配导致不可约畸变，并将其建模为潜在流形上的全局漂移和局部变形，进而提出一种方案无关的检测方法以区分伪造样本。

Comments Accepted at ICML 2026, updated

Concept Removal Guidance: Evidence-Calibrated Negative Guidance for Safe Diffusion Sampling

概念移除引导：用于安全扩散采样的证据校准负引导

Yoonseok Choi, Chaeyoung Oh, Hyunjun Choi, Seokin Seo, Kee-Eung Kim

机构 * KAIST（韩国科学技术院） ； KIST（韩国科学技术院） 纠错

AI总结 提出概念移除引导（CRG），一种无需训练的方法，通过从模型噪声预测中估计不良概念存在并自适应校准负引导权重，在保持良性保真度的同时降低攻击成功率。

Comments Published at ICML 2026

GoodDiffusion: Proactive Copyright Protection for Diffusion Bridge Models via Learnable Sample-specific Signatures

GoodDiffusion: 通过可学习的样本特定签名实现扩散桥模型的主动版权保护

Shixi Qin, Zhiyong Yang, Shilong Bao, Zitai Wang, Qianqian Xu, Qingming Huang

AI总结 针对扩散桥模型未经授权使用的问题，提出GoodDiffusion方法，通过后门机制将授权内化到生成过程，并引入可学习签名网络实现样本特定签名，有效阻止未授权生成，同时保证授权用户的高质量生成。

Comments This paper has been accepeted to ICML 2026 (Oral)

SEVA: Self-Evolving Verification Agent with Process Reward for Fact Attribution

SEVA: 具有过程奖励的自进化验证代理用于事实归因

Aojie Yuan, Yi Nian, Haiyue Zhang, Zijian Su, Yue Zhao

机构 * University of Southern California, Los Angeles, USA（美国南加州大学，洛杉矶） ； University of Michigan, Ann Arbor, USA（美国密歇根大学，安娜堡） 纠错

AI总结 提出SEVA，一种结构化验证代理，通过过程奖励解决多组件输出中的优势崩溃问题，实现自我进化循环，在7B模型上验证了奖励粒度必须匹配输出粒度的原则。

Comments Accepted at AI4GOOD@ICML 2026 and FAGEN@ICML 2026. Code: https://github.com/Justin0504/Verifiable_agent

Diversity is the Strength of the AI Crowd

多样性是AI群体的力量

Matthew Aitchison, Scott Jeen, Toby Shevlane, Ben Day

机构 * Mantic Technologies 纠错

AI总结 研究通过集成不同AI预测模型提升未来事件预测准确性，发现结合准确且多样化的模型（如Grok 4）比单纯增加采样更有效，强调模型质量与多样性的平衡。

Comments Accepted at the ICML 2026 Workshop on Forecasting as a New Frontier of Intelligence, Seoul, South Korea, 2026

SoftBinary Coding: A New Information-Theoretic Neural Compression Paradigm

软二进制编码：一种新的信息论神经压缩范式

Ezgi Ozyilkan, Sharang M. Sriramu, Elza Erkip, Aaron B. Wagner, Jona Ballé

AI总结 提出软二进制编码（SBC），通过随机二进制潜变量空间和快速二进制信道模拟，克服非线性变换编码的局限性，在信息论源上达到最优率失真界，并在独立同分布源的矢量量化上超越网格编码量化。

Comments accepted to ICML 2026 as a conference paper

Learned Coordination Conventions in Cooperative MARL: Measuring the Translation Gap Between Theory-Informed Roles and Learned Routing

合作多智能体强化学习中的学习协调惯例：衡量理论指导角色与学习路由之间的翻译差距

Yoosung Hong

机构 * Independent Researcher（独立研究员） 纠错

AI总结 通过角色路由矩阵、形成敏感性和梯度/遮挡归因的诊断方法，衡量理论指导角色期望与学习协调结构之间的翻译差距，发现标签条件注意力产生更集中和角色特定的路由，且部分对齐设计者指定的先验。

Comments 8 pages, 1 figures. Poster Accepted at NExT-Game 2026: New Frontiers in Game-Theoretic Learning, ICML 2026 Workshop