ICML

Twins: Learn to Predict Unified Representations with Focal Loss

Twins：使用焦点损失学习预测统一表示

Kaixiong Gong, Xin Cai, Bin Lin, Hao Wang, Yunlong Lin, Mingzhe Zheng, Bohao Li, Jian-Wei Zhang, Miles Yang, Zhao Zhong, Liefeng Bo, Xiangyu Yue

机构 * Tencent-Hunyuan（腾讯混元） 纠错

AI总结 研究统一多模态模型潜在空间不匹配问题，提出Twins统一连续令牌空间。因联合建模有优化不平衡，采用焦点回归目标解决，在ImageNet上有gFID增益，在多模态理解基准测试中表现好，还提高了重建保真度。

Comments ICML 2026. Code: https://github.com/Tencent-Hunyuan/Twins

Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture

企业人工智能代理的动态能力范围界定：一个合成数据集和三源权限架构

Halil Burak Noyan

AI总结 研究企业人工智能代理动态能力范围界定问题，提出三源权限架构，包括基于角色的上限等，贡献含600个企业任务提示的合成数据集，经验证可推动策略优化，还发布相关内容支持对动态范围界定机制的评估。

Comments Published at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026

Autoregressive EHR Foundation Models with Multimodal Inputs

具有多模态输入的自回归电子健康记录基础模型

Yuxuan Liu, Joshua Placidi, Jinpei Han, Alfred John Balston, Marek Rei, A. Aldo Faisal

AI总结 研究在自回归电子健康记录基础模型中纳入多模态的方法，通过特定模态潜在压缩和门控交叉注意力框架，研究压缩单模态序列及预训练编码器选择对性能的影响，实验表明精心设计架构及临床评估的必要性。

Comments 5 pages excluding references and supplements, 2 figures and 2 tables, Proceedings of the Workshop on Structured Data for Health at the 43rd International Conference on Machine Learning, Seoul, South Korea

Journal ref ICML2026 workshop on Structured Data for Health (SD4H)

Pretraining EHR Foundation Models with Patient-Aware Sampling

基于患者感知采样的电子健康记录基础模型预训练

Joshua Placidi, Yuxuan Liu, Jinpei Han, Marek Rei, A. Aldo Faisal

AI总结 研究针对电子健康记录自回归基础模型预训练方法存在的问题，提出患者采样方法，通过控制训练信号分布来构建序列，实验表明该方法在真实EHR数据上提升了性能，凸显训练和验证序列构建对相关模型的重要性。

Comments Accepted at the Workshop on Structured Data for Health at the 43rd International Conference on Machine Learning (ICML 2026). 7 pages, 4 figures

Journal ref ICML 2026 Workshop on Structured Data for Health (SD4H)

Agent Security Needs Redefinition through a Holistic Framework

通过整体框架重新定义智能体安全需求

Vincent Siu, Jingxuan He, Kyle Montgomery, Zhun Wang, Chenguang Wang, Dawn Song

AI总结 研究指出智能体安全是上下文问题，当前基于内容的框架有误。通过源授权、任务对齐、行动对齐和数据隔离四个属性实施上下文安全，改变了防御连贯性、评估有效性及可识别的攻击模式。

Comments ICML 2026 Position Paper

Lost in Context: Addressing Context Anxiety in Large Language Models

迷失在上下文中：解决大语言模型中的上下文焦虑

Ifueko Igbinedion, Jillian Ross, Etienne Ricardez, Sertac Karaman, Eric So

AI总结 研究大语言模型中因过早自我怀疑导致的上下文焦虑，通过系统研究发现其部分源于对完成任务所需tokens估计不准，会致效率损失，还表明模型可学替代策略，性能提升或可通过提高评估与适应自身局限能力实现。

Comments Accepted at ICML 2026. 17 pages

Securing Multimodal AI through Internal Information Decomposition

通过内部信息分解保护多模态人工智能

Jehyeok Yeon, Hyeonjeong Ha, Qiusi Zhan, Heng Ji

AI总结 研究多模态大语言模型的攻击问题，提出FlowGuard框架，通过监测内部多模态一致性检测有害输入，受部分信息分解启发得出FlowVectors量化相关指标，有效降低攻击成功率且减少效用损失和延迟，为多模态推理提供有效防御。

Comments Accepted as Spotlight Paper at ICML 2026

On the Provable Suboptimality of Momentum SGD in Nonstationary Stochastic Optimization

关于动量SGD在非平稳随机优化中的可证明次优性的研究

Sharan Sahu, Cameron J. Hogan, Martin T. Wells

机构 * Cornell University（康奈尔大学） 纠错

AI总结 本文研究了在强凸性和光滑性条件下，随机梯度下降及其动量变体（Polyak重球和Nesterov）在跟踪时间变化最优解时的性能，揭示了动量方法在分布偏移下导致的显式漂移放大惩罚，并证明了这种惩罚并非分析伪影，而是信息论障碍，为动量方法在动态环境中的经验不稳定性提供了理论依据。

Comments Accepted to ICML 2026. 76 pages, 5 figures, 4 tables

Minimum Norm Interpolation via the Local Theory of Banach Spaces: The Role of $2$-Uniform Convexity

通过巴拿赫空间的局部理论实现最小范数插值：2-均匀凸性的作用

Gil Kur, Pierre Bizeul

机构 * Institute for Machine Learning, ETH Zürich（苏黎世联邦理工学院机器学习研究所） ； Department of Mathematics, Weizmann Institute of Science（魏茨曼科学研究所数学系） 纠错

AI总结 本文研究了在2-均匀凸性假设下最小范数插值器的性质，证明了其在线性和非线性模型中的偏差上界，并在特定条件下建立了非高斯协变量的泛化界。

Comments Submitted (minor corrections and improved readability from the previous version). A preliminary work titled "Minimum Norm Interpolation Meets the Local Theory of Banach Spaces'' appeared at the 2024 International Conference on Machine Learning (consider this information for citations)

Safe In-Context Reinforcement Learning

安全的上下文强化学习

Amir Moeini, Minjae Kwon, Alper Kamil Bozkurt, Yuichi Motai, Rohan Chandra, Lu Feng, Shangtong Zhang

机构 * University of Virginia（弗吉尼亚大学） ； Virginia Commonwealth University（弗吉尼亚 Commonwealth 大学） 纠错

AI总结 提出SCARED方法，在无参数更新的上下文强化学习适应过程中，通过精确惩罚对偶法在约束马尔可夫决策过程框架下保证安全，实现奖励最大化与成本约束。

Comments ICML 2026

Re-FORC: Adaptive Reward Prediction for Efficient Chain-of-Thought Reasoning

Re-FORC：用于高效思维链推理的自适应奖励预测

Renos Zabounidis, Aditya Golatkar, Michael Kleinman, Alessandro Achille, Wei Xia, Stefano Soatto

机构 * AWS Agentic AI（AWS智能代理部门） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究提出Re-FORC自适应奖励预测方法，通过在推理模型上训练轻量级适配器，实现早期停止无前景推理链、优化模型和思维长度选择以及自适应测试时缩放，有效提升推理效率和准确率。

Comments Accepted at ICML 2026; previously accepted as a non-archival paper at the Efficient Reasoning Workshop at NeurIPS 2025

InteractComp: Evaluating Search Agents With Ambiguous Queries

InteractComp：使用模糊查询评估搜索代理

Mingyi Deng, Lijun Huang, Yani Fan, Fanqi Kong, Jiayi Zhang, Fashen Ren, Jinyi Bai, Fuzhen Yang, Dayi Miao, Zhaoyang Yu, Yifan Wu, Yanfei Zhang, Fengwei Teng, Yingjia Wan, Song Hu, Yude Li, Xin Jin, Conghao Hu, Haoyu Li, Qirui Fu, Tai Zhong, Xinyu Wang, Xiangru Tang, Nan Tang, Chenglin Wu, Yuyu Luo

机构 * DeepWisdom（深智科技） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Renmin University of China（中国人民大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Agent Universe（智能体宇宙） ； McGill University（麦吉尔大学） ； Yale University（耶鲁大学） 纠错

AI总结 研究针对搜索代理缺乏处理模糊查询及交互能力的问题，引入InteractComp基准，通过目标-干扰物方法构建问题评估17个模型，发现模型存在过度自信问题，强制交互有提升，揭示交互能力停滞，该基准对评估和训练搜索代理交互能力有重要价值。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea. 9 pages, 4 figures

LiMuon: Light and Fast Muon Optimizer for Large Models

LiMuon: 面向大模型的轻量快速Muon优化器

Feihu Huang, Yuning Luo, Songcan Chen

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出LiMuon优化器，结合动量方差缩减与随机SVD，在降低内存的同时实现更低的样本复杂度O(ε^{-3})，并在Mamba-130M等模型上验证有效性。

Comments Published in ICML 2026

Learning to Reason for Factuality

学习进行事实性推理

Xilun Chen, Ilia Kulikov, Vincent-Pierre Berges, Barlas Oğuz, Rulin Shao, Gargi Ghosh, Jason Weston, Wen-tau Yih

机构 * FAIR at Meta（Meta 的 FAIR） ； University of Washington（华盛顿大学） 纠错

AI总结 研究推理大型语言模型在事实性推理方面的问题，提出同时考虑事实精度、响应细节和答案相关性的新型奖励函数，应用在线强化学习，使模型在长篇事实性基准测试中幻觉率降低、答案细节提升且响应帮助性无降。

Comments ICML 2026

Graph Learning on Ensembles of Cyclic Peptides: An Investigation of Molecular Ensemble Modeling

环肽集合上的图学习：分子集合建模研究

Aaron Feller, Kris Deibler, Maxim Secor

AI总结 研究针对分子构象集合预测性质的问题，提出EnsembleEGNN模型，先以EGNN层编码各构象，再用集合注意力块汇集表示，经多任务自监督预训练，在环肽数据集上取得良好效果，联合BERT编码器进一步提升预测性能。

Comments Accepted to Graph Foundation Models workshop at ICML '26. Contains 8 pages, 4 figures

White Box Evidence Packages for Policy Audit Reports

政策审计报告的白盒证据包

Seunghyun Yoo

AI总结 研究在政策审计中评审者如何判断报告有无证据支持，引入可控评估框架，在多种证据条件下生成报告让评审员评估。结果显示内部证据影响报告引用推理方式，混合接口最有用，随机控制揭示风险，还将内部模型访问重构为证据设计问题。

Comments 16 pages, 5 figures. Presented at the Second Workshop on Technical AI Governance Research (TAIGR) at ICML 2026

SlerpFlow: Spherical Trajectory Correction for Rectified Flow Inversion

SlerpFlow：用于整流流反演的球形轨迹校正

Wenbin Duan, Yan Shu, Zhuoyuan Fu, Fangmin Zhao, Yan Li, Yaru Zhao, Binyang Li

AI总结 研究针对基于整流流的图像生成中反演难题，提出SlerpFlow方法，基于流形假设，整合球形线性插值校正流速度方向，缓存校正速度，实现高精度反演，提升重建保真度与编辑语义对齐，无需额外训练。

Comments 16 pages. Accepted at ICML 2026

Leveraging Biokinetic Knowledge Priors for Data-Scarce Bioprocess Modeling

利用生物动力学知识先验进行数据稀缺的生物过程建模

Kyunghoon Hur, Eunjung Jeon, Hyun Woo Kim, Gyubok Lee, Seongjun Yang

AI总结 研究针对生物制造数据稀缺问题，将生物动力学ODE知识注入神经网络，比较数据级和架构级先验方法，二者在多数据集和微生物物种上均优于无先验基线且可替代，模拟预训练为生物过程深度学习提供简单高效方法。

Comments Accepted at ICML 2026 AI for Science Workshop

AppWorld-UL: Benchmarking Diverse Agent-User Interactions for Tool-Use

AppWorld-UL：用于工具使用的多样化智能体-用户交互基准测试

Junzhi Chen, Harsh Trivedi, Jane Pan, Michael JQ Zhang, Tejas Srinivasan, Niranjan Balasubramanian, Ashish Sabharwal

AI总结 研究针对当前智能体-用户交互基准测试不足，引入 AppWorld-UL 基准测试，基于 AppWorld 框架及模拟应用构建多样任务，用大型语言模型模拟用户行为，评估显示其难度大，能推动回路中工具使用智能体研究。

Comments ICML 2026

Position: Stop Reactively Patching Your Model Every Time and Start Proactive Test-Driven AI Development

立场：停止每次都被动地修补模型，开始主动的测试驱动人工智能开发

Nadine Chang, Maying Shen, Jialiang Wang, Rafid Mahmood, Jose M. Alvarez

AI总结 针对现代AI系统多样用例下的维护问题，提出用主动测试驱动飞轮解决反应式飞轮的局限性，通过创建“测试空间”映射反馈数据到任务目标，经数学证明主动飞轮能以更少迭代实现更好长期扩展性。

Comments Accepted at ICML 2026 Position Paper Track. 18 pages

LeanFlow: A Case Study in Workflow-Driven Lean Autoformalization

LeanFlow：工作流驱动的精益自动形式化案例研究

Lazar Milikic, Simon Guilloud, Khanh Nguyen, Viktor Kuncak

机构 * Moonshot AI（月球计划人工智能公司） ； epfl-lara（洛桑联邦理工学院拉腊实验室） 纠错

AI总结 研究通过对两篇数学论文案例研究，探讨文档到项目形式化中运行时机制对相关指标的影响，使用Kimi2.6和GPT5.5进行消融实验，报告多项数据，展示LeanFlow在特定任务上的表现及校准成果。

Comments 14 pages, 3 figures, ICML 2026: AI for Math Workshop

Expectation Alignment of Language Models for Real-World User Expectations

语言模型与现实世界用户期望的期望对齐

Miaomiao Li, Yang Wang, Bin Liang, Shudong Liu, Zhiwei Zhang, Kam-Fai Wong

AI总结 研究LLMs是否满足用户期望，提出提取期望程序并引入ExpectBench基准，分析发现LLMs存在问题，进而提出LENS框架，可让模型内化期望以生成更契合的响应，凸显明确建模用户期望对实现现实人机对齐的重要性。

Comments Accepted by ICML 2026

The Devil is in the Spectrum: Mitigating Representation Collapse in LLMs via Topologically Regularized Side-Path

问题出在频谱中：通过拓扑正则化侧路径减轻大语言模型中的表示坍缩

Yiheng Tao, Kaiwen Cheng, Yao Lu, Chang Liu, Jie Chen

AI总结 研究针对大语言模型表示坍缩问题，通过频谱分析得出混合效率与信息容量的权衡，提出TRSP方法，采用无参数三角盒机制和长度感知门正则化令牌交互拓扑，实验证明该方法在多方面有显著改进。

Comments 22pages, 4 figures, poster of icml 2026

VeriSimpl: Robust Optimization Modeling from Natural Language using Simplification-based Verification

VeriSimpl：基于简化验证的自然语言鲁棒优化建模

Sumaya Abdul Rahman, Seckhen Ariel Andrade Cuellar, Ghani Raissov, Mohammad Raza

机构 * Gurobi（古罗比） ； IBM（国际商业机器公司） 纠错

AI总结 研究自然语言到优化建模问题，核心方法是基于简化验证理念，利用优化求解器生成诊断查询让大语言模型推理公式正确性，主要贡献是在优化基准测试中提升准确性并提供高精度自验证信号。

Comments ICML 2026

Stochastic Sampling is Epistemically Shallow: The Dimensionality Gap Between Temperature Variation and Model Diversity in LLMs

随机采样在认知上是浅薄的：大语言模型中温度变化与模型多样性之间的维度差距

Izhar Ali

机构 * Rowan University（罗文大学） 纠错

AI总结 研究语言模型重复运行答案不同时其变化能否揭示未知，比较单个模型多次运行与模型集合一次运行，通过随机矩阵测试发现单个模型跨问题结构不明显，自一致性能给出单问题不确定性，多样集合可揭示模型未知。

Comments 8 pages, 4 figures, 3 tables. Accepted at EIML@ICML 2026

Position: Natural Language Should Not Fully Replace Formal Languages

立场：自然语言不应完全取代形式语言

Eitan Wagner, Elisha Rosensweig, Omri Abend

AI总结 针对自然语言能否完全取代形式语言的争议，引入基于“任务特异性”的形式框架并证明“特异性交叉定理”，通过跨模态案例分析表明二者各有优势，是互补工具，倡导开发混合系统。

Comments To be published in ICML 2026 (position track)

OPIUM: Mitigating Steering Externalities and Over-Refusal via Dual Objective Latent Optimization

OPIUM：通过双目标潜在优化减轻引导外部性和过度拒绝

Kavin Aravindan, Arihant Rastogi, Krishak Aneja, Aadi Prasad, Saiyam Jain, Vaishnavi Shivkumar, Ponnurangam Kumaraguru

AI总结 研究激活引导向量存在的外部性问题，提出无训练方法OPIUM，通过表示匹配净化引导向量，在给定参考行为下优化新向量，改善安全与效用权衡，减轻激活引导的有害副作用。

Comments Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning (ICML 2026)

Parameter-Free Encoders Remain Viable for RDB Foundation Models

无参数编码器对关系数据库基础模型仍然可行

Linjie Xu, David Wipf

AI总结 研究如何利用关系数据库预测目标列缺失值，对比无参数和参数化编码器，分析标签输入时RDB编码器属性，通过实验验证简单无参数编码器在多基准任务中仍有强大性能。

Comments ICML 2026 Workshop on Foundation Models for Structured Data

Enhancing Membership Inference Attacks on Diffusion Models from a Frequency-Domain Perspective

从频域角度增强扩散模型的成员推理攻击

Puwei Lian, Yujun Cai, Songze Li, Bingkun Bao

机构 * Southeast University（东南大学） ； The University of Queensland（昆士兰大学） ； Hefei University of Technology（合肥工业大学） ； Engineering Research Center of Blockchain Application, Supervision and Management (Southeast University), Ministry of Education（区块链应用、监督与管理工程研究中心（东南大学），教育部） 纠错

AI总结 本文从频域角度揭示扩散模型处理高频信息的缺陷导致成员推理攻击误分类，并提出即插即用的高频滤波模块以提升攻击性能。

Comments Accepted to Forty-Third International Conference on Machine Learning (ICML 2026)

AG-REPA: Causal Layer Selection for Representation Alignment in Audio Flow Matching

AG-REPA：音频流匹配中表示对齐的因果层选择

Pengfei Zhang, Tianxin Xie, Minghao Yang, Li Liu

机构 * AI Thrust, Information Hub, The Hong Kong University of Science and Technology (Guangzhou)（人工智能 thrust，信息中心，香港科学与技术大学（广州）） 纠错

AI总结 提出AG-REPA方法，通过前向门控消融量化各层对速度场的因果贡献，实现稀疏层选择和自适应加权对齐，在音频流匹配中优于传统REPA基线。

Comments Accepted to ICML 2026. 17 pages, 4 figures, 12 tables