ICML

SafeHarbor: Defining Precise Decision Boundaries via Hierarchical Memory-Augmented Guardrail for LLM Agent Safety

SafeHarbor：用于LLM智能体安全的分层记忆增强防护栏

Zhe Liu, Zonghao Ying, Wenxin Zhang, Quanchen Zou, Deyue Zhang, Dongdong Yang, Xiangzheng Zhang, Hao Peng

机构 * School of Cyber Science and Technology, Beihang University, Beijing, China（北京航空航天大学网络安全学院） ； Institute of Artificial Intelligence, Beihang University, Beijing, China（北京航空航天大学人工智能研究院） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； AI Security Lab, Beijing, China（360人工智能安全实验室） 纠错

AI总结 提出SafeHarbor框架，通过分层记忆系统和信息熵自进化机制，在保持高安全拒绝率的同时提升对良性请求的响应能力。

Comments Accepted by ICML 2026

From Noise to Diversity: Random Embedding Injection in LLM Reasoning

从噪声到多样性：在LLM推理中的随机嵌入注入

Heejun Kim, Seungpil Lee, Jewon Yeom, Jaewon Sok, Seonghyeon Park, Jeongjae Park, Taesup Kim, Sundong Kim

机构 * Gwangju Institute of Science and Technology（光州科学技术学院） ； Seoul National University（首尔国立大学） ； Microsoft Research（微软研究院） 纠错

AI总结 本文研究了随机软提示（RSPs），通过在输入中添加随机嵌入向量提升推理性能，揭示了注入过程对生成多样性的影响，并在推理和训练中均取得显著效果。

Comments Under review, ICML 2026 Mechanistic Interpretability Workshop (Spotlight)

Towards Disentangled Preference Optimization Dynamics: Suppress the Loser, Preserve the Winner

朝着解耦偏好优化动态：压制失败者，保留胜利者

Wei Chen, Yubing Wu, Junmei Yang, Delu Zeng, Qibin Zhao, John Paisley, Min Chen, Zhou Wang

机构 * South China University of Technology（南方科技大学） ； Columbia University（哥伦比亚大学） ； University of Waterloo（滑铁卢大学） 纠错

AI总结 本文提出奖励校准方法，通过解耦带宽条件实现压制失败者并保留胜利者的优化动态，提升了下游性能。

Journal ref International Conference on Machine Learning(ICML) 2026

LatentChem: From Textual CoT to Latent Thinking in Chemical Reasoning

LatentChem: 从文本思维链到化学推理中的潜在思考

Xinwu Ye, Yicheng Mao, Yuxuan Liao, Jia Zhang, Yimeng Liu, Li Hao, Fang Wu, Zhiwei Li, Zehong Wang, Zhiyuan Liu, Zhenfei Yin, Li Yuan, Philip Torr, Huan Sun, xiangxiang Zeng, Mengdi Wang, Le Cong, Shenghua Gao, Xiangru Tang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 针对化学大语言模型依赖显式思维链导致的模态不匹配问题，提出LatentChem推理接口，通过连续思维向量和动态感知解耦化学逻辑与语言生成，在ChemCoTBench上以59.88%非平局胜率超越强CoT基线，并实现平均10.84倍推理步骤开销降低（5.96倍实际加速）。

Comments Accepted at ICML 2026

Simple Policy Gradients for Reasoning with Diffusion Language Models

为扩散语言模型进行推理的简单策略梯度

Anthony Zhan

机构 * Stanford University（斯坦福大学） 纠错

AI总结 本文提出 AGRPO 算法，通过优化 dLLM 的去噪步骤提升推理性能，实现多个任务上的显著增益。

Comments 19 pages. ICML 2026

Interpretable Embeddings with Sparse Autoencoders: A Data Analysis Toolkit

使用稀疏自动编码器的可解释嵌入：一种数据分析工具包

Nick Jiang, Xiaoqing Sun, Lisa Dunlap, Lewis Smith, Neel Nanda

机构 * University of California, Berkeley（加州大学伯克利分校） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

AI总结 研究针对大规模文本语料库分析难题，提出用稀疏自动编码器创建SAE嵌入，经四个任务验证其比大语言模型更具性价比、比密集嵌入更可控，通过案例研究展示其在研究模型行为上的作用，是用于非结构化数据分析的通用工具。

Comments ICML 2026. Project page and code: https://interp-embed.com

Student-Centered Distillation Narrows the Agentic Gap Between Small and Large LLMs

以学生为中心的蒸馏缩小了小型和大型语言模型之间的智能差距

Yuanjie Lyu, Chengyu Wang, Jun Huang, Tong Xu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 研究旨在缩小大小语言模型智能差距，提出SCoRe框架，让学生生成训练轨迹，教师纠正最早错误，经微调与短视距强化学习，提升学生解决问题能力，在12个基准测试中，70亿参数学生模型缩小了与720亿参数教师模型的性能差距

Comments Accepted to ICML 2026. The title has been changed from "From Correction to Mastery: Reinforced Distillation of Large Language Model Agents" to "Student-Centered Distillation Narrows the Agentic Gap Between Small and Large LLMs"; the camera-ready version has been uploaded

Concept Concentration for Faithful Representation Intervention

用于忠实表示干预的概念集中化

Hongzheng Yang, Yongqiang Chen, Zeyu Qin, Tongliang Liu, Chaowei Xiao, Kun Zhang, Bo Han

机构 * SAIC Centre, USYD（SAIC中心） 纠错

AI总结 研究大语言模型表示干预中定位忠实概念的问题，提出概念集中化（COCA）方法，通过重构训练数据简化决策边界，有效降低分布内和分布外越狱成功率，且在常规任务上保持性能。

Comments ICML'26; Hongzheng and Yongqiang contributed equally; project page: https://causalcoat.github.io/coca

Efficient Clustering with Provable Guardrails for LLM Inference at Scale

大规模LLM推理中具有可证明护栏的高效聚类

Longshaokan Wang, Wai Tsang Keung, Punit Ghodasara, Roman Wang, Ali Dashti, Francesc Moreno-Noguer

机构 * Amazon（亚马逊） 纠错

AI总结 研究针对大规模LLM推理成本和延迟瓶颈，提出两阶段聚类算法，先用Mini-batch K-Means生成初始聚类，再在其中选代表，能保证逐样本质量控制，运行高效且可扩展，相比常见方法有显著优势，部署后大幅降低成本和延迟。

Comments Accepted for presentation at ICML HiLD workshop 2026 (non-archival)

Reward-Aware Population Scaling of Evolutionary Strategies in LLM Fine-Tuning

语言模型微调中基于奖励感知的进化策略种群规模缩放

Sung Cho, Gyubin Han

AI总结 研究在大语言模型微调中，进化策略种群规模缩放与奖励设计及归一化的关系。通过实验发现交叉熵与二元奖励微调种群规模结论差异大，主要因奖励设计和归一化，禁用归一化可改进小种群模型表现，揭示小种群失败可能是实现问题而非内在限制。

Comments 15 pages, 2 figures. Accepted at the 4th HiLD (High-dimensional Learning Dynamics) Workshop, ICML 2026

Euclean: Automated Geometry Problem Formalization with Unified Verification in Lean

Euclean：在Lean中通过统一验证实现几何问题的自动形式化

Linbin Tang, Jingyan You, Zilin Kang, Hanzhang Liu, Sophia Zhang, Zenan Li, Chenrui Cao, Liangcheng Song, Jiaao Wu, Xian Zhang, Fan Yang

机构 * Google DeepMind（谷歌DeepMind） ； ByteDance Seed Team（字节跳动种子团队） 纠错

AI总结 研究针对几何问题形式化的碎片化现状，提出Euclean框架，通过四个阶段在Mathlib中自动形式化几何，构建了大型数据集，经评估有一定准确率，能提升Goedel v2证明成功率，验证了数据集质量。

Comments ICML 2026

Rethinking Uncertainty Evaluation in Large Language Models

重新思考大语言模型中的不确定性评估

Krish Matta, Atharv Naphade, Andy Zou

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Meta 纠错

AI总结 研究大语言模型中置信度评估问题，指出校准标准不充分。沿结构连贯性、忠实性和有用性三个轴形式化条件为C1指标，发现常用估计器违反条件，RLHF等未恢复连贯性，框架可测度与弥合差距。

Comments 19 pages, 11 figures, ICML 2026 EIML Workshop

Microlensing Detection and Inference via Learned Bayes Factors

通过学习贝叶斯因子进行微引力透镜检测和推断

Nolan Smyth, Laurence Perreault-Levasseur, Yashar Hezaveh

AI总结 该研究提出统一框架，用证据网络进行贝叶斯模型比较检测引力微透镜事件，结合神经后验估计推断参数，共享变压器编码器处理不规则采样。在模拟数据上检测效率高、误报率低，在极端区域优势明显，NPE能提供校准后验，助力实时分析。

Comments Accepted at ICML 2026 AI for Physics Workshop

Strong Gravitational Lensing Posterior Sampling in Pixel-Space Using Diffusion Models and Recurrent Inference Machines

使用扩散模型和循环推理机在像素空间中进行强引力透镜后验采样

Guillaume Payeur, Laurence Perreault-Levasseur, Gabriel Missael Barco, Yashar Hezaveh

机构 * Department of Physics, Universit\'e de Montr\'eal, Montreal QC, Canada ； Mila - Quebec AI Institute, Montreal QC, Canada ； Ciela Institute, Institute for Astrophysics ； Trottier Space Institute, McGill University, Montreal QC, Canada ； Center for Computational Astrophysics, Flatiron Institute, New York, USA ； Perimeter Institute for Theoretical Physics, Waterloo ON, Canada 纠错

AI总结 研究星系-星系强引力透镜问题，提出结合扩散生成建模与循环推理机的方法，能生成源星系和前景质量分布的联合后验样本作为像素化图像，可对含背景和前景星系的真实引力透镜模拟建模至噪声水平。

Comments 31 pages, 34 figures, Extension of an article accepted at the ICML 2026 Workshop on AI for Physics

ChemHyperMag: Physics-informed magnetic hypergraph learning improves molecular ADMET prediction

ChemHyperMag：基于物理信息的磁超图学习改进分子ADMET预测

Hexiao Ding, Hongzhao Chen, Jing Lan, Yufeng Jiang, Zihong Luo, Zehua Xiong, Tianlong Ruan, Yunlin Mao, Nga Chun Ng, Gwing Kei Yip, Gerald W. Y. Cheng, Kate Inyoung Oh, Jing Cai, Liang-Ting Lin, Jung Sun Yoo

AI总结 该研究针对分子ADMET预测问题，提出ChemHyperMag方法，通过构建官能团超图、定义势驱动不可逆流等，经磁拉普拉斯编码和磁切比雪夫编码器处理，在多基准实验中以更少样本实现改进，且具有可扩展性和可解释性。

Comments Accepted by Proceedings of the AI4Physics Workshop at the 43 rd International Conference on Machine Learning (AI4Physics@ICML 2026)

Boundary Embedding Shaping with Adaptive Contrastive Learning for Graph Structural Disentanglement

基于自适应对比学习的边界嵌入塑造用于图结构解缠

Jiaqing Chen, Zidu Yin, Yichao Cai, Yuhang Liu, Zhen Zhang, Dong Gong, Javen Qinfeng Shi

机构 * Yunnan Normal University（云南师范大学） ； Adelaide University（阿德莱德大学） ； The University of New South Wales（新南威尔士大学） 纠错

AI总结 针对图结构纠缠导致的分类性能下降，提出边界嵌入塑造模块，通过自适应对比学习选择性抑制决策边界处的虚假结构噪声，提升节点分类和链接预测精度。

Comments Accepted at ICML 2026

SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation

SGMD: 得分梯度匹配蒸馏用于少步视频扩散蒸馏

Zhuguanyu Wu, Ruihao Gong, Yang Yong, Yushi Huang, Xiangyu Fan, Lei Yang, Dahua Lin, Xianglong Liu

机构 * Beihang University（北京航空航天大学） ； SenseTime Research（商汤科技研究院） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

AI总结 针对分布匹配蒸馏在少步视频扩散中训练昂贵且运动动态保守的问题，提出得分梯度匹配蒸馏（SGMD），通过直接优化假得分朝向教师并使用教师停止梯度Fisher作为稳定目标，实现约3倍训练加速并显著提升运动动态。

Comments ICML 2026

Streaming Sliced Optimal Transport

流式切片最优传输

Khai Nguyen

机构 * Department of Statistics（统计系） ； Data Sciences, University of Texas at Austin, USA（数据科学系，德克萨斯大学奥斯汀分校） 纠错

AI总结 本文提出流式切片最优传输（Stream-SW）方法，通过流式估计一维Wasserstein距离来提升计算效率，适用于样本流中的切片最优传输估计，具有低内存复杂度和理论误差保证。

Comments Accepted to ICML 2026, 21 pages, 8 figures, 7 tables

Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference

用于因果推断的先验数据拟合网络的频率派一致性

Valentyn Melnychuk, Vahid Balazadeh, Stefan Feuerriegel, Rahul G. Krishnan

机构 * LMU Munich \& Munich Center for Machine Learning (MCML), Munich, Germany ； University of Toronto \& Vector Institute, Toronto, Canada 纠错

AI总结 本文分析基于先验数据拟合网络（PFN）的平均处理效应（ATE）估计量的频率派一致性，发现其存在先验诱导的混淆偏差，并提出基于一步后验校正（OSPC）的校准方法，结合鞅后验恢复功能干扰后验，从而恢复频率派一致性并实现半参数Bernstein-von Mises定理。

Journal ref Proceedings of the 43-rd International Conference on Machine Learning, Seoul, South Korea, PMLR 306, 2026

Posterior Sampling Reinforcement Learning with Gaussian Processes for Continuous Control: Sublinear Regret Bounds for Unbounded State Spaces

基于高斯过程的后验采样强化学习用于连续控制：无界状态空间的次线性遗憾界

Hamish Flynn, Joe Watson, Ingmar Posner, Jan Peters

机构 * University of Oxford（牛津大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Technical University of Darmstadt（达姆施塔特技术大学） ； Robotics Institute Germany（德国机器人研究所） 纠错

AI总结 本文通过递归应用Borell-Tsirelson-Ibragimov-Sudakov不等式和链式方法，在弱平滑条件下证明了GP-PSRL算法的贝叶斯遗憾界为$\widetilde{\mathcal{O}}(H\sqrt{\gamma_TT})$，解决了先前理论工作的局限性。

Comments Accepted at ICML 2026. 45 pages, 8 figures

Approximate Nearest Neighbor Search for Modern AI: A Projection-Augmented Graph Approach

近似最近邻搜索用于现代AI：一种投影增强图方法

Kejing Lu, Zhenpeng Pan, Jianbin Qin, Yoshiharu Ishikawa, Chuan Xiao

机构 * University of Yamanashi（山梨大学） ； Beijing Institute of Technology, Zhuhai（北京理工大学（珠海）） ； Shenzhen University（深圳大学） ； Nagoya University（名古屋大学） ； Osaka University（大阪大学） 纠错

AI总结 本文提出了一种投影增强图方法，用于解决现代AI应用中近似最近邻搜索的高效率、快速索引、低内存占用、高维扩展性、鲁棒性和在线插入支持等需求。

Comments Accepted as a poster at ICML 2026. Source code is available at https://github.com/KejingLu-810/PAG/

LatentLens: Revealing Highly Interpretable Visual Tokens in LLMs

LatentLens: 揭示大语言模型中高度可解释的视觉标记

Benno Krojer, Shravan Nayak, Oscar Mañas, Vaibhav Adlakha, Desmond Elliott, Siva Reddy, Marius Mosbach

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 提出 LatentLens 方法，通过将视觉标记与文本语料库中的上下文标记表示进行最近邻匹配，实现视觉标记的可解释性，发现大多数视觉标记在各层均具有可解释性。

Comments ICML 2026 (Camera Ready)

Simultaneous Speech-to-Speech Translation Without Aligned Data

无需对齐数据的同时语音到语音翻译

Tom Labiausse, Romain Fabre, Yannick Estève, Alexandre Défossez, Neil Zeghidour

机构 * LIA, University of Avignon, France（LIA，阿维尼翁大学，法国） 纠错

AI总结 Hibiki-Zero无需词级对齐数据，通过句子级对齐和强化学习策略实现高精度的同时语音翻译，支持多种语言并提升翻译质量与效率。

Comments See inference code at: https://github.com/kyutai-labs/hibiki-zero

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Abstraction Induces the Brain Alignment of Language and Speech Models

抽象诱导语言和语音模型的脑对齐

Emily Cheng, Aditya R. Vaidya, Richard Antonello

机构 * The University of Texas at Austin, USA（德克萨斯大学奥斯汀分校） ； Zuckerman Mind Brain Behavior Institute, Columbia University, USA（祖克曼心智-大脑-行为研究所，哥伦比亚大学） 纠错

AI总结 研究发现语言和语音模型通过共享的意义抽象与大脑对齐，中间层的高内在维度和语义内容增强了大脑预测性。

Comments ICML 2026 camera-ready version

Journal ref ICML 2026

On the Separability of Information in Diffusion Models

关于扩散模型中信息分离性

Akhil Premkumar

机构 * Department of Applied Physics, Yale University, New Haven, CT 06511, USA（应用物理系，耶鲁大学） 纠错

AI总结 本文研究扩散模型中信息的分离性，发现模型大部分信息用于重建图像细节，而类别标签相关性由语义内容决定，从而解释了无分类器指导的有效性。

Comments 30 pages + references, 19 figures. v5: Camera-ready version from ICML 2026

Geometry-Guided Generative Representation for Functional Brain Graphs

功能脑图的几何引导生成表示

Subati Abulikemu, Tiago Azevedo, Michail Mamalakis, John Suckling

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 研究针对网络神经科学中功能脑图表征问题，用图变换器自动编码器，结合特定领域功能梯度几何，无监督学习紧凑脑图表示，能分离认知状态、解码视觉刺激，还可生成合成脑图。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Membership Inference Attacks for Unseen Classes

针对未见类别的成员推理攻击

Pratiksha Thaker, Neil Kale, Zhiwei Steven Wu, Virginia Smith

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究针对未见类别的成员推理攻击，指出多数现有攻击因无法访问完整目标分布而失败，提出“未见类”设置，证明分位数回归攻击在此设置下优于其他方法，从实证和理论上展示其优势并给出成功所需泛化属性模型。

Comments Published at ICML 2026

EditLord: Learning Code Transformation Rules for Code Editing

EditLord: 学习代码变换规则用于代码编辑

Weichen Li, Albert Jan, Baishakhi Ray, Junfeng Yang, Chengzhi Mao, Kexin Pei

机构 * The University of Chicago（芝加哥大学） ； Columbia University（哥伦比亚大学） ； Rutgers University（罗格斯大学） 纠错

AI总结 EditLord通过显式化代码变换步骤，利用语言模型提取元规则集，提升代码编辑性能和鲁棒性。

Journal ref 42nd International Conference on Machine Learning (2025)

Cross-Agent Campaign Attribution: Linking Asynchronous Attacks Across LLM Agents

跨智能体活动归因：关联大语言模型智能体间的异步攻击

SangJin Park, Myungsub Choi, Jineok Kim, Minseung Kang

AI总结 研究跨大语言模型智能体的异步攻击归因问题，提出异步归因指纹向量（$A^2FV$）协议，构建SCD-v1基准，实验表明$A^2FV$在活动关联上表现良好，确立跨智能体活动归因作为保护大语言模型智能体的独特评估层。

Comments 22 pages, 5 figures. Accepted at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026

AEVAL: From Anecdotal to Deterministic Testing for Agentic Skill Workflows

AEVAL：从轶事性到确定性的智能体技能工作流测试

Tejas Singh Anand, Yuet Ying Christina Wang, Wanting Jiang, Steve Masson, Tian Zheng, Bingjie Zhou

机构 * nvidia（NVIDIA公司） 纠错

AI总结 研究针对智能体技能工作流测试缺乏确定性和可重复性的问题，提出AEVAL框架，通过执行器与评分器分离等方法，实现确定性、可重复的测试，给出分层修复建议，能将虚假通过率转换为可重复失败信号并记录修复过程。

Comments 8 pages, 1 figure, 1 table, accepted at the ICML 2026 Workshop on Statistical Frameworks for Uncertainty in Agentic Systems