ICML

When One Adapter Speaks for Many: Discovering Low-Rank Redundancy in Continual Fine-Tuning

当一个适配器代表多个任务：在持续微调中发现低秩冗余

Tanguy Dieudonné, Giulia Lanzillotta, Enis Simsar, Louis Barinka, Thomas Hofmann

机构 * ETH Zurich（苏黎世联邦理工学院） 纠错

AI总结 本文发现持续学习中的LoRA适配器存在显著低秩冗余，提出LiteLoRA门控机制，通过复用现有适配器减少20-70%活跃适配器，同时保持或超越现有性能。

Comments ColorAI @ ICML 2026

RECAST: Model Reconstruction via Counterfactual-Aware Wasserstein Geometry under Limited Data

RECAST：有限数据下基于反事实感知的Wasserstein几何的模型重建

Xuan Zhao, Lena Krieger, Zhuo Cao, Arya Bangun, Hanno Scharr, Ira Assent

AI总结 提出RECAST方法，利用Wasserstein重心原型和反事实解释，在有限数据和受限访问下重建黑箱模型，解决决策边界偏移和过拟合，实现高保真度和公平性审计。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

VASAE: Naming SAE Dictionary Directions with Vocabulary-Aligned Anchoring

VASAE: 使用词汇对齐锚定命名SAE字典方向

Kairui Zhang, Ziwen Yu, Zahraa S. Abdallah, Martha Lewis

机构 * Intelligent Systems Laboratory, University of Bristol（布里斯托大学智能系统实验室） ； University of Bristol（布里斯托大学） 纠错

AI总结 提出词汇对齐稀疏自编码器（VASAE），通过词汇对齐锚定训练SAE特征，为每个特征分配内在令牌名称，在不降低重构质量的前提下实现约90%的特征对齐。

Comments 14 pages, 7 figures. Accepted to the 2nd Workshop on Compositional Learning at ICML 2026

Two-Stage Fine-Tuning for Protein Sequence Generation with Targeted Amino-Acid Composition

针对目标氨基酸组成的蛋白质序列生成的两阶段微调

Violeta Basten-Romero, Rubén Muñoz-Tafalla, Anna María Díaz-Rovira, Bertran Miquel-Oliver, Isaac Filella-Merce, Víctor Guallar

机构 * Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心） ； Nostrum Biodiscovery S.L.（Nostrum生物发现有限公司） ； ICREA 纠错

AI总结 提出两阶段微调方法，先领域自适应微调，再强化学习迭代微调，以生成符合目标氨基酸组成且保持序列质量的蛋白质序列。

Comments 17 pages, 5 figures, ICML 2026 Workshop GenBio

Scalable and Differentiable Point-Cloud Registration Using Maximum Mean Discrepancy

可扩展且可微的点云配准：基于最大均值差异

Rixon Crane, Fahira Afzal Maken, Nicholas Lawrance, Stanislav Funiak, Kasra Khosoussi, Ming Xu, Russell Tsuchida

机构 * Data61, CSIRO, Brisbane, Australia（Data61，澳大利亚联邦科学与工业研究组织，布里斯班） ； Work done while at Data61, CSIRO, Brisbane, Australia（在Data61，澳大利亚联邦科学与工业研究组织，布里斯班工作期间） 纠错

AI总结 提出MMD-Reg，一种基于最大均值差异的无对应点云配准方法，通过随机傅里叶特征近似实现线性复杂度，并利用隐函数定理保证可微性，支持端到端训练。

Comments Accepted at ICML 2026

SpikeVLA: Vision-Language-Action Models with Spiking Neural Networks

SpikeVLA：基于脉冲神经网络的视觉-语言-动作模型

Ruiqi Song, Dujun Nie, Siyu Teng, Baiyong Ding, Xiaotong Zhang, Dong Li, Chenming Zhang, Yuchen Li, Hangbin Wu, Long Chen

AI总结 提出SpikeVLA，一种脉冲VLA架构，通过事件驱动稀疏计算降低能耗，在导航和机器人控制任务中保持竞争力，适用于低功耗实时具身智能。

Comments Accepted by ICML 2026. 16 pages, 9 figures

Journal ref Proceedings of the 43rd International Conference on Machine Learning, 2026

Temporal-Emerged Prompting for Segment Anything in Multiframe Infrared Small Target Detection

时间涌现提示用于多帧红外小目标检测中的Segment Anything

Yinghui Xing, Donghao Chu, Shizhou Zhang, Di Xu

AI总结 提出TEP-SAM框架，通过联合建模全局运动模式和局部运动偏差，利用时间涌现线索提示SAM，实现低信噪比红外序列中小目标的精准定位与分割。

Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

Dismantling Pathological Shortcuts: A Causal Framework for Faithful LVLM Decoding

拆除病理性捷径：忠实LVLM解码的因果框架

Liu Yu, Can Chen, Ping Kuang, Zhikun Feng, Fan Zhou, Gillian Dobbie

AI总结 提出Fox框架，通过视觉注意力熵探针定位风险中介头，利用数值logit饱和进行因果干预，并结合冲突门控协同解码，消除视觉语言模型中的对象幻觉，实现忠实解码。

Comments 29 pages, 25 figures. Accepted by ICML 2026

Retroactive Advantage Correction: Closed-Form V-Trace Bias Correction for Delay-Aware RLHF

回溯优势修正：面向延迟感知RLHF的闭式V-Trace偏差修正

Arnav Raj

AI总结 针对RLHF中奖励信号延迟的问题，提出回溯优势修正（RAC），通过非负核函数队列化延迟反馈并注入优势估计，理论证明其无偏性，在表格MDP实验中偏差降低达47.9倍。

Comments Accepted at the ICML 2026 Workshop on Reinforcement Learning from World Feedback (RLxF). Code: https://github.com/deadsmash07/rac-rlxf-code

PEBS: Per-rater Empirical-Bayes Shrinkage for RLHF Reward-Model Calibration

PEBS: 用于RLHF奖励模型校准的每评分者经验贝叶斯收缩

Arnav Raj

AI总结 针对RLHF中奖励模型忽略评分者个体差异的问题，提出PEBS方法，对每个评分者拟合仿射校准器并应用经验贝叶斯收缩，在PRISM和PluriHarms数据集上分别降低RMSE 8.58%和9.66%。

Comments Accepted at the ICML 2026 Workshop on Pluralistic Alignment. Code: https://github.com/deadsmash07/pebs-pluralistic

Large Language Model Teaches Visual Students: Cross-Modality Transfer of Fine-Grained Conceptual Knowledge

大型语言模型教授视觉学生：细粒度概念知识的跨模态迁移

Thomas Shih-Chao Liang, Zhuoran Yu, Yong Jae Lee

AI总结 提出LaViD框架，利用语言模型生成多选题来蒸馏细粒度视觉概念，无需多模态数据，在多个基准上超越现有方法。

Comments Accepted by ICML 2026

Towards Evaluation of Implicit Software World Models in Coding LLMs

面向编码大语言模型中隐式软件世界模型的评估

Egor Bogomolov, Yaroslav Zharov

机构 * JetBrains Research（JetBrains研究） 纠错

AI总结 本文通过预测执行资源（峰值内存、墙钟时间、分析器输出）扩展软件世界模型评估，发现前沿模型表现有限，表明对软件执行理解不足。

Comments Accepted to DL4Code workshop at ICML 2026

Position: The Term "Machine Unlearning" Is Overused in LLMs

立场：术语“机器遗忘”在大型语言模型中被过度使用

Sangyeon Yoon, Yeachan Jun, Albert No

AI总结 本文主张机器遗忘应限于数据集定义的删除，而许多标为“遗忘”的任务（如拒绝有害请求、实体/知识移除）实为不同目标，需不同术语和基线，并指出术语混淆导致指标误用。

Comments 13 pages; ICML 2026 Position Paper Track. Sangyeon Yoon and Yeachan Jun contributed equally

Reduction of Probabilistic Chemical Reaction Networks

概率化学反应网络的约简

Mauricio Montes, Gregoire Sergeant-Perthuis

AI总结 针对概率化学反应用网络规模过大的问题，通过恢复因子图结构并迁移约简结果，在保持信念传播不动点的前提下显著缩小网络。

Comments Accepted to ICML 2026

Towards Explainable Adjudicative Variance: Quantifying Judicial Discretion via Gated Multi-Task Learning

迈向可解释的裁判差异：通过门控多任务学习量化司法裁量权

Stanisław Sójka, Felix Steffek, Matthias Grabmair

AI总结 提出法官感知门控多任务学习架构，通过细粒度结果分类和门控融合机制区分客观事实与司法裁量，在UK就业法庭数据上以更少参数超越生成式SFT基线，实现可解释的裁判差异量化。

Comments 17 pages (8 pages main text), 5 figures, 9 tables. Accepted to the AI for Law Workshop at the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea

Conformal Bayes under Label Shift: Post-Hoc Calibration vs. In-Training Adaptation

标签偏移下的共形贝叶斯：事后校准与训练内适应

Seungjin Choi

机构 * CROID Research and aSSIST University（CROID研究院和aSSIST大学） 纠错

AI总结 研究标签偏移下共形贝叶斯方法，通过重要性加权共形校准恢复目标域覆盖，比较事后校准与训练内适应两种策略，后者在偏差训练中起到去偏作用。

Comments 2nd Workshop on Epistemic Intelligence in Machine Learning (EIML@ICML 2026)

Autoregressive Boltzmann Generators

自回归玻尔兹曼生成器

Danyal Rehman, Charlie B. Tan, Yoshua Bengio, Avishek Joey Bose, Alexander Tong

AI总结 提出自回归玻尔兹曼生成器（ArBG），通过自回归建模替代基于流的模型，克服拓扑约束并提升可扩展性，在分子系统采样中显著优于现有方法，并在8残基系统上将零样本能量误差降低60%以上。

Comments ICML 2026 (Spotlight)

The Geometry of Updates: Fisher Alignment at Vocabulary Scale

更新的几何：词汇规模下的Fisher对齐

John Sweeney

机构 * Sideplane AI 纠错

AI总结 针对共享词汇的LLM家族，提出FisherSketch方法，通过核均值嵌入的余弦相似度估计Fisher对齐，实现词汇规模下的高效源选择，并揭示激活、误差及耦合因素。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026), PMLR 306. 64 pages total (main paper plus appendix), 4 figures, 29 tables

Ask, Don't Judge: Binary Questions for Interpretable LLM Evaluation and Self-Improvement

询问而非评判：用于可解释的LLM评估和自我改进的二元问题

Sangwoo Cho, Kushal Chawla, Pengshan Cai, Zefang Liu, Chenyang Zhu, Shi-Xiong Zhang, Sambit Sahu

机构 * Capital One, AI Foundations（Capital One人工智能基础） 纠错

AI总结 提出BINEVAL框架，将评估标准分解为原子二元问题，聚合为可解释的多维分数，在多项基准上匹配或超越强基线，并支持迭代提示优化。

Comments Acceepted to the Second Workshop on Compositional Learning at ICML 2026, Seoul, South Korea

Safe Autoregressive Image Generation with Iterative Self-Improving Codebooks

安全自回归图像生成与迭代自改进码本

Yunqi Xue, Zhijiang Li, Philip Torr, Jindong Gu

机构 * School of Information Management, Wuhan University（武汉大学信息管理学院） ； Torr Vision Group, University of Oxford（牛津大学Torr视觉组） 纠错

AI总结 针对自回归统一多模态模型生成图像的安全性问题，提出迭代自改进码本方法，利用模型自身判断不安全图像并修正码本映射，消除有害输出并保证生成质量。

Comments 10 pages including references, 8 figures, accepted for publication at the 43rd International Conference on Machine Learning (ICML 2026)

Parametric Open Source Games

参数化开源博弈

Aleksandar Todorov, Jesse ten Napel, Alexander Müller

AI总结 提出参数化开源博弈模型，通过连续参数向量和语义映射将程序均衡扩展到连续空间，证明均衡存在性，推导对称2×2博弈中自私梯度上升从背叛转向合作的确切耦合阈值，并给出参数化程序纳什均衡的一维边界检验。

Comments ICML Workshop New Frontiers in Game-Theoretic Learning-NExT-Game

Unison: Benchmarking Unified Multimodal Models via Synergistic Understanding and Generation

Unison: 通过协同理解与生成对统一多模态模型进行基准测试

Jinyu Liu, Xincheng Shuai, Henghui Ding, Yu-Gang Jiang

AI总结 提出Unison基准，包含2169个统一任务样本，通过内部一致性、理解引导生成、生成引导理解和相互增强四个维度评估统一多模态模型的协同能力，并引入Unison-Judge评估模型确保可靠性。

Comments ICML 2026

GEOALIGN: Geometric Rollout Curation for Robust LLM Reinforcement Learning

GEOALIGN: 用于鲁棒大语言模型强化学习的几何轨迹策展

Ting Zhou, Zhenqing Ling, Yiyang Zhao, Ying Shen, Daoyuan Chen

AI总结 针对在线强化学习训练LLM时奖励噪声导致的不稳定性，提出GEOALIGN，通过检测并修正方向不一致的轨迹来稳定更新，提升最终性能并减少训练震荡。

Comments Accepted as a conference paper at ICML 2026

Reasoning Quality Emerges Early: Data Curation for Reasoning Models

推理质量早期涌现：推理模型的数据策展

Hongyi Henry Jin, Wenhan Yang, Meysam Ghaffari, Carlos Morato, Baharan Mirzasoleiman

AI总结 提出仅利用初始推理token即可识别多样且具挑战性的推理样本，通过扰动检查点评估前100个token的损失检测难题，并证明前1k token的损失模式可预测梯度相似性，在Qwen2.5-7B和Llama3.1-8B上验证，性能提升达1.7%，token效率提升91%。

Comments Accepted by ICML 2026 (Poster)

LearniBridge: Learnable Calibration of Feature Caching for Diffusion Models Acceleration

LearniBridge: 用于扩散模型加速的特征缓存的可学习校准

Xuyue Huang, Zhe Chen, Wang Shen, Xiao-Ping Zhang

AI总结 提出LearniBridge，一种基于低秩共享子空间的可学习校准机制，通过轻量LoRA更新实现特征缓存的多时间步校准，仅需3-5个训练样本即可在图像和视频生成中实现高达5.87倍加速。

Comments Accepted to ICML 2026

ProtoKV: Streaming Video Understanding under Delayed Query with Summary-State Memory

ProtoKV: 延迟查询下的流式视频理解与摘要状态记忆

Le Tu Ngoc Minh, Jinyeong Lim, Dongsu Han

机构 * KAIST（韩国科学技术院） 纠错

AI总结 提出ProtoKV，一种固定内存的流式视频理解记忆机制，通过摘要状态表示远历史，在长延迟查询下准确率提升高达12.5点。

Comments 20 pages, 4 figures, Accepted to ICML 2026

Full spectrum Unlearnable Examples via Spectral Equalization

全频谱不可学习样本：通过频谱均衡实现

Jiale Cai, Gezheng Xu, Zhihao Li, Ruiyi Fang, Ruizhi Pu, Di Wu, Qicheng Lao, Charles Ling, Boyu Wang

机构 * Department of Computer Science, Western University（温哥华大学计算机科学系） ； Department of Mechanical, Industrial and Aerospace Engineering, Concordia University（Concordia大学机械、工业与航空航天工程系） 纠错

AI总结 针对现有不可学习样本仅在高频有效的问题，提出FUSE方法，通过随机频谱掩码和跨频带引导生成频谱无关扰动，实现全频谱保护。

Comments to be published in ICML

LithoDreamer: A Physics-Informed World Model for Multi-Stage Computational Lithography

LithoDreamer: 一种用于多阶段计算光刻的物理信息世界模型

Yuqi Jiang, Yumeng Liu, Zimu Li, Jinyuan Deng, Qian Jin, Yucheng Cui, Yu Li, Xunzhao Yin, Qi Sun, Cheng Zhuo

机构 * Zhejiang University（浙江大学） 纠错

AI总结 提出首个物理信息世界模型LithoDreamer，将光刻流程建模为决策驱动的多步演化系统，通过对比变分优化实现可解释干预，在正向演化和逆向规划中达到最优性能。

Comments Correspondence to: Qi Sun <qisunchn \at zju \dot edu \dot cn>

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML), Jul. 6-11, 2026

Target-Aware Bandit Allocation for Scalable Surrogate Optimization in Chemical Space

面向化学空间可扩展代理优化的目标感知Bandit分配

Mohammad Haddadnia, Yuvan Chali, Abhilash Jayaraj, Constance Kraay, Joana Reis, Felix Strieth-Kalthoff, Haribabu Arthanari

AI总结 提出BOBa框架，通过多臂Bandit自适应分配计算资源到动作空间分区，消除全库代理推理瓶颈，在真实合成库上实现可调节的筛选性能与推理成本权衡。

Comments ICML 2026

CAT-Q: Cost-efficient and Accurate Ternary Quantization for LLMs

CAT-Q：面向LLMs的经济高效且精确的三值量化

Shigeng Wang, Chao Li, Yangyuxuan Kang, Jiawei Fan, Anbang Yao

机构 * Intel Labs China（英特尔中国实验室） 纠错

AI总结 提出CAT-Q后训练量化方案，通过可学习调制和软化三值化，仅用512个校准样本即可将LLMs高效量化为三值模型，性能优于使用100B tokens训练的BitNet 1.58-bit，训练token减少约100,000倍。

Comments This work is accepted to ICML 2026 as an oral. The project page: https://github.com/IntelChina-AI/BitTern