Position: Align AI to Our Aspirations, Not Our Flaws
立场:将AI对齐于我们的抱负,而非缺陷
机构 * National University of Singapore(新加坡国立大学)
AI总结 本文主张AI不应与聚合的人类偏好对齐,而应基于能力、事实准确性、诚实和合法性等客观目标底线,在底线之上允许多元价值权衡。
Journal ref Pluralistic Alignment Workshop at ICML 2026
期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
立场:将AI对齐于我们的抱负,而非缺陷
机构 * National University of Singapore(新加坡国立大学)
AI总结 本文主张AI不应与聚合的人类偏好对齐,而应基于能力、事实准确性、诚实和合法性等客观目标底线,在底线之上允许多元价值权衡。
Journal ref Pluralistic Alignment Workshop at ICML 2026
AI审稿人是否看到全貌?攻击与防御多模态同行评审
机构 * University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
AI总结 针对AI同行评审易受多模态对抗攻击的问题,提出PaperGuard基准,包含多领域数据集、统一攻击套件和基于分块嵌入搜索的实用防御方法。
Comments Accepted to ICML 2026, Project Page: https://paper-guard.github.io/
元数据可预测性并非证据依赖性:基于干预的弱标签基准审计
机构 * Jinglue Technology Development (Nanjing) Co., Ltd.(景庐科技发展(南京)有限公司)
AI总结 针对弱标签基准,提出结合元数据统计(MPDS)和证据干预统计(ΔEvi)的审计方法,通过合成和重构数据集验证了仅依赖元数据筛查的不足,并强调校准的重要性。
Comments 4 pages, 1 figure, 1 table. Accepted at ICML 2026 Workshop on Hypothesis Testing
并非所有证明都平等:超越正确性的LLM证明质量评估
机构 * INSAIT(INSAIT研究所) ; Sofia University "St. Kliment Ohridski"(索菲亚大学"圣克莱孟·奥赫里迪斯基") ; ETH Zurich(苏黎世联邦理工学院)
AI总结 本文提出ProofRank基准,评估证明的简洁性、计算便捷性、认知简单性、多样性及适应性,揭示正确性之外的证明质量差异及优劣权衡。
Comments 9 main text pages, 36 total pages, Accepted at ICML 2026 AI for Math workshop
预算可行机制用于采购拍卖中的子模福利最大化
AI总结 本文提出BFM-SWM机制,首次在采购拍卖中实现子模福利最大化的预算可行机制,具有可证明的近似保证,同时改进了效率和效果。
Comments Accepted at ICML 2026
AI下的委托与验证
机构 * Nanjing University(南京大学) ; Yale University(耶鲁大学)
AI总结 研究工人在AI系统中如何决定委托任务并验证AI输出,发现AI会引发相变,放大验证能力强的工人质量,同时降低其他工人的制度质量。
Comments This paper has been accepted by ICML 2026
PrivacyBench: 混合隐私保护视觉系统中的隐私并非免费
机构 * ML Collective(ML集体) ; Friedrich-Alexander-Universität Erlangen-Nürnberg(埃朗根-纽伦堡弗里德里希-亚历山大大学) ; Carnegie Mellon University(卡内基梅隆大学)
AI总结 提出PrivacyBench框架,系统评估FL+DP、FL+SMPC等混合隐私技术在医学图像分类中的交互效应,发现FL+DP组合导致严重收敛失败和性能下降,而FL+SMPC保持近基线性能,为隐私-效用-成本权衡提供系统评估平台。
Comments Preprint; preceding version accepted at ES-FOMO III, ICML 2025
通过比较进行梯度测试与估计
机构 * School of Electronics Engineering and Computer Science(电子工程与计算机科学系) ; Computer Science Department(计算机科学系) ; Center on Frontiers of Computing Studies(计算前沿研究中心) ; School of Computer Science(计算机科学系)
AI总结 针对光滑函数,仅使用比较预言机,提出梯度测试算法(O(1)查询)和梯度估计算法(O(n log(1/ε))查询,最优),并给出量子版本的O(log(n/ε))查询算法。
Comments v3: 37 pages, 1 figure. To appear in the Forty-Third International Conference on Machine Learning (ICML 2026). Added numerical experiments to validate the proposed algorithms (Section 5), and minor fixes that improve presentation compared to v2. This version subsumes the note "Comparisons are all You need for optimizing smooth functions" (v1)
利用已知信息:带有部分图结构的因果基础模型
机构 * University of Cambridge(剑桥大学) ; Gatsby Computational Neuroscience Unit(加布特计算神经科学单位) ; Prior Labs(Prior实验室) ; University of Freiburg(弗赖堡大学) ; The Alan Turing Institute(艾伦·图灵研究所) ; University of Oxford(牛津大学)
AI总结 提出在因果基础模型中注入因果图或祖先信息的方法,利用图卷积编码器和注意力机制有效利用部分因果信息,使通用模型匹配专用模型性能。
Journal ref ICML 2026
重新审视柏拉图式表征假说:一种亚里士多德式的观点
AI总结 针对神经网络表征收敛于统一统计模型的柏拉图式假说,本文发现现有相似性度量受网络规模混淆,提出基于置换的零校准框架,揭示全局谱收敛在校准后消失,而局部邻域相似性(非距离)仍跨模态一致,据此提出亚里士多德式表征假说。
Comments ICML 2026 camera-ready
当行动偏离任务:检测和纠正计算机使用代理中的不对齐行为
AI总结 针对计算机使用代理中由外部攻击或内部限制导致的行动不对齐问题,提出DeAction方法,通过结构化反馈在执行前检测并迭代纠正,在F1分数和攻击成功率上显著优于基线。
Comments ICML 2026. Project Homepage: https://osu-nlp-group.github.io/Misaligned-Action-Detection/
正交层次分解:面向结构感知的大语言模型表格理解
机构 * Zhejiang University of Technology, China(浙江工业大学,中国) ; Zhejiang Key Laboratory of Visual Information Intelligent Processing, China(浙江视觉信息智能处理重点实验室,中国) ; University of Aberdeen, UK(爱丁堡大学,英国)
AI总结 针对复杂表格中多级表头、合并单元格等结构导致大语言模型理解困难的问题,提出正交层次分解(OHD)框架,通过空间-语义联合约束的正交树归纳方法将不规则表格分解为列树和行树,并设计双路径关联协议重构单元格语义,在AITQA和HiTab基准上优于现有方法。
Comments ICML 2026
虚假奖励悖论:从机制上理解RLVR如何在LLMs中激活记忆捷径
机构 * University of Science and Technology of China(中国科学技术大学) ; University of Aberdeen(阿伯丁大学) ; University of Birmingham(伯明翰大学) ; Alibaba Group(阿里巴巴集团)
AI总结 研究RLVR中虚假奖励导致模型依赖记忆而非推理的机制,发现锚定-适配器电路,并通过因果干预验证其作用。
Comments ICML 2026
Eyes-on-Me: 通过可迁移的注意力引导吸引子实现可扩展的RAG投毒
AI总结 提出Eyes-on-Me模块化攻击,通过可重用的注意力吸引子和焦点区域实现零成本适应新目标,在18种RAG设置下平均攻击成功率提升35.9个百分点,并迁移至未见过的黑盒检索器和生成器。
Journal ref Published in Forty-third International Conference on Machine Learning (2026)
Pianist Transformer:通过可扩展的自监督预训练实现富有表现力的钢琴演奏渲染
AI总结 提出Pianist Transformer,通过统一MIDI表示进行大规模自监督预训练,结合非对称Transformer和音符级压缩,实现高效且富有表现力的钢琴演奏生成。
Comments Accepted to ICML 2026
基于精细化图随机特征的高效图建模
机构 * Google DeepMind(谷歌DeepMind) ; Columbia University(哥伦比亚大学) ; Google Research(谷歌研究)
AI总结 提出精细化图随机特征(GRFs++),通过行走拼接技术解决传统GRFs难以建模远距离节点关系的问题,在保持无偏性的同时提高计算效率,并扩展了行走终止机制以提升图核近似精度。
Comments ICML 2026
黑盒辅助回归:相变与极小化最优性
机构 * School of Mathematics and Statistics(数学与统计学学院)
AI总结 研究有限标注下利用固定黑盒预测器进行非参数回归的问题,发现风险在临界半径处发生相变,并提出安全残差估计器以避免负迁移,达到极小化最优。
Comments 23 pages, 3 figures. Accepted at the 43rd International Conference on Machine Learning (ICML 2026)
Journal ref Proceedings of the 43rd International Conference on Machine Learning, PMLR 306, 2026
面向3D计算机断层扫描的疾病中心视觉语言预训练与混合视觉编码
机构 * DAMO Academy, Alibaba Group(达摩院,阿里巴巴集团) ; Hupan Lab, 310023, Hangzhou, China(虎扑实验室,杭州,中国) ; Shanghai Jiao Tong University, China(上海交通大学,中国) ; Zhejiang University, China(浙江大学,中国) ; Fudan University, China(复旦大学,中国)
AI总结 提出一种结合CNN-ViT混合编码器、疾病级对比学习和诊断感知提示的视觉语言预训练框架,在CT-RATE和Rad-ChestCT上取得最优性能,并提升零样本诊断可靠性。
Comments ICML 2026
LibEvoBench:探测代码生成模型中的时间知识分层
机构 * Faculty of EEMCS, Delft University of Technology, Delft, Netherlands(代尔夫特理工大学电子工程与信息科学学院) ; JetBrains Research, Amsterdam, Netherlands(JetBrains研究)
AI总结 针对LLM在代码生成中因训练数据时间混合导致API版本混淆的问题,提出多版本基准LibEvoBench和新指标SEUS,揭示模型对版本不敏感且仅靠文档可提升准确性。
Comments Accepted at the DL4Code workshop at ICML 2026
FactorLibrary: 从多项式到电路通过递归子目标
机构 * University of Washington, Seattle, WA, USA(华盛顿大学)
AI总结 将有限域上多项式的最小算术电路发现建模为强化学习问题,提出FactorLibrary存储可分解子表达式作为子目标,使用PPO+MCTS的top-down方法在复杂度8以内达到91.8%的成功率。
Comments 14 pages, 8 figures, in 3rd AI for Math Workshop (ICML 2026)
基于技能划分与复用的离线多智能体持续协作
机构 * National Key Laboratory for Novel Software Technology, Nanjing University(南京大学新型软件技术国家重点实验室) ; School of Artificial Intelligence, Nanjing University(南京大学人工智能学院) ; Polixir Technologies.(Polixir技术公司) ; Kuang Yaming Honors School, Nanjing University(匡杨明荣誉学院,南京大学)
AI总结 提出COMAD框架,通过自编码器从离线数据中发现可复用技能,并利用密度估计器指导优势函数,解决多智能体持续学习中的灾难性遗忘和干扰问题。
Comments 29 pages, 12 figures, ICML 2026
REViT: 旋转反射等变卷积视觉Transformer
机构 * KC Machine Learning Lab(韩国首尔计算机机器学习实验室)
AI总结 提出一种离散旋转反射群等变的视觉Transformer,通过卷积注意力机制保持特征图的旋转、翻转和位置对称性,在图像分类任务中优于现有方法。
Comments Accepted for publication at ICML 2026
CoGeoAD: 基于层次化颜色-几何融合与多视角注意力的零样本3D异常检测
机构 * State Key Laboratory of Opto-Electronic Information Acquisition ; Protection Technology, Anhui University, Hefei, China ; School of Artificial Intelligence, Anhui University, Hefei, China ; College of Intelligence Science ; Technology, National University of Defense Technology, Changsha, China ; School of Mathematics \& Physics, Anhui Jianzhu University, Hefei, China
AI总结 提出CoGeoAD框架,通过像素对齐的多视图图像融合颜色与几何特征,利用数据驱动的多视角注意力和多阶段颜色-几何融合模块,在MVTec3D-AD和Eyecandies基准上实现零样本3D异常检测的最新性能。
Comments ICML 2026
中间层知道什么:从熵动力学检测越狱
机构 * LMU Munich(慕尼黑大学) ; relAI – Konrad Zuse School of Excellence in Reliable AI(relAI – 康拉德·楚泽可靠人工智能卓越学校) ; University of Pisa(比萨大学) ; Munich Center for Machine Learning(慕尼黑机器学习中心) ; School of Engineering, Computing and Mathematics, Oxford Brookes University(牛津布鲁克斯大学工程、计算与数学学院)
AI总结 通过分析冻结LLM各层的token级预测熵轨迹,发现中间层的熵动力学特征(如基于排名的单调趋势分数)能有效检测越狱攻击,且无需额外训练。
Comments Accepted at the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD) 2026. A short version accepted at EIML@ICML 2026
序列学习的几何:李括号预测迁移顺序
机构 * Sideplane AI
AI总结 提出李括号对偶性分数预测序列学习中的源域顺序,通过李括号锦标赛实现O(N log N)排序,在指令微调和DPO中达到高准确率。
Comments Accepted to ICML 2026. 20 pages, including appendices
Dustin: 用于高效长上下文推测解码的草稿增强稀疏验证
机构 * National Yang Ming Chiao Tung University(国立阳明交通大学) ; Cornell University(康奈尔大学)
AI总结 提出Dustin框架,利用草稿模型的前瞻信号和目标模型的历史注意力,在推测解码中实现高效稀疏验证,显著加速长上下文生成。
Comments Accepted to ICML 2026. 9 pages main text, includes references and appendix
桥接球形黑箱优化器
机构 * The University of Tokyo(东京大学)
AI总结 将进化策略、共识优化和积分优化统一为理论框架,通过引入混合优化器控制平坦偏好和模态,在连续控制和语言模型合并任务中提升性能与鲁棒性。
Comments Accepted for publication at ICML 2026
自然去突现:不对称控制哪些规则在预训练中幸存
机构 * Harvard University(哈佛大学)
AI总结 发现语言模型在预训练中学习规则后会自动遗忘,规则存亡由训练数据中支持频率决定,且遗忘不可逆。
Comments Foundations of Deep Generative Models (FoGen) Workshop at ICML 2026. 23 pages (5-page main text plus appendices), 5 figures. Code: https://github.com/lijuliana/Natural-Ungrokking
连续知识更新在大语言模型系统中:通过多时间尺度记忆动态学习
机构 * The Cyprus Institute, Nicosia, Cyprus(塞浦路斯研究所,尼科西亚,塞浦路斯)
AI总结 本文提出基于多时间尺度动态的记忆机制,通过耦合内部变量实现知识的持续更新与学习,重构外部记忆作为学习的基础 substrates。
Comments Accepted as a poster at the ICML 2026 Workshop "Continual Adaptation at Scale: Towards Sustainable AI" (CATS@ICML 2026). 9 pages, 2 figures
通过行为任务采样改进零样本离线强化学习
AI总结 本文提出通过直接从离线数据集中提取任务向量来改进零样本离线强化学习,提升任务泛化能力,实验表明在多个基准环境中性能提升20%。
Comments ICML 2026