University of Washington（华盛顿大学）

Sparse Memory Finetuning as a Low-Forgetting Alternative to LoRA and Full Finetuning

稀疏记忆微调：作为LoRA和全微调的低遗忘替代方案

Prakhar Gupta, Garv Shah, Satyam Goyal, Anirudh Kanchi

机构 * University of Washington（华盛顿大学） 纠错

AI总结 提出稀疏记忆微调（SMF），通过添加键值记忆层并仅更新当前批次最活跃的记忆行，在MedMCQA任务上提升2.5个百分点，同时将遗忘探针（WikiText困惑度和TriviaQA准确率）控制在基线的1个百分点内，优于LoRA和全微调。

Should Demand Models Incorporate Competitor Prices? Oblivious Learning and Algorithmic Collusion

需求模型是否应包含竞争对手价格？无知学习与算法合谋

Yuhang Wu, Assaf Zeevi

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） 纠错

AI总结 研究在竞争市场中，定价算法是否应显式建模竞争对手价格，通过对比无知与知情学习策略，发现知情策略是纳什均衡且价格收敛至竞争结果，而合谋模式不稳健。

Comments Preliminary version "Oblivious Learning, Price Exploration and Collusive Dynamics" accepted at EC 2026

When Do Diffusion Models learn to Generate Multiple Objects?

扩散模型何时学会生成多个物体？

Yujin Jeong, Arnas Uselis, Iro Laina, Seong Joon Oh, Anna Rohrbach

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Cambridge（剑桥大学） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） 纠错

AI总结 研究探讨了扩散模型在多物体生成中的局限性，发现场景复杂度比概念不平衡更关键，且低数据条件下计数任务更难学习。

Comments ICML2026

AI generates well-liked but templatic empathic responses

AI生成受欢迎但模板化的共情回应

Emma S. Gueorguieva, Hongli Zhan, Jina Suh, Javier Hernandez, Tatiana Lau, Junyi Jessy Li, Desmond C. Ong

机构 * Department of Psychology, The University of Texas at Austin（心理学系，德克萨斯大学奥斯汀分校） ； Department of Linguistics, The University of Texas at Austin（语言学系，德克萨斯大学奥斯汀分校） ； Department of Computer Science and Engineering, The University of Washington（计算机科学与工程系，华盛顿大学） ； Microsoft Research（微软研究院） ； Toyota Research Institute（丰田研究院） 纠错

AI总结 研究发现LLM生成的共情回应高度模板化，采用10种共情语言策略，覆盖81-92%的回应内容，而人类写作则更多样。

Insertion Based Sequence Generation with Learnable Order Dynamics

基于可学习顺序动态的插入式序列生成

Dhruvesh Patel, Benjamin Rozonoyer, Gaurav Pandey, Tahira Naseem, Ramón Fernandez Astudillo, Andrew McCallum

机构 * University of Washington（华盛顿大学） ； Google Research（谷歌研究院） 纠错

AI总结 提出LoFlexMDM，一种具有可学习顺序动态的插入式掩码扩散模型，通过学习数据依赖的插入和解掩码速率，在分子生成任务上提升样本质量。

Comments Some updated results. Accepted at ICML 2026. Code and checkpoints available at https://github.com/dhruvdcoder/LoFlexMDM

Operationalising the Superficial Alignment Hypothesis via Task Complexity

通过任务复杂度操作化浅层对齐假设

Tomás Vergara-Browne, Darshan Patil, Ivan Titov, Siva Reddy, Tiago Pimentel, Marius Mosbach

机构 * University of Maryland（马里兰大学） ； University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） ； University of Edinburgh（爱丁堡大学） 纠错

AI总结 提出任务复杂度指标（达到目标性能的最短程序长度）来量化浅层对齐假设，实验表明预训练大幅降低任务复杂度，而微调可将复杂度降低数个数量级。

Comments ICML 2026

RLVE: Scaling Up Reinforcement Learning for Language Models with Adaptive Verifiable Environments

RLVE: 利用自适应可验证环境扩展语言模型的强化学习

Zhiyuan Zeng, Hamish Ivison, Yiping Wang, Lifan Yuan, Shuyue Stella Li, Zhuorui Ye, Siting Li, Jacqueline He, Runlong Zhou, Tong Chen, Chenyang Zhao, Yulia Tsvetkov, Simon Shaolei Du, Natasha Jaques, Hao Peng, Pang Wei Koh, Hannaneh Hajishirzi

机构 * University of Washington（华盛顿大学） 纠错

AI总结 提出RLVE方法，通过程序化生成问题并提供可验证奖励的可验证环境，自适应调整难度以扩展语言模型的强化学习，在400个环境中联合训练使六个推理基准平均提升3.37%。

Comments ICML 2026

RECON: Reasoning with Condensation for Efficient Retrieval-Augmented Generation

RECON：基于压缩的推理用于高效检索增强生成

Zhichao Xu, Minheng Wang, Yawei Wang, Wenqian Ye, Yuntao Du, Yunpu Ma, Yijun Tian

机构 * University of Utah（犹他大学） ； University of Washington（华盛顿大学） ； George Washington University（乔治·华盛顿大学） ； University of Virginia（弗吉尼亚大学） ； Shandong University（山东大学） ； Ludwig Maximilian University of Munich（慕尼黑路德维希-马克西米利安大学） ； University of Notre Dame（诺特丹大学） 纠错

AI总结 提出RECON框架，在强化学习搜索代理的多轮推理中插入观察压缩器，通过两阶段课程训练实现上下文压缩，提升训练和推理效率并增强问答性能。

Comments Techinical report

Linguistic Nepotism: Trading-off Quality for Language Preference in Multilingual RAG

语言裙带关系：多语言RAG中为语言偏好牺牲质量

Dayeon Ki, Marine Carpuat, Paul McNamee, Daniel Khashabi, Eugene Yang, Dawn Lawrie, Kevin Duh

机构 * University of Washington（华盛顿大学） 纠错

AI总结 研究多语言RAG系统中模型对英语源文档的偏好，发现模型会牺牲文档相关性以迎合语言偏好，尤其在低资源语言中更明显。

Comments ICML 2026 Spotlight

Formalizing Learning from Language Feedback with Provable Guarantees

从语言反馈中学习的形式化与可证明保证

Wanqiao Xu, Allen Nie, Ruijie Zheng, Aditya Modi, Adith Swaminathan, Ching-An Cheng

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） 纠错

AI总结 本文形式化语言反馈学习问题，提出转移埃尔泽维度刻画学习难度，并开发无遗憾算法HELiX，证明其性能保证，展示丰富语言反馈可指数级加速学习。

Comments ICML 2026

BlendServe: Optimizing Offline Inference for Auto-regressive Large Models with Resource-aware Batching

BlendServe: 利用资源感知批处理优化自回归大模型的离线推理

Yilong Zhao, Shuo Yang, Kan Zhu, Lianmin Zheng, Baris Kasikci, Yang Zhou, Jiarong Xing, Ion Stoica

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） ； University of California, Davis（加州大学戴维斯分校） ； Rice University（里士满大学） 纠错

AI总结 针对离线批处理中资源重叠与前缀共享的冲突，提出资源感知前缀树来最大化资源利用率，相比vLLM和SGLang吞吐量提升1.44倍。