NeurIPS

RobustMerge: Parameter-Efficient Model Merging for MLLMs with Direction Robustness

RobustMerge: 用于MLLMs的参数高效模型合并的鲁棒性

Fanhu Zeng, Haiyang Guo, Fei Zhu, Li Shen, Hao Tang

机构 * MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所MAIS） ； Centre for Artificial Intelligence and Robotics, HKISI-CAS（香港科学院智能机器人中心） ； Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区） ； Shenzhen Loop Area Institute（深圳河套学院） ； State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（北京大学计算机科学学院多媒体信息处理国家重点实验室） 纠错

AI总结 RobustMerge提出一种无需训练的参数高效模型合并方法，通过参数修剪和跨任务归一化提升多任务泛化能力。

Comments NeurIPS 2025 (Spotlight)

Constrained Latent Action Policies for Model-Based Offline Reinforcement Learning

基于约束潜在动作策略的模型驱动离线强化学习

Marvin Alles, Philip Becker-Ehmck, Patrick van der Smagt, Maximilian Karl

机构 * Machine Learning Research Lab, Volkswagen Group（大众集团机器学习研究实验室） ； Technical University of Munich（慕尼黑技术大学） ； Eötvös Loránd University Budapest（布达佩斯欧多立大学） 纠错

AI总结 本文提出C-LAP，通过约束潜在动作分布生成策略，提高模型驱动离线强化学习在视觉观测数据集上的性能。

Comments 38th Conference on Neural Information Processing Systems (NeurIPS 2024)

Journal ref Advances in Neural Information Processing Systems 37 (NeurIPS 2024)

The Implicit Bias of Structured State Space Models Can Be Poisoned With Clean Labels

结构状态空间模型的隐式偏见可能通过干净标签被污染

Yonatan Slutzky, Yotam Alexander, Noam Razin, Nadav Cohen

机构 * Some Institute（某些研究所） 纠错

AI总结 本文研究了结构状态空间模型的隐式偏见可能被干净标签污染的问题，揭示了特定训练数据对泛化能力的破坏作用，并指出需开发对抗此类污染的方法。

Comments Accepted to NeurIPS 2025

Rewind-to-Delete: Certified Machine Unlearning for Nonconvex Functions

回退删除：非凸函数的认证机器去学习

Siqiao Mu, Diego Klabjan

AI总结 本文提出了一种针对非凸损失函数的认证机器去学习算法，通过回退到学习过程早期步骤实现数据删除，证明了隐私和效用的权衡，并展示了优于现有方法的性能。

Comments NeurIPS 2025

CSAW-M: An Ordinal Classification Dataset for Benchmarking Mammographic Masking of Cancer

CSAW-M：用于乳腺癌遮蔽基准测试的顺序分类数据集

Moein Sorkhei, Yue Liu, Hossein Azizpour, Edward Azavedo, Karin Dembrower, Dimitra Ntoula, Athanasios Zouzos, Fredrik Strand, Kevin Smith

机构 * KTH Royal Institute of Technology（皇家理工学院） ； SciLifeLab ； Karolinska Institutet（卡罗林斯卡研究所） ； Karolinska University Hospital（卡罗林斯卡大学医院） ； Saint Göran Hospital（圣戈兰医院） 纠错

AI总结 CSAW-M是一个用于乳腺癌遮蔽基准测试的大型数据集，通过五位专家标注遮蔽潜力，训练深度学习模型以预测乳腺癌筛查结果。

Comments 35th Conference on Neural Information Processing Systems (NeurIPS 2021) Track on Datasets and Benchmarks

Optimized Learned Count-Min Sketch

优化的学得计数-最小草图

Kyosuke Nishishita, Atsuki Sato, Yusuke Matsui

机构 * The University of Tokyo（东京大学） 纠错

AI总结 OptLCMS通过优化参数和阈值划分，提高了学得计数-最小草图的构造速度和理论保证，同时保持了估计精度。

Comments 4 pages, 3 figures. Accepted at NeurIPS 2025 Workshop on Machine Learning for Systems

BaRISTA: Brain Scale Informed Spatiotemporal Representation of Human Intracranial Neural Activity

BaRISTA：人类脑内神经活动的脑尺度时空表示

Lucine L. Oganesian, Saba Hashemi, Maryam M. Shanechi

机构 * University of Southern California（南加州大学） 纠错

AI总结 BaRISTA提出了一种多区域神经活动时空变换器模型及自监督任务，通过调整空间尺度提升下游解码性能。

Comments Published at the 39th Annual Conference on Neural Information Processing Systems (NeurIPS 2025). Code available at https://github.com/ShanechiLab/BaRISTA

Journal ref NeurIPS 2025

Causal Strengths and Leaky Beliefs: Interpreting LLM Reasoning via Noisy-OR Causal Bayes Nets

因果强度与渗漏信念：通过噪声-或因果贝叶斯网络解读LLM推理

Hanna Dettki

机构 * New York University（纽约大学） 纠错

AI总结 本文通过噪声-或因果贝叶斯网络评估LLM和人类在因果推理任务中的表现，探讨其因果强度和信念差异。

Journal ref WiML Workshop at NeurIPS 2025

TAPVid-360: Tracking Any Point in 360 from Narrow Field of View Video

TAPVid-360: 从狭窄视野视频中跟踪任意点的360度

Finlay G. C. Hudson, James A. D. Gardner, William A. P. Smith

机构 * Department of Computer Science University of York（计算机科学系英国约克大学） 纠错

AI总结 TAPVid-360通过360视频实现从狭窄视野视频中跟踪任意点的3D方向，无需动态4D场景模型，提出新数据集和方法提升跟踪性能。

Comments Accepted to NeurIPS 2025

Regret Lower Bounds for Decentralized Multi-Agent Stochastic Shortest Path Problems

去中心化多智能体随机最短路径问题的遗憾下界

Utkarsh U. Chavan, Prashant Trivedi, Nandyala Hemachandra

机构 * Department of Mechanical Engineering（机械工程系） ； Indian Institute of Technology Bombay（孟买印度理工学院） ； School of Computer Science（计算机科学学院） ； University of Petroleum and Energy Studies（石油与能源研究大学） ； Industrial Engineering and Operations Research（工业工程与运筹学） 纠错

AI总结 本文研究了去中心化多智能体随机最短路径问题，通过线性函数逼近提出首个遗憾下界，揭示了该问题的学习难度。

Comments To appear in 39th Conference on Neural Information Processing Systems (NeurIPS 2025)

Efficient Training-Free Online Routing for High-Volume Multi-LLM Serving

高吞吐量多LLM服务的高效无训练在线路由

Fangzhou Wu, Sandeep Silwal

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） 纠错

AI总结 本文提出一种无训练的高效在线路由算法，通过近似最近邻搜索和一次优化，提升多LLM服务的吞吐量、成本效率和整体性能。

Comments NeurIPS 2025

Multipole Attention for Efficient Long Context Reasoning

多重注意力机制用于高效长上下文推理

Coleman Hooper, Sebastian Zhao, Luca Manolache, Sehoon Kim, Michael W. Mahoney, Yakun Sophia Shao, Kurt Keutzer, Amir Gholami

机构 * University of California, Berkeley（加州大学伯克利分校） ； ICSI ； LBNL（劳伦斯伯克利国家实验室） 纠错

AI总结 多重注意力机制通过精确计算重要标记的注意力并近似其余标记，提升长上下文推理效率。

Comments 15 pages

Journal ref NeurIPS 2025

Generative Graph Pattern Machine

生成图模式机

Zehong Wang, Zheyuan Zhang, Tianyi Ma, Chuxu Zhang, Yanfang Ye

机构 * University of Notre Dame（诺丁汉大学） ； University of Connecticut（康涅狄格大学） 纠错

AI总结 生成图模式机通过生成Transformer预训练框架，实现图学习的可扩展性，优于现有方法，在多种任务中表现优异。

Comments Accepted by NeurIPS 2025

Transformer Embeddings for Fast Microlensing Inference

基于Transformer的快速微透镜推断

Nolan Smyth, Laurence Perreault-Levasseur, Yashar Hezaveh

AI总结 本文提出基于Transformer编码器的高效微透镜推断方法，用于快速分析噪声大、非均匀采样的自由漂浮行星观测数据。

Comments Accepted to NeurIPS 2025 ML4PS workshop

A-LAMP: Agentic LLM-Based Framework for Automated MDP Modeling and Policy Generation

A-LAMP：基于代理的大型语言模型框架用于自动马尔可夫决策过程建模与策略生成

Hong Je-Gal, Chan-Bin Yi, Hyun-Suk Lee

AI总结 A-LAMP通过基于代理的大型语言模型自动将自然语言任务描述转换为马尔可夫决策过程并生成策略，提升了自动化建模和策略生成的效率与准确性。

Comments NeurIPS 2025 Workshop: Multi-Turn Interactions in Large Language Models. 26 pages, 8 figures

Class-wise Balancing Data Replay for Federated Class-Incremental Learning

按类别平衡的数据回放用于联邦类增量学习

Zhuang Qi, Ying-Peng Tang, Lei Meng, Han Yu, Xiaoxiao Li, Xiangxu Meng

机构 * School of Software, Shandong University（山东大学软件学院） ； College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算机与数据科学学院） ； Department of Electrical and Computer Engineering, University of British Columbia（不列颠哥伦比亚大学电气与计算机工程系） ； Vector Institute（向量研究所） 纠错

AI总结 FedCBDR通过全局协调机制和任务感知温度缩放模块，解决联邦类增量学习中的类别不平衡问题，提升模型在异构数据分布和任务不平衡下的泛化能力。

Comments NeurIPS'25 Accepted, Oral

GoalLadder: Incremental Goal Discovery with Vision-Language Models

GoalLadder: 基于视觉语言模型的增量目标发现

Alexey Zakharov, Shimon Whiteson

机构 * University of Oxford（牛津大学） 纠错

AI总结 GoalLadder利用视觉语言模型在视觉环境中通过增量目标发现提升RL智能体性能，实现高成功率。

Comments NeurIPS 2025

Few-Shot Learning from Gigapixel Images via Hierarchical Vision-Language Alignment and Modeling

通过层次化视觉-语言对齐和建模实现高像素图像的少样本学习

Bryan Wong, Jong Woo Kim, Huazhu Fu, Mun Yong Yi

机构 * KAIST（韩国科学技术院） ； IHPC, A*STAR（A*STAR研究院） 纠错

AI总结 HiVE-MIL通过层次化视觉-语言对齐和建模，提升高像素图像的少样本学习性能，实现4.1%的宏F1提升。

Comments Accepted at NeurIPS 2025

Scalable Best-of-N Selection for Large Language Models via Self-Certainty

通过自我确定性实现大规模语言模型的可扩展最佳-N选择

Zhewei Kang, Xuandong Zhao, Dawn Song

机构 * UC Berkeley（伯克利大学） 纠错

AI总结 本文提出自我确定性方法，通过利用LLM输出的概率分布，高效提升大规模语言模型的推理能力，适用于多种推理任务和开放性生成场景。

Comments NeurIPS 2025

WARPD: World model Assisted Reactive Policy Diffusion

WARPD：世界模型辅助的反应策略扩散

Shashank Hegde, Satyajeet Das, Gautam Salhotra, Gaurav S. Sukhatme

机构 * University of Southern California（南加州大学） ； Google（谷歌） ； Intrinsic LLC（Intrinsic 公司） 纠错

AI总结 WARPD通过直接生成闭环策略，提高了机器人任务中长动作时间跨度和鲁棒性的性能，同时显著降低了推理成本。

Comments Outstanding Paper Award at the Embodied World Models for Decision Making Workshop at NeurIPS 2025

Fairness-Regularized Online Optimization with Switching Costs

具有切换成本的公平性正则化在线优化

Pengfei Li, Yuelin Han, Adam Wierman, Shaolei Ren

机构 * School of Information（信息学院） ； Rochester Institute of Technology（罗切斯特技术学院） ； Electrical and Computer Engineering（电气与计算机工程） ； University of California, Riverside（加州大学河滨分校） ； Computing & Mathematical Sciences（计算与数学科学） ； California Institute of Technology（加州理工学院） 纠错

AI总结 本文提出FairOBD算法，通过引入辅助变量将长期公平性成本分解为在线成本，有效减少公平性正则化成本并促进公平结果。

Comments Accepted by NeurIPS 2025

Clip-and-Verify: Linear Constraint-Driven Domain Clipping for Accelerating Neural Network Verification

Clip-and-Verify: 基于线性约束的域剪裁用于加速神经网络验证

Duo Zhou, Jorge Chavez, Hesun Chen, Grani A. Hanasusanto, Huan Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

AI总结 Clip-and-Verify通过基于线性约束的域剪裁方法，提升神经网络验证效率，减少子问题数量并提高验证准确率。

Comments Accepted to NeurIPS 2025

Cognitive Mirrors: Exploring the Diverse Functional Roles of Attention Heads in LLM Reasoning

认知镜像：探索大语言模型推理中注意力头的多样化功能角色

Xueqi Ma, Jun Wang, Yanbei Jiang, Sarah Monazam Erfani, Tongliang Liu, James Bailey

机构 * The University of Melbourne（墨尔本大学） ； The University of Sydney（悉尼大学） ； Amazon（亚马逊公司） 纠错

AI总结 本文提出认知镜像框架，通过CogQA数据集分析LLM中注意力头的功能专业化，揭示其在推理任务中的关键作用。

Comments Accepted to NeurIPS 2025

Breaking the Frozen Subspace: Importance Sampling for Low-Rank Optimization in LLM Pretraining

打破冻结子空间：用于大语言模型预训练低秩优化的重要性采样

Haochen Zhang, Junze Yin, Guanchu Wang, Zirui Liu, Lin F. Yang, Tianyi Zhang, Anshumali Shrivastava, Vladimir Braverman

机构 * Rice University（Rice大学） ； University of North Carolina at Charlotte（北卡罗来纳州立大学） ； University of Minnesota Twin Cities（明尼苏达大学双城分校） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

AI总结 本文提出了一种具有可证明收敛性的低秩优化方法，用于大语言模型预训练，以解决主导子空间在预训练中冻结的问题，并在实验中表现出优越的性能。

Comments NeurIPS 2025

Dynamics of Spontaneous Topic Changes in Next Token Prediction with Self-Attention

自注意力架构中下个词预测的自发主题变化动态

Mumin Jia, Jairo Diaz-Rodriguez

机构 * York University（约克大学） 纠错

AI总结 研究探讨了自注意力架构中自发主题变化的动态，揭示了其与人类认知的异同，并验证了该现象在先进语言模型中的存在。

Comments Accepted to NeurIPS 2025

Grammar-Aligned Decoding

语法对齐解码

Kanghee Park, Jiayu Wang, Taylor Berg-Kirkpatrick, Nadia Polikarpova, Loris D'Antoni

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； University of California San Diego（加州大学圣地亚哥分校） 纠错

AI总结 本文提出语法对齐解码（GAD）方法，通过适应性采样与近似期望未来（ASAp）算法，提升语法约束下生成输出的质量和概率匹配度。

Comments Accepted to NeurIPS 2024

The Expressive Capacity of State Space Models: A Formal Language Perspective

状态空间模型的表达能力：从形式语言的角度

Yash Sarrof, Yana Veitsman, Michael Hahn

机构 * Saarland University（萨尔兰大学） 纠错

AI总结 从形式语言角度研究状态空间模型的表达能力，发现其在特定任务中优于Transformer，并指出当前SSM设计限制其表现。

Comments Published in NeurIPS 2024

Journal ref Advances in Neural Information Processing Systems 37 (2024)

UrbanAI 2025 Challenge: Linear vs Transformer Models for Long-Horizon Exogenous Temperature Forecasting

UrbanAI 2025挑战：线性模型与Transformer模型在长周期外生温度预测中的对比

Ruslan Gokhman

机构 * Yeshiva University（耶鲁大学） 纠错

AI总结 UrbanAI 2025挑战通过对比线性与Transformer模型，发现线性模型在长周期外生温度预测中表现更优，DLinear在所有划分中均取得最佳准确率。

Comments NeurIPS 2025 Workshop UrbanAI

Metacognitive Sensitivity for Test-Time Dynamic Model Selection

测试时动态模型选择的元认知敏感性

Le Tuan Minh Trinh, Le Minh Vu Pham, Thi Minh Anh Pham, An Duc Nguyen

机构 * University College London（伦敦大学学院） ； FPT University（FPT大学） ； Queen Mary University of London（伦敦女王学院） ； University of Oxford（牛津大学） 纠错

AI总结 本文提出通过元认知敏感性进行测试时动态模型选择，提升联合推理准确性。

Comments Accepted at the NeurIPS 2025 CogInterp Workshop

Certifying Concavity and Monotonicity in Games via Sum-of-Squares Hierarchies

通过求和平方层次结构验证博弈中的凹性和单调性

Vincent Leon, Iosif Sakos, Ryann Sim, Antonios Varvitsiotis

AI总结 通过求和平方层次结构验证博弈的凹性和单调性，提供多项式时间算法和近似方法。

Comments NeurIPS 2025