NeurIPS

Linearization Explains Fine-Tuning in Large Language Models

线性化解释大语言模型中的微调

Zahra Rahimi Afzal, Tara Esmaeilbeig, Mojtaba Soltanalian, Mesrob I. Ohannessian

AI总结 本文通过线性化视角揭示了大语言模型微调的机制，分析了正则化对NTK特征值谱的影响，并通过LoRA实验证明了微调优化的改进。

Journal ref Afzal, Z.R., Esmaeilbeig, T., Soltanalian, M. and Ohannessian, M.I., 2025. Linearization Explains Fine-Tuning in Large Language Models. In The Thirty-ninth Annual Conference on Neural Information Processing Systems

On Evaluation of Unsupervised Feature Selection for Pattern Classification

对无监督特征选择用于模式分类的评估

Gyu-Il Kim, Dae-Won Kim, Jaesung Lee

机构 * Department of Artificial Intelligence, Chung-Ang University, Republic of Korea（人工智能系， Chung-Ang 大学） ； School of Computer Science and Engineering, Chung-Ang University, Republic of Korea（计算机科学与工程学院， Chung-Ang 大学） 纠错

AI总结 本文通过多标签分类框架重新评估无监督特征选择方法，发现其性能排名与单标签设置有显著差异，表明多标签评估能更公平地比较这些方法。

Comments To appear in the 39th Annual Conference on Neural Information Processing Systems in Europe (EurIPS 2025) Workshop, Copenhagen, Denmark, 2-7 December 2025 AIDT@EurIPS: AI for Tabular Data

Reasoning With a Star: A Heliophysics Dataset and Benchmark for Agentic Scientific Reasoning

用恒星进行推理：一个用于代理科学推理的太阳物理数据集和基准

Kevin Lee, Russell Spiewak, James Walsh

机构 * Frontier Development Lab（前沿发展实验室） ； Department of Mechanical and Aerospace Engineering, UCLA（机械与航空航天工程系，加州大学洛杉矶分校） ； Trillium Technologies Inc.（Trillium技术公司） ； Department of Engineering, University of Cambridge（工程系，剑桥大学） 纠错

AI总结 本研究提出一个太阳物理数据集和基准，用于评估代理在科学推理中的表现，发现系统工程原则在演绎推理任务中优于直接提示方法。

Comments Accepted at NeurIPS 2025 Machine Learning and the Physical Sciences (ML4PS) Workshop. Dataset: https://huggingface.co/datasets/SpaceML/ReasoningWithAStar

Neural MJD: Neural Non-Stationary Merton Jump Diffusion for Time Series Prediction

神经MJD：用于时间序列预测的神经非平稳梅顿跳跃扩散

Yuanpei Gao, Qi Yan, Yan Leng, Renjie Liao

AI总结 Neural MJD通过引入非平稳梅顿跳跃扩散模型，结合随机微分方程和时间非齐次过程，提升时间序列预测的准确性和泛化能力。

Comments Accepted at NeurIPS 2025

On Geometry-Enhanced Parameter-Efficient Fine-Tuning for 3D Scene Segmentation

针对3D场景分割的几何增强型参数高效微调

Liyao Tang, Zhe Chen, Dacheng Tao

机构 * The University of Sydney（悉尼大学） ； La Trobe University（拉特罗布大学） ； Nanyang Technological University（南洋理工大学） 纠错

AI总结 本文提出GEM模块，通过整合局部位置编码与轻量级注意力机制，提升3D点云模型的几何感知微调效率和性能。

Comments Neurips 2025; available at https://github.com/LiyaoTang/GEM

The Structural Complexity of Matrix-Vector Multiplication

矩阵向量乘法的结构复杂性

Emile Anand, Jan van den Brand, Rose McCarty

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

AI总结 研究通过结构化矩阵的VC维分析，提出矩阵向量乘法的高效预处理和查询方法，解决了理论与实践间的效率差距。

Comments 32 pages. 2 figures. Accepted at NeurIPS 2025

Securing Dual-Use Pathogen Data of Concern

保障受关注的双用途病原体数据安全

Doni Bloomfield, Allison Berke, Moritz S. Hanke, Aaron Maiwald, James R. M. Black, Toby Webster, Tina Hernandez-Boussard, Oliver M. Crook, Jassi Pannu

机构 * Fordham University School of Law（福特汉姆大学法学院） ； RAND（RAND研究院） ； Center for Health Security Johns Hopkins Bloomberg School of Public Health（约翰霍普金斯大学布隆伯格公共卫生学院健康安全中心） ； Department of Statistics University of Oxford（牛津大学统计学系） ； RAND Europe（RAND欧洲分部） ； Stanford University School of Medicine（斯坦福大学医学院） ； Department of Chemistry & Kavli Institute for Nanoscience Discovery University of Oxford（牛津大学化学系及Kavli纳米科学发现研究所） 纠错

AI总结 本文提出了一种五级生物安全数据等级框架，用于分类和控制可能用于生物安全威胁的双用途病原体数据。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: Biosecurity Safeguards for Generative AI

ElliCE: Efficient and Provably Robust Algorithmic Recourse via the Rashomon Sets

ElliCE: 通过Rashomon集实现高效且可证明稳健的算法补救

Bohdan Turbal, Iryna Voitsitska, Lesia Semenova

机构 * Princeton University（普林斯顿大学） ； Ukrainian Catholic University（乌克兰天主教大学） ； Rutgers University（罗格斯大学） ； Taras Shevchenko National University of Kyiv（塔拉斯·谢甫琴科基斯林国立大学） ； Microsoft Research NYC（微软研究院纽约） 纠错

AI总结 ElliCE通过椭球近似Rashomon集，提供高效且可证明稳健的算法补救方法，提升反事实解释的鲁棒性和灵活性。

Journal ref The Thirty-ninth Annual Conference on Neural Information Processing Systems 2025

RNNs perform task computations by dynamically warping neural representations

RNNs通过动态扭曲神经表示来执行任务计算

Arthur Pellegrino, Angus Chadwick

AI总结 本文提出RNNs通过动态扭曲其表示来执行任务计算，并利用黎曼几何框架验证了这一假设。

Comments NeurIPS 2025

Correct Reasoning Paths Visit Shared Decision Pivots

正确推理路径访问共享决策枢纽

Dongkyu Cho, Amy B. Z. Zhang, Bilel Fehri, Sheng Wang, Rumi Chunara, Hengrui Cai, Rui Song

AI总结 本文提出了一种基于决策枢纽的自训练方法，通过挖掘共享决策点提升大语言模型的推理能力。

Comments 18 pages, 10 figures

Journal ref NeurIPS 2025 Workshop on Foundations of Reasoning in Language Models (FoRLM)

Predictability Enables Parallelization of Nonlinear State Space Models

可预测性使非线性状态空间模型并行化

Xavier Gonzalez, Leo Kozachkov, David M. Zoltowski, Kenneth L. Clarkson, Scott W. Linderman

机构 * Stanford University（斯坦福大学） ； IBM Research（IBM研究院） ； Brown University（布朗大学） 纠错

AI总结 本研究揭示了可预测性对非线性状态空间模型并行化效率的影响，通过分析系统动态与优化问题条件的关系，证明可预测系统可显著提升并行计算效率。

Comments NeurIPS '25. XG and LK dual lead authors. Code: https://github.com/lindermanlab/predictability_enables_parallelization

Remasking Discrete Diffusion Models with Inference-Time Scaling

通过推理时间缩放重新掩码离散扩散模型

Guanghan Wang, Yair Schiff, Subham Sekhar Sahoo, Volodymyr Kuleshov

机构 * Cornell Tech（康奈尔科技） ； Cornell University（康奈尔大学） 纠错

AI总结 ReMDM通过推理时间缩放提升离散扩散模型的样本质量与可控性

Comments NeurIPS 2025. Project page: https://remdm.github.io

Knowing When to Stop: Efficient Context Processing via Latent Sufficiency Signals

何时停止：通过潜在充分信号实现高效的上下文处理

Roy Xie, Junlin Wang, Paul Rosu, Chunyuan Deng, Bolun Sun, Zihao Lin, Bhuwan Dhingra

机构 * Duke（杜克大学） ； Rice（稻田大学） ； JHU（约翰·霍普金斯大学） ； UC Davis（加州大学戴维斯分校） 纠错

AI总结 通过潜在充分信号实现高效上下文处理，使LLMs在获得足够信息后自动终止处理，提升效率并减少token使用。

Comments Accepted to NeurIPS 2025

Latent Target Score Matching, with an application to Simulation-Based Inference

潜在目标分数匹配，及其在基于模拟的推断中的应用

Joohwan Ko, Tomas Geffner

机构 * University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； NVIDIA（英伟达） 纠错

AI总结 本文提出潜在目标分数匹配方法，通过利用联合分数降低方差，提升基于模拟推断任务的分数准确性和样本质量。

Comments Machine Learning and the Physical Sciences Workshop, NeurIPS 2025

Specialization after Generalization: Towards Understanding Test-Time Training in Foundation Models

专精于泛化：关于基础模型中测试时训练的理解

Jonas Hübotter, Patrik Wolf, Alexander Shevchenko, Dennis Jüni, Andreas Krause, Gil Kur

机构 * ETH Zürich（苏黎世联邦理工学院） ； Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所） 纠错

AI总结 本文提出基础模型在测试时训练通过专精于泛化以提升性能，通过实验验证了这一机制在分布内任务中的有效性。

Comments ICLR 2026 Oral at CCFM @ NeurIPS 2025

HyPlaneHead: Rethinking Tri-plane-like Representations in Full-Head Image Synthesis

HyPlaneHead：重新思考全头图像合成中的三平面表示

Heyuan Li, Kenkun Liu, Lingteng Qiu, Qi Zuo, Keru Zheng, Zilong Dong, Xiaoguang Han

机构 * Tongyi Lab, Alibaba Inc.（阿里云实验室） ； SSE, CUHK (Shenzhen)（城市大学（深圳）信息科学与工程学院） ； FNii-Shenzhen Guangdong Provincial Key Laboratory of Future Networks of Intelligence（未来网络智能化广东省重点实验室） 纠错

AI总结 HyPlaneHead通过引入混合平面表示，解决三平面表示中的特征纠缠和映射不均问题，提升全头图像合成性能。

Comments Accepted by NeurIPS 2025. Project page: https://lhyfst.github.io/hyplanehead/

Interpretable Generalized Additive Models for Datasets with Missing Values

可解释的广义加法模型用于含有缺失值的数据集

Hayden McTavish, Jon Donnelly, Margo Seltzer, Cynthia Rudin

AI总结 M-GAM通过结合缺失性指示符和交互项，提供了一种稀疏且可解释的广义加法模型，有效提升稀疏性并保持模型准确性。

Comments Published in NeurIPS 2024

On topological descriptors for graph products

关于图积的拓扑描述符

Mattie Ji, Amauri H. Souza, Vikas Garg

AI总结 本文研究了图积的拓扑描述符，分析了欧拉特征和持续同调在不同滤波器下的表现，并提出计算方法，为图数据的多尺度分析提供新工具。

Comments 26 pages, 4 tables, 5 figures. Accepted at NeurIPS 2025. Final version, clarified and fixed a bug

T-REGS: Minimum Spanning Tree Regularization for Self-Supervised Learning

T-REGS：基于最小生成树的自监督学习正则化

Julie Mordacq, David Loiseaux, Vicky Kalogeiton, Steve Oudot

机构 * Inria Saclay（Inria萨克雷实验室） ； LIX, CNRS, École Polytechnique, IP Paris（LIX，CNRS，巴黎高等理工学院，IP巴黎） 纠错

AI总结 T-REGS通过最小生成树长度正则化，有效缓解自监督学习中的维度崩溃和分布不均匀问题。

Comments NeurIPS 2025

EUGens: Efficient, Unified, and General Dense Layers

EUGens: 高效、统一且通用的密集层

Sang Min Kim, Byeongchan Kim, Arijit Sehanobish, Somnath Basu Roy Chowdhury, Rahul Kidambi, Dongseok Shim, Avinava Dubey, Snigdha Chaturvedi, Min-hwan Oh, Krzysztof Choromanski

AI总结 EUGens通过随机特征和输入范数依赖，高效统一密集层，提升推断速度和内存效率

Comments Neurips 2025

Hyperbolic Fine-Tuning for Large Language Models

双曲微调用于大语言模型

Menglin Yang, Ram Samarth B B, Aosong Feng, Bo Xiong, Jihong Liu, Irwin King, Rex Ying

机构 * HKUST(GZ)（香港科技大学（广州）） ； HKUST（香港科技大学） ； Indian Institute of Science（印度科学研究院） ； Yale University（耶鲁大学） ； Stanford University（斯坦福大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

AI总结 HypLoRA通过在双曲空间中进行低秩适应，提升大语言模型在算术和常识推理任务中的性能。

Comments NeurIPS 2025; https://github.com/marlin-codes/HypLoRA

Nonparametric Evaluation of Noisy ICA Solutions

非参数评估噪声ICA解法

Syamantak Kumar, Purnamrita Sarkar, Peter Bickel, Derek Bean

AI总结 本文提出了一种非参数评分方法，用于适应性选择ICA算法，适用于任意高斯噪声，并分析了算法的收敛性质。

Comments NeurIPS 2024 (Main Conference Track). 44 pages

Journal ref Advances in Neural Information Processing Systems, 37, pp.132647-132690 (2024)

On the Empirical Power of Goodness-of-Fit Tests in Watermark Detection

关于在水印检测中 goodness-of-fit 测试的实证效力

Weiqing He, Xiang Li, Tianqi Shang, Li Shen, Weijie Su, Qi Long

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

AI总结 本文研究了 goodness-of-fit 测试在水印检测中的实证效力，发现通用 GoF 测试能提升检测能力和鲁棒性，并指出文本重复对 GoF 测试的独特优势。

Comments Accepted at NeurIPS 2025 as a spotlight

Mamba Goes HoME: Hierarchical Soft Mixture-of-Experts for 3D Medical Image Segmentation

Mamba Goes HoME: 分层软专家混合模型用于3D医学图像分割

Szymon Płotka, Gizem Mert, Maciej Chrabaszcz, Ewa Szczurek, Arkadiusz Sitek

机构 * Faculty of Mathematics, Informatics, and Mechanics, University of Warsaw（华沙大学数学、信息学与力学系） ； Faculty of Mathematics and Computer Science, Jagiellonian University（雅盖隆大学数学与计算机科学系） ； Institute of AI for Health, Helmholtz Munich（海德堡医学院人工智能与健康研究所） ； Faculty of Electronics and Information Technology, Warsaw University of Technology（华沙理工大学电子与信息技术系） ； NASK - National Research Institute（国家研究 institute） ； Faculty of Radiology, Massachusetts General Hospital（麻省总医院放射学系） ； Department of Radiology, Harvard Medical School（哈佛医学院放射学系） 纠错

AI总结 本文提出分层软专家混合模型HoME，通过两级令牌路由提升3D医学图像分割的长上下文建模能力，实现更高效的局部和全局特征提取，从而提升分割性能。

Comments Accepted at NeurIPS 2025

SMMILE: An Expert-Driven Benchmark for Multimodal Medical In-Context Learning

SMMILE：一个多模态医学上下文学习的专家驱动基准

Melanie Rieff, Maya Varma, Ossian Rabow, Subathra Adithan, Julie Kim, Ken Chang, Hannah Lee, Nidhi Rohatgi, Christian Bluethgen, Mohamed S. Muneer, Jean-Benoit Delbrouck, Michael Moor

机构 * ETH Zurich（苏黎世联邦理工学院） ； Stanford University（斯坦福大学） ； Lund University（隆德大学） ； Jawaharlal Institute of Postgraduate Medical Education and Research（贾瓦哈拉尔·尼赫鲁医学教育与研究学院） ； UCSF（加州大学旧金山分校） ； University of Zurich（苏黎世大学） ； University Hospital Zurich（苏黎世大学医院） ； HOPPR 纠错

AI总结 SMMILE是一个专家驱动的多模态医学上下文学习基准，评估了15个MLLMs在医学任务中的多模态ICL能力，发现其表现有限且易受无关示例和最近性偏见影响。

Comments NeurIPS 2025 (Datasets & Benchmarks Track)

Optimal Adjustment Sets for Nonparametric Estimation of Weighted Controlled Direct Effect

非参数估计加权受控直接效应的最优调整集

Ruiyang Lin, Yongyi Guo, Kyra Gan

AI总结 本文提出非参数估计加权受控直接效应的最优调整集，通过建立可识别条件、影响函数和最优调整集，为复杂因果系统中的直接效应估计提供了系统框架。

Comments 47 pages, 8 figures, NeurIPS 2025 (accepted)

ProDAG: Projected Variational Inference for Directed Acyclic Graphs

ProDAG：针对有向无环图的投影变分推断

Ryan Thompson, Edwin V. Bonilla, Robert Kohn

机构 * University of Technology Sydney（技术大学悉尼大学） ； CSIRO’s Data61（CSIRO数据61） ； University of New South Wales（新南威尔士大学） 纠错

AI总结 ProDAG通过投影变分推断框架，在DAG学习中实现更准确的结构推断和不确定性量化。

Comments To appear in Advances in Neural Information Processing Systems

How Data Mixing Shapes In-Context Learning: Asymptotic Equivalence for Transformers with MLPs

数据混合如何塑造上下文学习：具有MLP的Transformer的渐近等价性

Samet Demir, Zafer Dogan

机构 * MLIP Research Group, KUIS AI Center, Koç University（MLIP研究组、KUIS人工智能中心、科举大学） ； Department of EEE, Koç University（电子工程系、科举大学） 纠错

AI总结 本文研究了具有MLP头的Transformer在非线性任务上的上下文学习能力，证明其在高维情况下与多项式预测器等价，并揭示了数据混合对学习性能的影响。

Comments NeurIPS 2025, 24 pages, 6 figures

Additive Models Explained: A Computational Complexity Approach

可加模型解释：一种计算复杂性方法

Shahaf Bassan, Michal Moshkovitz, Guy Katz

机构 * The Hebrew University of Jerusalem（特拉维夫大学） ； Google Research（谷歌研究） 纠错

AI总结 本文通过计算复杂性分析，揭示了GAMs解释的复杂性取决于输入空间结构、组件模型类型、任务类型及解释方法，挑战了GAMs解释的高效性假设。

Comments To appear in NeurIPS 2025

Preference-based Reinforcement Learning beyond Pairwise Comparisons: Benefits of Multiple Options

基于偏好强化学习的多选项扩展：多个选项的好处

Joongkyu Lee, Seouh-won Yi, Min-hwan Oh

AI总结 本文提出M-AUPO算法，通过多选项选择提升偏好强化学习的样本效率，并证明其理论性能界。

Comments Accepted at NeurIPS 2025