EPFL（洛桑联邦理工学院）

Constrained Stochastic Spectral Preconditioning Converges for Nonconvex Objectives

受限随机谱预处理收敛于非凸目标

Konstantinos Oikonomidis, Jan Quan, Kimon Antonakopoulos, Antonio Silveti-Falls, Volkan Cevher, Panagiotis Patrinos

机构 * KU Leuven, Department of Electrical Engineering, STADIUS Center for Dynamical Systems, Signal Processing, and Data Analytics（KU莱顿大学，电气工程系，动态系统、信号处理和数据分析中心） ； École Polytechnique Fédérale de Lausanne (EPFL), Laboratory for Information and Inference Systems (LIONS)（洛桑联邦理工学院（EPFL），信息与推断系统实验室） ； CVN, CentraleSupélec, Université Paris-Saclay, Inria（CVN，中央超导学院，巴黎-萨克雷大学，法国国家科学研究中心） 纠错

AI总结 本文提出基于谱梯度的方法，开发了近端预处理梯度方法，研究了在重尾噪声下的收敛性，并提出一种方差减少版本以加快收敛速度，同时展示非线性预处理器更准确地捕捉多项式迭代。

Where is the Mind? Persona Vectors and LLM Individuation

心灵在哪里？人格向量与大语言模型个体化

Pierre Beckmann, Patrick Butlin

机构 * EPFL（瑞士联邦理工学院） ； Idiap Research Institute（Idiap研究所） ； Eleos AI Research（Eleos AI研究） 纠错

AI总结 本文探讨大语言模型中个体化问题，通过机制可解释性分析人格向量和人格空间，提出虚拟实例观及两种新观点，论证注意力流维持心理连接，人格结构假说支持人格相关观点。

Pure Exploration Beyond Reward Feedback: The Role of Post-Action Context

纯探索超越奖励反馈：后行动上下文的作用

Mohammad Shahverdikondori, Amir Mohammad Abouei, Alireza Rezaeimoghadam, Negar Kiyavash

机构 * EPFL（瑞士联邦理工学院） ； Sharif University of Technology（谢赫·穆吉加德姆技术大学） 纠错

AI总结 本文提出在随机多臂老虎机环境中，考虑后行动上下文的最佳臂识别问题，分析了两种上下文类型，并提出算法以优化样本复杂度。

Comments 46 pages, 8 figures

Optimistic Dual Averaging Unifies Modern Optimizers

乐观对偶平均法统一了现代优化器

Thomas Pethick, Wanyun Xie, Roman Machacek, Volkan Cevher

机构 * EPFL (LIONS)（苏黎世联邦理工学院（LIONS）） ； University of Bern（伯尔尼大学） 纠错

AI总结 本文提出SODA，从乐观对偶平均法视角统一了Muon、Lion、AdEMAMix和NAdam等优化器，通过理论指导的1/k衰减调度消除权重衰减调参，实验证明SODA在不同规模和训练周期均提升性能。

Integrating the Expected Future in Load Forecasts with Contextually Enhanced Transformer Models

将预期未来整合到负载预测中：基于上下文增强的Transformer模型

Raffael Theiler, Leandro Von Krannichfeldt, Giovanni Sansavini, Michael F. Howland, Olga Fink

机构 * Intelligent Maintenance and Operations Systems (IMOS)（智能维护与运营系统） ； École Polytechnique Fédérale de Lausanne (EPFL)（瑞士联邦理工学院洛桑分校） ； Department of Mechanical and Process Engineering（机械与过程工程系） ； Eidgenössische Technische Hochschule (ETH)（瑞士联邦理工学院（ETH）） ； Department of Civil and Environmental Engineering（土木与环境工程系） ； Massachusetts Institute of Technology (MIT)（麻省理工学院） 纠错

AI总结 本文提出一种结合预测与回归的任务，通过上下文增强的Transformer模型提升能源预测准确性，通过铁路和建筑能耗案例验证了方法的有效性，显著降低预测误差。

Comments 39 pages, 8 figures and tables, journal paper