Towards Tight Bounds for Streaming Attention
流式注意力机制的紧界
机构 * MIT（麻省理工学院） ； EPFL（苏黎世联邦理工学院）
AI总结 本文通过核密度估计的三种方法（差异理论、多项式方法和空间划分）的紧密结合，几乎确定了流式注意力近似问题的空间复杂度紧界，并引入带大量辅助信息的INDEX问题新下界技术。
高校专区
EPFL（洛桑联邦理工学院）
Geodesics of Dynamic Graphs for Regime Change Detection
动态图的测地线用于状态转换检测
机构 * LTS4, EPFL（EPFL拉沃德实验室） ； Cyber-Defence Campus, Armasuisse（阿玛苏斯网络防御校区）
AI总结 提出将动态网络中的状态定义为时间图沿测地线的轨迹，通过图回归方法测量观测图与测地线的累积距离，结合变点检测算法识别状态转换，在合成和真实数据上优于现有方法。
OffQ: Taming Structured Outliers in LLM Quantization by Offsetting
OffQ：通过偏移驯服LLM量化中的结构化异常值
机构 * School of Computer and Communication Sciences, EPFL, Switzerland（瑞士联邦理工学院计算机与通信科学学院） ； Huawei, Switzerland（华为公司） ； Swiss Data Science Center, ETHZ & EPFL, Switzerland（瑞士数据科学中心，苏黎世联邦理工学院与联邦理工学院）
AI总结 提出OffQ方法，通过top-1 PCA识别异常值子空间、旋转集中异常值通道并转换为共享偏移，实现LLM的低比特均匀量化，在W4A4KV4下提升精度。
Spatiotemporal Imputation with Graph-Informed Flow Matching
基于图信息流匹配的时空插补
机构 * EPFL（苏黎世联邦理工学院）
AI总结 提出GiFlow框架，利用图信息先验和混合向量场模型进行时空插补，优于现有方法。
Comments Accepted at ICML 2026
Rigorous Asymptotics for First-Order Algorithms Through the Dynamical Cavity Method
通过动力学空腔方法严格推导一阶算法的渐进行为
机构 * Statistical Physics of Computation Laboratory, École polytechnique fédérale de Lausanne (EPFL)（计算统计物理实验室，瑞士联邦理工学院（EPFL）） ； Sloan School of Management, Operations Research Center and Institute of Data, Systems and Society (IDSS), MIT（斯隆管理学院，运筹学中心和数据、系统与社会研究所（IDSS），麻省理工学院） ； CSAIL and LIDS, MIT（计算机科学与人工智能实验室（CSAIL）和麻省理工学院数据科学研究所（LIDS））
AI总结 本文通过严格形式化的动力学空腔方法，推导出一阶算法（如梯度下降和近似消息传递）的动力学主方程，为非严谨的传统方法提供数学基础。
Journal ref COLT 2026
LAGO: A Local-Global Optimization Framework Combining Trust Region Methods and Bayesian Optimization
LAGO：一种结合信赖域方法和贝叶斯优化的局部-全局优化框架
机构 * Institute of Mathematics EPFL（瑞士联邦理工学院数学研究所） ； Dipartimento di Scienze Matematiche Politecnico di Torino（都灵理工大学数学系）
AI总结 提出LAGO框架，通过自适应竞争机制耦合贝叶斯优化和基于梯度的信赖域局部细化，用于光滑且梯度可用的昂贵目标函数优化，在提议层面分离全局探索与局部细化。
Comments 21 pages, 12 figures
Single-Head Attention in High Dimensions: A Theory of Generalization, Weights Spectra, and Scaling Laws
高维中的单头注意力：一般化、权重谱和扩展定律的理论
机构 * Statistical Physics of Computation Laboratory, École polytechnique fédérale de Lausanne (EPFL)（计算物理实验室，瑞士联邦理工学院（EPFL）） ； Information, Learning and Physics Laboratory, École polytechnique fédérale de Lausanne (EPFL)（信息、学习与物理实验室，瑞士联邦理工学院（EPFL））
AI总结 本文研究了高维序列任务中训练的注意力层权重谱结构，通过随机矩阵理论等工具，揭示了训练误差、插值阈值及键查询矩阵谱的高维特性，并预测了功率谱定律的出现。
Journal ref ICML 2026
Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data
图词典信号模型用于多变量数据的稀疏表示
机构 * LTS4, EPFL, Lausanne, Switzerland（瑞士洛桑联邦理工学院LTS4实验室）
AI总结 本文提出图词典信号模型，通过图结构描述多变量数据中的关系，利用稀疏组合的图原子进行信号重构，优于现有基线方法。
CoQuIR: A Comprehensive Benchmark for Code Quality-Aware Information Retrieval
CoQuIR：面向代码质量感知信息检索的综合基准
机构 * Linköping University（林波伊大学） ； MBZUAI（麦肯锡人工智能研究院） ； TU Darmstadt（德累斯顿技术大学） ； Shanghai Jiao Tong University（上海交通大学） ； EPFL（苏黎世联邦理工学院） ； University of Groningen（Groningen大学） ； Google Tokyo（东京Google） ； Alibaba Group（阿里巴巴集团） ； TU Munich（慕尼黑技术大学）
AI总结 提出首个大规模多语言代码质量感知检索基准CoQuIR，涵盖正确性、效率、安全性和可维护性四维度，通过细粒度标注和两个质量中心指标评估23个模型，发现顶尖模型常无法区分有缺陷代码，并探索了训练方法以提升质量感知能力。
On the existence of consistent adversarial attacks in high-dimensional linear classification
高维线性分类中一致对抗攻击存在的存在性研究
机构 * Information Learning and Physics Laboratory, École Polytechnique Fédérale de Lausanne (EPFL)（信息学习与物理实验室，瑞士联邦理工学院（EPFL）） ； Statistical Physics of Computation Laboratory, École Polytechnique Fédérale de Lausanne (EPFL)（计算统计物理实验室，瑞士联邦理工学院（EPFL）） ； Département d’Informatique, École Normale Supérieure - PSL & CNRS, France（信息学系，法国高等科学研究院（PSL）与国家科学研究中心（CNRS））
AI总结 本文研究高维二分类中对抗攻击与模型表达能力有限导致的误分类区别，提出新的误差度量标准，揭示模型对保持真实标签扰动的脆弱性，理论分析显示模型越过度参数化，对标签保持扰动的敏感性越高。
Journal ref ICML 2026
The Utility and Complexity of in- and out-of-Distribution Machine Unlearning
分布内与分布外机器遗忘的效用与复杂性
机构 * EPFL（瑞士联邦理工学院） ； Stanford University（斯坦福大学）
AI总结 本文分析近似机器遗忘的效用、时间和空间复杂度权衡，提出输出扰动的经验风险最小化实现分布内遗忘的紧致权衡，并针对分布外遗忘提出鲁棒噪声梯度下降变体以摊销时间复杂性。
