arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

EPFL(洛桑联邦理工学院)

共收录 857
2602.00942 2026-06-01 cs.LG

SALAAD: Sparse And Low-Rank Adaptation via ADMM for Large Language Model Inference

SALAAD: 基于ADMM的稀疏低秩适配用于大语言模型推理

Hao Ma, Melis Ilayda Bal, Liang Zhang, Bingcong Li, Niao He, Melanie Zeilinger, Michael Muehlebach

机构 * ETH Zurich(苏黎世联邦理工学院) Max Planck Institute for Intelligent Systems(智能系统马克斯·普朗克研究所) École polytechnique fédérale de Lausanne (EPFL)(洛桑联邦理工学院(EPFL))

AI总结 提出SALAAD框架,通过增广拉格朗日方法在训练中诱导稀疏低秩结构,实现模型容量灵活控制,降低部署内存且无需重训。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.17607 2026-06-01 cs.AI cs.CL

Symbolic Intermediaries as a Linguistic-Numerical Interface for LLM-Driven Geometric Reasoning

符号中介作为LLM驱动几何推理的语言-数值接口

João Pedro Gandarela, Thiago Rios, Stefan Menzel, André Freitas

机构 * Idiap Research Institute(Idiap研究 institute) École Polytechnique Fédérale de Lausanne(瑞士联邦理工学院) Honda Research Institute Europe(本田欧洲研究院) Department of Computer Science, University of Manchester(曼彻斯特大学计算机科学系) National Biomarker Centre, CRUK-MI, University of Manchester(曼彻斯特大学国家生物标记中心)

AI总结 提出符号中介作为连接物理模拟器数值输出与语言模型推理的接口,通过符号回归将连续数值转化为符号表达式,并在协同优化循环中提升几何推理性能。

Comments 33 pages, 18 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.29761 2026-05-29 cs.CV cs.CG

S2MDF: A Plug-And-Play Layer for Intersection-Free Multi-Object Signed Distance Fields

S2MDF:用于无交叉多物体有符号距离场的即插即用层

Deniz Sayin Mercadier, Federico Stella, Aurel Bizeau, Nicolas Talabot, Pascal Fua

机构 * CVLab, Ecole Polytechnique Fédérale de Lausanne (EPFL)(计算机视觉实验室,瑞士联邦理工学院(EPFL))

AI总结 提出S2MDF模块,通过硬约束强制向量值有符号距离场避免物体间几何交叉,无需修改网络架构,在训练或后处理中均可使用,显著减少交叉至数值精度且保持重建质量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.14315 2026-05-29 cs.LG math.OC

Enhancing LLM Training via Spectral Clipping

通过谱裁剪增强大语言模型训练

Xiaowen Jiang, Andrei Semenov, Sebastian U. Stich

机构 * CISPA Helmholtz Center for Information Security(信息安全研究中心) EPFL(瑞士联邦理工学院)

AI总结 提出SPECTRA框架,通过对优化器更新进行谱裁剪以约束谱范数、对梯度进行预谱裁剪以抑制噪声尖峰,从而提升多种优化器在大语言模型预训练中的性能。

Comments v2: ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.18196 2026-05-29 cs.LG

RAT+: Train Dense, Infer Sparse -- Recurrence Augmented Attention for Dilated Inference

RAT+:密集训练,稀疏推理——用于扩张推理的循环增强注意力

Xiuying Wei, Caglar Gulcehre

机构 * CLAIRE lab at EPFL, Lausanne, Switzerland(EPFL 拉沃斯实验室)

AI总结 提出RAT+架构,通过密集预训练和循环增强注意力,使模型在推理时可灵活切换为稀疏扩张注意力,大幅降低计算和缓存开销,同时保持高精度。

Comments Accepted by ICML2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28488 2026-05-29 stat.ML cs.LG math.ST stat.TH

Bridging Maximum Likelihood and Optimal Transport for Efficient Inference and Model Selection in Stochastic Block Models

桥接最大似然与最优传输:随机块模型中的高效推理与模型选择

Simon Queric, Cédric Vincent-Cuaz, Charles Bouveyron, Marco Corneli

机构 * Université Côte d’Azur(法国蔚蓝海岸大学) Inria(法国国家信息与自动化技术研究院) CNRS LJAD(法国国家科学研究中心LJAD实验室) Maasai Nice, France(法国尼斯马萨伊研究所) EPFL Lausanne, Switzerland(瑞士洛桑联邦理工学院) CNRS CEPAM(法国国家科学研究中心CEPAM实验室)

AI总结 本文通过最优传输视角研究随机块模型,提出正则化与未正则化的半松弛Gromov-Wasserstein估计器,实现聚类与模型参数的联合推断及簇数自动选择。

Comments 10 pages, 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00991 2026-05-29 cs.AI cs.PL

Tracking Capabilities for Safer Agents

更安全智能体的追踪能力

Martin Odersky, Yaoyu Zhao, Yichen Xu, Oliver Bračevac, Cao Nguyen Pham

机构 * EPFL(苏黎世联邦理工学院)

AI总结 提出通过Scala 3的捕获检查类型系统静态追踪能力,构建基于编程语言的智能体安全约束,防止信息泄露和恶意副作用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21725 2026-05-29 cs.CL cs.LG

Procedural Pretraining: Warming Up Language Models with Abstract Data

程序化预训练:用抽象数据预热语言模型

Liangze Jiang, Zachary Shinnick, Anton van den Hengel, Hemanth Saratchandran, Damien Teney

机构 * EPFL(苏黎世联邦理工学院) Idiap Research Institute(伊迪普研究机构) AIML, Adelaide University(人工智能实验室,阿德莱德大学)

AI总结 提出程序化预训练方法,通过在抽象结构化数据(如形式语言生成的程序数据)上预训练语言模型,显著提升其推理能力并加速后续语义知识学习,实验表明仅需0.1-0.3%的程序数据即可超越标准预训练。

Comments ICML 2026. Project page: https://zlshinnick.github.io/procedural-pretraining-page/

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28640 2026-05-28 cs.LG

Augmenting Attention with Exponentially Decaying Memory Improves Query-Aware KV Sparsity

用指数衰减记忆增强注意力提升查询感知的KV稀疏性

Xiuying Wei, Caglar Gulcehre

机构 * EPFL(苏黎世联邦理工学院) CLAIRE(人工智能实验室)

AI总结 本文通过引入指数衰减记忆模块增强注意力机制,在稀疏注意力推理中显著提升查询感知方法的准确性,并在多个任务上验证了其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28617 2026-05-28 cs.AI cs.PL

LACUNA: Safe Agents as Recursive Program Holes

LACUNA: 作为递归程序空洞的安全智能体

Yaoyu Zhao, Yichen Xu, Oliver Bračevac, Cao Nguyen Pham, Frank Zhengqing Wu, Martin Odersky

机构 * EPFL(苏黎世联邦理工学院)

AI总结 提出LACUNA编程模型,通过类型化调用和编译时检查,让LLM智能体以递归程序空洞的方式安全地编写代码,实现表达性与安全性的统一。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28587 2026-05-28 cs.CV

Deformable Gaussian Occupancy: Decoupling Rigid and Nonrigid Motion with Factorized Distillation

可变形高斯占据:通过分解蒸馏解耦刚性与非刚性运动

Yang Gao, Wuyang Li, Po-Chien Luan, Alexandre Alahi

机构 * École Polytechnique Fédérale de Lausanne(瑞士联邦理工学院洛桑校区)

AI总结 提出DeGO框架,通过解耦高斯变形和分解式4D基础模型蒸馏,在弱监督下实现动态场景中刚性与非刚性运动的分离,显著提升人体实例占据预测性能。

Comments CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28371 2026-05-28 cs.AI cs.LG cs.SE

From paper to benchmark: agentic, framework-based reproduction of under-specified methods in machine health intelligence

从论文到基准测试:基于智能体和框架的机器健康智能中欠规范方法复现

Raffael Theiler, Ludovico Comito, David Leko, Leandro Von Krannichfeldt, Lev Telyatnikov, Olga Fink

机构 * EPFL(苏黎世联邦理工学院)

AI总结 提出一种基于智能体和共享框架的方法,通过槽绑定接口将论文转化为可执行、可比较的基准测试实现,解决工业预测与健康管理中方法复现的困难。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28345 2026-05-28 cs.AI cs.LG eess.SP

Picid: A Modular Evaluation Infrastructure for Reproducible PHM Across Tasks and Domains

Picid: 一种跨任务和领域的可复现PHM模块化评估基础设施

Lev Telyatnikov, Raffael Theiler, Leandro Von Krannichfeldt, Olga Fink

机构 * EPFL(苏黎世联邦理工学院)

AI总结 提出模块化评估基础设施Picid,通过标准化数据契约和评估边界,实现跨任务、跨数据集的故障检测、诊断和预测的可复现与公平比较。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28230 2026-05-28 cs.CV

Proprio: Latent Self-Scoring and Inference-Time Refinement for Physically Plausible Video Generation

Proprio: 用于物理合理视频生成的潜在自评分与推理时精炼

Mariam Hassan, Kaouther Messaoud, Wuyang Li, Alexandre Alahi

机构 * École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院) Télécom Paris(巴黎电信学院)

AI总结 提出Proprio,一种无需训练框架,通过分析模型在潜在扰动下的流残差作为自评分信号,结合最佳N搜索和梯度自精炼,提升冻结视频生成器输出的物理合理性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.27734 2026-05-28 cs.LG

Learn from your own latents and not from tokens: A sample-complexity theory

从自身潜在表示而非token学习:样本复杂度理论

Daniel J. Korchinski, Alessandro Favero, Matthieu Wyart

机构 * Institute of Physics(物理研究所) University of Cambridge(剑桥大学) Johns Hopkins University(约翰霍普金斯大学) EPFL(苏黎世联邦理工学院)

AI总结 本文通过概率上下文无关语法数据,证明潜在预测方法在样本复杂度上相比token级SSL具有指数级优势,并分析了多尺度层次结构的必要性。

Comments 10 pages, 5 figures in main. 28 pages, 14 figures, 1 table in all

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.27564 2026-05-28 cs.CL cs.AI cs.LG

The Future of Facts: Tracing the Factual Generation-Verification Gap

事实的未来:追踪事实生成-验证差距

Tim R. Davidson, Anja Surina, Caglar Gulcehre

机构 * EPFL(苏黎世联邦理工学院)

AI总结 本文通过训练阶段分析,发现语言模型在事实知识上存在生成-验证差距,验证能力先于生成能力习得且更稳健,事实更新可能导致模型处于“多宇宙”状态。

Comments Code for this project is available at https://github.com/anjasurina/factgap , blog post at https://www.trdavidson.com/fact-gap

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.27006 2026-05-27 cs.LG cond-mat.dis-nn stat.ML

Sampling Data with Chains of Forward-Backward Diffusion Steps

通过前向-反向扩散步骤链采样数据

Hyunmo Kang, Noam Itzhak Levi, Corinna Elena Wegner, Daniel J. Korchinski, Matthieu Wyart

机构 * Johns Hopkins University(约翰霍普金斯大学) EPFL(瑞士联邦理工学院) University of Göttingen(哥廷根大学)

AI总结 提出U-turn链,通过扩散模型的短前向-反向步骤迭代构造马尔可夫链,结合Metropolis-Hastings校正从能量修正目标中采样,并发现最小U-turn动力学经历由数据流形碎片化驱动的遍历性破缺相变。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24465 2026-05-27 cs.RO

Polymander II: an amphibious salamander-inspired robot with contact and flow sensors

Polymander II:一种带有接触和流量传感器的两栖蝾螈启发机器人

Qiyuan Fu, Sudong Lee, Andrea Grillo, Jonathan Arreguit, Louis Gevers, Josie Hughes, Auke J. Ijspeert

机构 * Biorobotics Laboratory, EPFL(生物机器人实验室,瑞士联邦理工学院) CREATE Lab, EPFL(CREATE实验室,瑞士联邦理工学院) Innobridge Services Sàrl(Innobridge Services公司)

AI总结 本文提出一种基于霍尔效应传感器的两栖机器人,用于感知足部接触力和侧向水动力,实现陆水环境感知与反馈控制。

Comments This work has been accepted for publication in the 2026 International Conference on Robotics and Automation (ICRA), Vienna, Austria

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.19969 2026-05-27 cs.LG

Your Neighbors Know: Leveraging Local Neighborhoods for Backdoor Detection in Decentralized Learning

你的邻居知道:利用局部邻居进行去中心化学习中的后门检测

Sayan Biswas, Antoine Boutet, Davide Frey, Romaric Gaudel, Rachid Guerraoui, Maxime Jacovella, Anne-Marie Kermarrec, Dimitri Lerévérend, François Taïani, Martijn de Vos

机构 * EPFL(瑞士联邦理工学院) Inria, INSA Lyon, CITI(法国国家科学研究中心、里昂国立应用科学学院、CITI) Univ. Rennes, Inria, CNRS, IRISA(雷恩大学、法国国家科学研究中心、CNRS、IRISA)

AI总结 提出Argus框架,通过局部邻居协作分析模型更新并利用结构相似性度量区分真实后门与数据异构性导致的误报,实现去中心化学习中的后门检测,并提供理论收敛保证。

Comments 34 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.18915 2026-05-27 cs.DS cs.LG

Testing Support Size More Efficiently Than Learning Histograms

比学习直方图更高效地测试支撑大小

Renato Ferreira Pinto, Nathaniel Harms

机构 * Columbia University, USA(哥伦比亚大学,美国) University of British Columbia, Canada(不列颠哥伦比亚大学,加拿大) University of Waterloo(多伦多大学) EPFL(苏黎世联邦理工学院)

AI总结 针对未知概率分布p的支撑大小测试问题,提出一种基于切比雪夫多项式的方法,仅需O(n/(ε log n) log(1/ε))个样本,优于学习直方图的Θ(n/(ε^2 log n))样本,并给出支撑大小的更大下界。

Comments 42 pages. This is the TheoretiCS journal version

Journal ref TheoretiCS, Volume 5 (May 21, 2026) theoretics:16717

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.08413 2026-05-27 cs.LG cs.AI

Geometrically Constrained Outlier Synthesis

几何约束异常合成

Daniil Karzanov, Marcin Detyniecki

机构 * AXA AI Research(AXA人工智能研究) EPFL, Lausanne, Switzerland(瑞士洛桑联邦理工学院) Polish Academy of Science, IBS PAN, Warsaw, Poland(波兰科学院,IBS PAN,华沙,波兰)

AI总结 提出几何约束异常合成(GCOS)方法,通过在隐藏特征空间中生成受几何约束的虚拟异常样本,结合对比正则化,提升图像分类模型对分布外样本的鲁棒性。

Comments 19 pages, accepted to ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21845 2026-05-27 cs.LG

Constrained Meta Reinforcement Learning with Provable Test-Time Safety

具有可证明测试时安全性的约束元强化学习

Tingting Ni, Maryam Kamgarpour

机构 * Sycamore Lab, EPFL, Lausanne, Switzerland(苏黎世联邦理工学院萨克森实验室,瑞士拉瓦尔)

AI总结 提出一种约束元强化学习算法,在测试任务上以可证明的安全性和样本复杂度保证学习近似最优策略,并证明样本复杂度下界。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.02974 2026-05-27 cs.LG

PLAID: A Unified Data Model for Machine Learning on Heterogeneous Physics Simulations

PLAID:面向异构物理模拟的机器学习统一数据模型

Fabien Casenave, Xavier Roynard, Brian Staber, Alexandre Devaux-Rivière, William Piat, Michele Alessandro Bucci, Nissrine Akkari, Abbas Kabalan, Xuan Minh Vuong Nguyen, Luca Saverio, Raphaël Carpintero Perez, Anthony Kalaydjian, Samy Fouché, Thierry Gonon, Ghassan Najjar, Thomas Daniel, Emmanuel Menier, Matthieu Nastorg, Giovanni Catalani, Christian Rey

机构 * EPFL(苏黎世联邦理工学院) Inria(法国国家信息与自动化技术研究院)

AI总结 提出PLAID统一数据层,通过标准化异构物理模拟数据并发布六个基准数据集,解决机器学习代理模型缺乏大规模多样化数据集的问题。

Comments Presented at EuRIPS 2025 and accepted at the AI4Physics Workshop @ ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.25781 2026-05-26 cs.CL

Double Triangle Annotation: A Scalable Human-in-the-Loop Framework for High-Precision Historical Document Annotation

双三角形标注:一种可扩展的人机协同高精度历史文档标注框架

Yi Ren

机构 * École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)

AI总结 提出双三角形标注框架,通过两层人机协同和跨模型共识自动完成大部分标注工作,实现高精度历史文档结构化信息提取。

Comments 12 pages, 4 figures. ACL ARR 2026 March submission

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24761 2026-05-26 cs.CV cs.RO

Drift-Resistant Navigation World Model with Anchored Epipolar Guidance

抗漂移导航世界模型与锚定对极引导

Po-Chien Luan, Zimin Xia, Wuyang Li, Yang Gao, Alexandre Alahi

机构 * EPFL(瑞士联邦理工学院)

AI总结 提出一种抗漂移导航世界模型,通过锚定引导滚动和双向对极几何约束,同时减轻感知漂移和几何漂移,提升长期视觉质量、几何一致性和多视图连贯性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.20022 2026-05-26 cs.LG cs.AI cs.CL

MoBayes: A Modular Bayesian Framework for Separating Reasoning from Language in Conversational Clinical Decision Support

MoBayes:一种用于对话式临床决策支持中推理与语言分离的模块化贝叶斯框架

Yusuf Kesmen, Fay Elhassan, Jiayi Ma, Julien Stalhandske, Yena Chang, David Sasu, Alexandra Kulinkina, Akhil Arora, Lars Klein, Mary-Anne Hartley

机构 * LiGHT, EPFL(LiGHT,瑞士联邦理工学院) University of Bern(伯尔尼大学) Aarhus University(奥胡斯大学)

AI总结 提出MoBayes框架,通过将LLM作为语言接口、贝叶斯模块进行概率推理,实现推理与语言分离,在临床决策支持中优于独立前沿LLM医生。

Comments 50 pages including appendix, 13 figures, 22 tables. Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.05108 2026-05-26 cs.AI cs.LG cs.NE

Algorithm Discovery With LLMs: Evolutionary Search Meets Reinforcement Learning

利用大语言模型发现算法:进化搜索遇见强化学习

Anja Surina, Amin Mansouri, Lars Quaedvlieg, Amal Seddas, Maryna Viazovska, Emmanuel Abbe, Caglar Gulcehre

机构 * EPFL(苏黎世联邦理工学院) Apple(苹果公司)

AI总结 提出通过强化学习微调持续优化大语言模型,结合进化搜索加速发现更优算法,在组合优化任务上验证有效性。

Comments 34 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24524 2026-05-26 cs.LG cs.CL q-bio.NC

What Are We Actually Decoding? Source Attribution for Non-Invasive Brain-to-Language Retrieval

我们究竟在解码什么?非侵入式脑到语言检索的源归因

Xinyu Zhang, Sichao Liu, Runhao Lu, Alexandra Woolgar, Lihui Wang

机构 * KTH(瑞典皇家理工学院) University of Cambridge(剑桥大学) EPFL(苏黎世联邦理工学院) Karolinska Institutet(Karolinska研究所) McGill University(麦吉尔大学)

AI总结 针对非侵入式神经语言解码中结果被非刺激诱发源(如解码器先验、嵌入度量、信号时长等)膨胀的问题,提出一个审计框架,通过结构捷径、窗口级刺激锁定证据和跨窗口上下文聚合三种源分离,并引入组上下文偏差(GCB)作为可控的源归因干预,实现性能的源归因而非仅报告。

Comments 35 pages, 7 figures, 25 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24523 2026-05-26 cs.LG cs.CL q-bio.NC

MindAlign: Bridging EEG, Vision, and Language for Zero-Shot Visual Decoding

MindAlign: 弥合脑电图、视觉和语言实现零样本视觉解码

Zexuan Chen, Sichao Liu, Runhao Lu, Huichao Qi, Alexandra Woolgar, Xi Vincent Wang, Lihui Wang

机构 * KTH, SWeden(瑞典皇家理工学院) University of Cambridge, UK(剑桥大学) EPFL, Switzerland(瑞士联邦理工学院) McGill University, Canada(麦吉尔大学) Karolinska Institutet, Sweden(卡罗林斯卡研究所)

AI总结 提出一种三模态对比学习框架MindAlign,通过对齐脑电图、图像和文本表示,在Things-EEG2零样本基准上实现54.1% Top-1和83.4% Top-5准确率,显著超越先前方法。

Comments 20 pages, 10 figures, 15 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.23821 2026-05-25 cs.CL cs.LG

Hierarchical Concept Geometry in Language Models Emerges from Word Co-occurrence

语言模型中的层级概念几何源于词汇共现

Andres Nava, Matthieu Wyart

机构 * Johns Hopkins University(约翰霍普金斯大学) EPFL(苏黎世联邦理工学院)

AI总结 本文提出一种分布理论,证明语言表示中的上下义关系几何结构源于词汇共现的谱结构,并在word2vec和Gemma 2B嵌入中得到验证。

Comments 34 pages, 12 figures, including appendices

详情

展开后加载摘要…

URL PDF HTML 收藏