arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

EPFL(洛桑联邦理工学院)

2026-05-29 至 2026-05-29 共收录 6
2605.29761 2026-05-29 cs.CV cs.CG

S2MDF: A Plug-And-Play Layer for Intersection-Free Multi-Object Signed Distance Fields

S2MDF:用于无交叉多物体有符号距离场的即插即用层

Deniz Sayin Mercadier, Federico Stella, Aurel Bizeau, Nicolas Talabot, Pascal Fua

机构 * CVLab, Ecole Polytechnique Fédérale de Lausanne (EPFL)(计算机视觉实验室,瑞士联邦理工学院(EPFL))

AI总结 提出S2MDF模块,通过硬约束强制向量值有符号距离场避免物体间几何交叉,无需修改网络架构,在训练或后处理中均可使用,显著减少交叉至数值精度且保持重建质量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.14315 2026-05-29 cs.LG math.OC

Enhancing LLM Training via Spectral Clipping

通过谱裁剪增强大语言模型训练

Xiaowen Jiang, Andrei Semenov, Sebastian U. Stich

机构 * CISPA Helmholtz Center for Information Security(信息安全研究中心) EPFL(瑞士联邦理工学院)

AI总结 提出SPECTRA框架,通过对优化器更新进行谱裁剪以约束谱范数、对梯度进行预谱裁剪以抑制噪声尖峰,从而提升多种优化器在大语言模型预训练中的性能。

Comments v2: ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.18196 2026-05-29 cs.LG

RAT+: Train Dense, Infer Sparse -- Recurrence Augmented Attention for Dilated Inference

RAT+:密集训练,稀疏推理——用于扩张推理的循环增强注意力

Xiuying Wei, Caglar Gulcehre

机构 * CLAIRE lab at EPFL, Lausanne, Switzerland(EPFL 拉沃斯实验室)

AI总结 提出RAT+架构,通过密集预训练和循环增强注意力,使模型在推理时可灵活切换为稀疏扩张注意力,大幅降低计算和缓存开销,同时保持高精度。

Comments Accepted by ICML2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28488 2026-05-29 stat.ML cs.LG math.ST stat.TH

Bridging Maximum Likelihood and Optimal Transport for Efficient Inference and Model Selection in Stochastic Block Models

桥接最大似然与最优传输:随机块模型中的高效推理与模型选择

Simon Queric, Cédric Vincent-Cuaz, Charles Bouveyron, Marco Corneli

机构 * Université Côte d’Azur(法国蔚蓝海岸大学) Inria(法国国家信息与自动化技术研究院) CNRS LJAD(法国国家科学研究中心LJAD实验室) Maasai Nice, France(法国尼斯马萨伊研究所) EPFL Lausanne, Switzerland(瑞士洛桑联邦理工学院) CNRS CEPAM(法国国家科学研究中心CEPAM实验室)

AI总结 本文通过最优传输视角研究随机块模型,提出正则化与未正则化的半松弛Gromov-Wasserstein估计器,实现聚类与模型参数的联合推断及簇数自动选择。

Comments 10 pages, 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00991 2026-05-29 cs.AI cs.PL

Tracking Capabilities for Safer Agents

更安全智能体的追踪能力

Martin Odersky, Yaoyu Zhao, Yichen Xu, Oliver Bračevac, Cao Nguyen Pham

机构 * EPFL(苏黎世联邦理工学院)

AI总结 提出通过Scala 3的捕获检查类型系统静态追踪能力,构建基于编程语言的智能体安全约束,防止信息泄露和恶意副作用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21725 2026-05-29 cs.CL cs.LG

Procedural Pretraining: Warming Up Language Models with Abstract Data

程序化预训练:用抽象数据预热语言模型

Liangze Jiang, Zachary Shinnick, Anton van den Hengel, Hemanth Saratchandran, Damien Teney

机构 * EPFL(苏黎世联邦理工学院) Idiap Research Institute(伊迪普研究机构) AIML, Adelaide University(人工智能实验室,阿德莱德大学)

AI总结 提出程序化预训练方法,通过在抽象结构化数据(如形式语言生成的程序数据)上预训练语言模型,显著提升其推理能力并加速后续语义知识学习,实验表明仅需0.1-0.3%的程序数据即可超越标准预训练。

Comments ICML 2026. Project page: https://zlshinnick.github.io/procedural-pretraining-page/

详情

展开后加载摘要…

URL PDF HTML 收藏