arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

University of Washington(华盛顿大学)

2026-06-08 至 2026-06-08 共收录 8
2606.06814 2026-06-08 stat.ML cs.LG math.ST stat.AP stat.TH 新提交

The Effect of Training Task Diversity on In-Context Learning through the Lens of Low-Dimensional Subspaces

训练任务多样性对上下文学习的影响:基于低维子空间的视角

Soo Min Kwon, Alec S. Xu, Can Yaras, Dogyoon Song, Laura Balzano, Qing Qu

机构 * University of California, Berkeley(加州大学伯克利分校) University of Washington(华盛顿大学) University of California, Los Angeles(加州大学洛杉矶分校) Stanford University(斯坦福大学) University of Toronto(多伦多大学)

AI总结 本文通过低秩高斯混合模型分析训练任务多样性(由子空间非重叠列数定义)如何提升线性注意力上下文学习的泛化与优化,解释训练多样性缩短学习平台期及实现分布外泛化的现象,并扩展至非线性场景。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.06565 2026-06-08 cs.GR cs.HC cs.LG 新提交

AI Level of Detail: Distance-Aware ML Model Precision Selection for Real-Time Human Motion Prediction in Games

AI细节层次:面向游戏中实时人体运动预测的距离感知机器学习模型精度选择

Mathew Varghese

机构 * University of Washington(华盛顿大学)

AI总结 提出AI LOD框架,根据NPC与玩家摄像头的距离调整机器学习推理精度,利用量化模型作为近似,在保持感知质量的同时降低计算开销。

Comments Camera-ready for SIGGRAPH Technical Workshops 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.14194 2026-06-08 cs.CL 版本更新

GradShield: Alignment Preserving Finetuning

GradShield: 保持对齐的微调

Zhanhao Hu, Xiao Huang, Patrick Mendoza, Emad A. Alghamdi, Basel Alomair, Raluca Ada Popa, David Wagner

机构 * University of California, Berkeley(加州大学伯克利分校) HUMAIN King Abdulaziz City for Science and Technology(国王阿卜杜勒阿齐兹科学与技术城) University of Washington, Seattle(华盛顿大学(西雅图))

AI总结 提出GradShield过滤方法,通过计算微调隐式危害分数并采用自适应阈值,在微调前移除有害数据,保持LLM安全对齐,攻击成功率低于6%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.05220 2026-06-08 cs.LG cs.AI 版本更新

MidSteer: Optimal Affine Framework for Steering Generative Models

MidSteer:用于引导生成模型的最优仿射框架

Tatiana Gaintseva, Andrew Stepanov, Ziquan Liu, Martin Benning, Gregory Slabaugh, Jiankang Deng, Ismail Elezi

机构 * University of Basel(巴塞尔大学) University of California, Berkeley(加州大学伯克利分校) ETH Zurich(苏黎世联邦理工学院) University of Cambridge(剑桥大学) University of Washington(华盛顿大学)

AI总结 本文提出MidSteer,一种基于仿射变换的最优概念引导框架,通过最小干扰实现生成模型中的概念切换,并在视觉扩散模型和大型语言模型上验证其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.03635 2026-06-08 cs.AI cs.CL 版本更新

Finding the Minimal Parameter Budget for Implicit Reasoning: A Data Complexity Driven Scaling Law for Language Models

寻找隐式推理的最小参数预算:一种基于数据复杂度的语言模型缩放定律

Xinyi Wang, Shawn Tan, Shenbo Xu, Mingyu Jin, William Yang Wang, Rameswar Panda, Yikang Shen

机构 * University of California, Berkeley(加州大学伯克利分校) University of Cambridge(剑桥大学) University of Washington(华盛顿大学) University of Toronto(多伦多大学) University of Tokyo(东京大学)

AI总结 本文通过控制合成环境中的预训练实验,发现语言模型隐式推理所需的最小参数预算与图搜索熵之间存在缩放定律,并确定了每参数最多可处理约0.008比特信息的容量上限。

Comments Accepted to ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2403.09110 2026-06-08 cs.LG cs.SY eess.SY math.DS math.OC

SINDy-RL: Interpretable and Efficient Model-Based Reinforcement Learning

SINDy-RL:可解释且高效的基于模型的强化学习

Nicholas Zolman, Christian Lagemann, Urban Fasel, J. Nathan Kutz, Steven L. Brunton

机构 * Department of Mechanical Engineering, University of Washington, Seattle, WA 98195, USA(华盛顿大学机械工程系) Data Science and Artificial Intelligence Department, The Aerospace Corporation, El Segundo, CA 90245(航空航天公司数据科学与人工智能部) Department of Aeronautics, Imperial College, London SW7 2AZ, United Kingdom(帝国理工学院航空系) Department of Applied Mathematics, University of Washington, Seattle, WA 98195(华盛顿大学应用数学系) Department of Electrical and Computer Engineering, University of Washington, Seattle, WA 98195(华盛顿大学电气与计算机工程系)

AI总结 本文提出SINDy-RL框架,结合SINDy和DRL,实现低数据下高效、可解释的动力学模型和控制策略,通过基准环境和流体控制实验验证其有效性。

Comments For code, see https://github.com/nzolman/sindy-rl. v2 Update: Included Pinball and 3D Airfoil examples. Christian Lagemann added as an author for contributions with the 3D Airfoil code. To appear in Nature Communications

Journal ref Nat. Commun. 16, 10714 (2025)

详情

展开后加载摘要…

URL PDF HTML 收藏
2404.02141 2026-06-08 stat.ME cs.LG econ.EM stat.CO stat.ML 版本更新

Robustly estimating heterogeneity in factorial data using Rashomon Partitions

使用Rashomon分区稳健估计因子数据中的异质性

Aparajithan Venkateswaran, Anirudh Sankar, Arun G. Chandrasekhar, Tyler H. McCormick

机构 * Department of Statistics, University of Washington, USA(美国华盛顿大学统计学系) Department of Economics, Stanford University, USA(美国斯坦福大学经济学系) J-PAL, NBER, USA(美国J-PAL和NBER) Department of Sociology, University of Washington, USA(美国华盛顿大学社会学系)

AI总结 提出Rashomon分区集(RPS)贝叶斯框架,通过枚举后验密度接近最大后验模型的所有模型来量化模型不确定性,实现稳健的异质性估计。

详情

展开后加载摘要…

URL PDF HTML 收藏
2311.00212 2026-06-08 cs.LG cs.NA math.DG math.NA

A Unified Framework to Enforce, Discover, and Promote Symmetry in Machine Learning

一种统一的框架用于在机器学习中强制、发现和促进对称性

Samuel E. Otto, Nicholas Zolman, J. Nathan Kutz, Steven L. Brunton

机构 * AI Institute in Dynamic Systems University of Washington(动态系统人工智能研究所华盛顿大学) Sibley School of Mechanical and Aerospace Engineering, Cornell University(机械与航空航天工程学院,康奈尔大学)

AI总结 本文提出统一框架,通过强制已知对称性、发现未知对称性和促进对称性三种方式,将对称性纳入机器学习模型中,基于李导数的数学框架统一了现有结果。

Journal ref J. Mach. Learn. Res. 26(248):1-83 (2025)

详情

展开后加载摘要…

URL PDF HTML 收藏