arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Massachusetts Institute of Technology(麻省理工学院)

共收录 2206
2511.07833 2026-05-12 cs.LG cs.AI

MURPHY: Feedback-Aware GRPO with Retrospective Credit Assignment for Multi-Turn Code Generation

MURPHY:具有回顾性信用分配的反馈感知GRPO用于多轮代码生成

Chanakya Ekbote, Vijay Lingam, Sujay Sanghavi, Jun Huan, Behrooz Omidvar-Tehrani, Anoop Deoras, Stefano Soatto

机构 * Massachusetts Institute of Technology(麻省理工学院) AWS AI(AWS人工智能)

AI总结 MURPHY通过构建反馈条件化的rollout树,实现多轮自修正代码生成,采用最大奖励和平均奖励策略,并引入post-rollout剪枝机制,提升多轮优化效率。

Comments 21 pages, 2 figures, 8 Tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.04233 2026-05-12 cs.LG cs.AI

PAINET: A Principled Efficient Transformer for 3D Dynamics Modeling

PAINET:一种基于原理的高效变压器用于3D动态建模

Kai Yang, Yuqi Huang, Junheng Tao, Wanyu Wang, Qitian Wu

机构 * Department of Computer Science and Engineering, Shanghai Jiao Tong University(上海交通大学计算机科学与工程系) Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) School of Artificial Intelligence, Shanghai Jiao Tong University(上海交通大学人工智能学院) SJTU Paris Elite Institute of Technology, Shanghai Jiao Tong University(上海交通大学巴黎精英理工学院) Department of Physics, Harvard University(哈佛大学物理系) Harvard-MIT Center for Ultracold Atoms(哈佛-麻省理工冷原子中心) Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard(MIT和哈佛大学Broad研究所埃里克和wendy Schmidt中心)

AI总结 本文提出PAINET,一种基于SE(3)等价性的变压器,用于学习多体系统的所有对相互作用,通过物理启发的注意力网络和并行解码器,在多个真实世界基准上实现了3D动态预测的误差降低。

Comments 24 pages, published as a conference paper at ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.14697 2026-05-12 cs.LG math.AP math.DS stat.ML

Quantitative Clustering in Mean-Field Transformer Models

均场变换器模型中的定量聚类

Shi Chen, Zhengjiang Lin, Yury Polyanskiy, Philippe Rigollet

机构 * Department of Mathematics, Massachusetts Institute of Technology(数学系,麻省理工学院) Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology(电气工程与计算机科学系,麻省理工学院)

AI总结 研究均场变换器模型的长期聚类行为,证明在合适参数下,均场初始化能以指数速度同步到Dirac点质量,提供明确的收敛速率。

Comments 50 pages, 4 figures; We have updated the introduction and added sketches of the proofs of the main theorems

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.06096 2026-05-12 stat.ML cs.AI cs.LG stat.ME

Post-detection inference for sequential changepoint localization

检测后的推断用于序列变化点定位

Aytijhya Saha, Aaditya Ramdas

机构 * Massachusetts Institute of Technology(麻省理工学院) Carnegie Mellon University(卡内基梅隆大学)

AI总结 本文提出了一种通用框架,用于在序列变化点检测后构建置信集,不依赖特定假设,理论上有保证,且在实践中应用广泛。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08408 2026-05-12 cs.LG

AdamFLIP: Adaptive Momentum Feedback Linearization Optimization for Hard Constrained PINN Training

AdamFLIP: 适应性动量反馈线性化优化用于硬约束PINN训练

Binghang Lu, Runyu Zhang, Changhong Mou, Na Li, Guang Lin

机构 * Purdue University(普渡大学) Massachusetts Institute of Technology(麻省理工学院) Utah State University(犹他州立大学) Harvard University(哈佛大学)

AI总结 本文提出AdamFLIP方法,将PINN训练转化为等式约束优化问题,通过反馈线性化技术提升约束满足能力,实验表明其在PDE问题中优于传统软约束PINN和现有约束优化器。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08296 2026-05-12 cs.CV eess.SP

BenchHAR: Benchmarking Self-Supervised Learning for Generalizable Sensor-based Activity Recognition

BenchHAR: 用于通用传感器活动识别的自监督学习基准测试

Yize Cai, Rui Feng, Anlan Yu, Baoshen Guo, Zhiqing Hong

机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州)) Peking University(北京大学) Singapore-MIT Alliance for Research and Technology(新加坡-麻省理工联合研究技术联盟)

AI总结 BenchHAR针对传感器活动识别中数据异质性和标注数据稀缺问题,系统比较了自监督学习方法的泛化性能,发现混合范式和CNN编码器在性能上表现最佳,且增加预训练数据量能提升泛化能力。

Comments 25 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08019 2026-05-11 cs.AI q-bio.NC

Reason to Play: Behavioral and Brain Alignment Between Frontier LRMs and Human Game Learners

玩乐的动机:前沿LRMs与人类游戏学习者的行为与大脑对齐

Botos Csaba, Sreejan Kumar, Austin Tudor David Andrews, Laurence Hunt, Chris Summerfield, Joshua B. Tenenbaum, Rui Ponte Costa, Marcelo G. Mattar, Momchil Tomov

机构 * University of Oxford(牛津大学) Columbia University(哥伦比亚大学) New York University(纽约大学) Massachusetts Institute of Technology(麻省理工学院) Harvard University(哈佛大学)

AI总结 本文研究了前沿LRMs在游戏学习中的行为与大脑活动对齐情况,发现其在游戏发现阶段更接近人类行为,并能更准确预测大脑活动。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.07693 2026-05-11 cs.LG

Toward Better Geometric Representations for Molecule Generative Models

迈向更优的分子生成模型几何表示

Shaoheng Yan, Zian Li, Cai Zhou, Qiaojing Huang, Kai Liu, Muhan Zhang

机构 * Institute for Artificial Intelligence, PKU(北京大学人工智能学院) ByteDance AI Drug Discovery(字节跳动AI药物发现) School of Intelligence Science and Technology, PKU(北京大学智能科学与技术学院) Anew Labs(Anew实验室) Department of Electrical Engineering and Computer Science, MIT(麻省理工学院电子工程与计算机科学系) State Key Laboratory of General Artificial Intelligence, PKU(北京大学通用人工智能国家重点实验室)

AI总结 本文提出LENSEs框架,通过改进分子表示方法提升生成质量,实验显示其在GEOM-DRUG数据集上取得高有效性和稳定性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.07546 2026-05-11 cs.LG

On the Invariance and Generality of Neural Scaling Laws

关于神经扩展定律的不变性与普遍性

Xing Han, Ziyin Liu, Suchi Saria, Paul Pu Liang

机构 * Johns Hopkins University(约翰霍普金斯大学) NTT Research(NTT研究) MIT(麻省理工学院) Johns Hopkins University, Bayesian Health(约翰霍普金斯大学,贝叶斯健康)

AI总结 本文探讨如何建立通用的神经扩展定律,通过识别不变量,使定律能在不同领域间可靠传输,验证了在语言、视觉和语音任务中的有效性,并展示了跨领域应用。

Comments 23 pages, 6 figures, 11 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.08786 2026-05-11 cs.CY cs.LG

On the Meta-Design of Allocation Problems

关于分配问题的元设计

Unai Fischer-Abaigar, Emily Aiken, Christoph Kern, Juan Carlos Perdomo

机构 * LMU Munich(慕尼黑莱茵河大学) Munich Center for Machine Learning(慕尼黑机器学习中心) University of California San Diego(圣地亚哥大学) New York University(纽约大学) Massachusetts Institute of Technology(麻省理工学院)

AI总结 本文探讨了在资源分配问题中,如何通过元设计优化投资预测、容量限制和治疗质量,以提升整体福利。

详情

展开后加载摘要…

URL PDF HTML 收藏
2403.18149 2026-05-11 cs.RO cs.SY eess.SY math.OC

Code Generation and Conic Constraints for Model-Predictive Control on Microcontrollers with Conic-TinyMPC

基于锥约束的模型预测控制与代码生成:适用于微控制器的Conic-TinyMPC

Ishaan Mahajan, Khai Nguyen, Sam Schoedel, Elakhya Nedumaran, Moises Mata, Brian Plancher, Zachary Manchester

机构 * School of Engineering and Applied Science, Columbia University(哥伦比亚大学工程与应用科学学院) Carnegie Mellon University(卡内基梅隆大学) Massachusetts Institute of Technology(麻省理工学院) Barnard College, Columbia University and Dartmouth College(哥伦比亚大学巴纳德学院和达特茅斯学院)

AI总结 本文提出一种适用于微控制器的模型预测控制方法,通过支持二次锥约束和自动生成C++代码,显著提升了嵌入式系统的求解速度和问题规模。

Comments Accepted to ICRA 2026. 4 Figures. 2 Tables. First three authors contributed equally

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.07329 2026-05-11 cs.CV

GC-ART: Global Learnable Second-Order Rational Tone Curves for Illumination Robustness

GC-ART:全局可学习的二阶有理色调曲线用于光照鲁棒性

Wei Huang, Joyce Huang

机构 * Microsoft(微软公司) Massachusetts Institute of Technology(麻省理工学院)

AI总结 GC-ART通过全局可学习的有理色调曲线提升图像分类鲁棒性,采用轻量可微预处理模块,在CIFAR-10上实现对比度腐蚀的最佳性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.07073 2026-05-11 cs.AI

TeamBench: Evaluating Agent Coordination under Enforced Role Separation

TeamBench: 在强制角色分离下评估代理协调

Yubin Kim, Chanwoo Park, Taehan Kim, Eugene Park, Samuel Schmidgall, Salman Rahman, Chunjong Park, Cynthia Breazeal, Xin Liu, Hamid Palangi, Hae Won Park, Daniel McDuff

机构 * MIT(麻省理工学院) Google Research(谷歌研究院) Google DeepMind(谷歌DeepMind) Independent Researcher(独立研究者)

AI总结 TeamBench通过851个任务模板和931个预设实例,评估在操作系统强制角色分离下代理协调的能力,发现提示仅和沙盒强制团队的通过率无显著差异,但提示仅团队更易出现验证者篡改执行者代码的情况。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.07020 2026-05-11 cs.LG cs.AI

FlashMol: High-Quality Molecule Generation in as Few as Four Steps

FlashMol:在四步内生成高质量分子构象

Xinyuan Wei, Zian Li, Shaoheng Yan, Cai Zhou, Muhan Zhang

机构 * Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院) Yuanpei College, Peking University(北京大学元培学院) School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院) Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology(麻省理工学院电气工程与计算机科学系) State Key Laboratory of General Artificial Intelligence, Peking University(北京大学通用人工智能国家重点实验室)

AI总结 FlashMol通过改进分布匹配蒸馏方法,在四步内生成高质量分子构象,实验表明其在速度和质量上优于传统模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06819 2026-05-11 cs.LG

A Theory of Online Learning with Autoregressive Chain-of-Thought Reasoning

在线学习中自回归链式推理理论

Ilan Doron-Arad, Idan Mehalel, Elchanan Mossel

机构 * MIT(麻省理工学院) The Hebrew University(希伯来大学)

AI总结 本文研究自回归生成过程中的在线学习问题,探讨反馈形式对学习误差界的影响,证明在链式推理模型中可消除生成步数依赖,提出最优误差界及新下界。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.24755 2026-05-11 cs.SE cs.AI cs.CL

SlopCodeBench: Benchmarking How Coding Agents Degrade Over Long-Horizon Iterative Tasks

SlopCodeBench:评估编码代理在长周期迭代任务中性能退化的基准测试

Gabriel Orlanski, Devjeet Roy, Alexander Yun, Changho Shin, Alex Gu, Albert Ge, Dyah Adila, Nicholas Roberts, Frederic Sala, Aws Albarghouthi

机构 * University of Wisconsin–Madison(威斯康星大学麦迪逊分校) Washington State University(华盛顿州立大学) MIT(麻省理工学院)

AI总结 本文提出SlopCodeBench,通过36个问题和196个检查点评估编码代理在长周期迭代任务中的性能退化,发现代理代码在结构上逐渐退化并产生冗余代码,人类代码退化更慢。

Comments Code and Leaderboards are located at https://www.scbench.ai

详情
URL PDF HTML 收藏
2512.17129 2026-05-11 cs.LG cs.MA cs.RO q-bio.QM

DiffeoMorph: Learning to Morph 3D Shapes Using Differentiable Agent-Based Simulations

DiffeoMorph: 通过可微分基于代理的模拟学习3D形状变形

Seong Ho Pahng, Guoye Guan, Benjamin Fefferman, Sahand Hormoz

机构 * Department of Systems Biology, Harvard Medical School(哈佛医学院系统生物学系) Department of Data Science, Dana-Farber Cancer Institute(达纳-法伯癌症研究所数据科学部) Departments of Biomedical Informatics, Harvard Medical School(哈佛医学院生物医学信息学部) Broad Institute of MIT and Harvard(MIT与哈佛大学Broad研究所)

AI总结 本文提出DiffeoMorph框架,通过可微分代理模拟学习形态发生协议,使代理群体变形为目标3D形状,采用SE(3)等价图神经网络和基于3DZernike多项式的形状匹配损失实现旋转不变性和反射敏感性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.15840 2026-05-11 cs.RO cs.CV

Large Video Planner Enables Generalizable Robot Control

大视频规划器实现通用机器人控制

Boyuan Chen, Tianyuan Zhang, Haoran Geng, Caiyi Zhang, Peihao Li, Kiwhan Song, William T. Freeman, Jitendra Malik, Pieter Abbeel, Russ Tedrake, Vincent Sitzmann, Yilun Du

机构 * MIT(麻省理工学院) UC Berkeley(加州大学伯克利分校) Harvard(哈佛大学)

AI总结 本文提出利用大规模视频预训练构建通用机器人基础模型,通过生成视频计划实现跨任务和环境的泛化控制,并在真实机器人上验证了其可行性。

Comments 29 pages, 16 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03454 2026-05-11 cs.CV cs.AI

Think Before You Drive: World Model-Inspired Multimodal Grounding for Autonomous Vehicles

在驾驶前思考:基于世界模型的多模态接地用于自动驾驶车辆

Haicheng Liao, Huanming Shen, Bonan Wang, Yongkang Li, Yihong Tang, Chengyue Wang, Dingyi Zhuang, Kehua Chen, Hai Yang, Chengzhong Xu, Zhenning Li

机构 * University of Macau(澳门大学) UESTC(电子科技大学) Purdue University(普渡大学) McGill University(麦吉尔大学) Massachusetts Institute of Technology(麻省理工学院) University of Washington(华盛顿大学) The Hong Kong University of Science and Technology(香港科学与技术大学)

AI总结 本文提出ThinkDeeper框架,通过预测未来空间状态提升自动驾驶车辆的自然语言指令理解能力,结合超图引导解码器融合多模态输入,提出DrivePilot数据集并在多个基准测试中表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.18085 2026-05-11 cs.RO cs.AI

Continually Evolving Skill Knowledge in Vision Language Action Model

视觉语言动作模型中的持续演进技能知识

Yuxuan Wu, Guangming Wang, Zhiheng Yang, Tianchen Deng, Maoqing Yao, Brian Sheil, Hesheng Wang

机构 * Shanghai Jiao Tong University(上海交通大学) Shanghai Innovation Institute(上海创新研究院) University of Cambridge(剑桥大学) Beihang University(北京航空航天大学) Nanyang Technological University(南洋理工大学) MIT SMART(麻省理工学院SMART实验室) AgiBot

AI总结 本文提出Stellar VLA框架,通过无需增加参数的持续模仿学习方法,实现视觉语言动作模型的持续知识积累,实验表明其在任务专精和知识转移方面表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.19788 2026-05-11 cs.AI cs.LG

Benchmarking World-Model Learning with Environment-Level Queries

用环境级查询评估世界模型学习

Archana Warrier, Dat Nguyen, Michelangelo Naim, Moksh Jain, Yichao Liang, Karen Schroeder, Cambridge Yang, Joshua B. Tenenbaum, Sebastian Vollmer, Kevin Ellis, Zenna Tavares

机构 * Basis Research Institute DFKI GmbH Harvard University Universit\'e de Montr\'eal \& Mila - Quebec AI Institute University of Cambridge Massachusetts Institute of Technology Cornell University

AI总结 本文提出WorldTest协议,通过环境级查询评估智能体是否学习到支持多种环境属性的模型,通过AutumnBench验证人类在网格世界环境中的表现优于前沿模型。

Comments 34 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.01569 2026-05-11 cs.AI cs.CL

InvThink: Premortem Reasoning for Safer Language Models

InvThink:用于更安全语言模型的预mortem推理

Yubin Kim, Taehan Kim, Eugene Park, Chunjong Park, Cynthia Breazeal, Daniel McDuff, Hae Won Park

机构 * MIT(麻省理工学院) Google Research(谷歌研究院) Google DeepMind(谷歌DeepMind) Samsung Research(三星研究)

AI总结 InvThink通过预mortem推理框架提升语言模型安全性,通过枚举、分析和约束潜在故障来生成响应,相比现有方法在安全性和减少有害行为方面表现更优。

详情

展开后加载摘要…

URL PDF HTML 收藏
2405.00082 2026-05-11 quant-ph cs.DS cs.LG

Structure learning of Hamiltonians from real-time evolution

从实时演化中学习哈密顿量的结构

Ainesh Bakshi, Allen Liu, Ankur Moitra, Ewin Tang

机构 * MIT(麻省理工学院) UC Berkeley(加州大学伯克利分校)

AI总结 本文提出了一种新的哈密顿量学习方法,能够在不预先知道相互作用结构的情况下,以Heisenberg极限精度在O(log n/ε)时间内恢复哈密顿量,扩展到任意相互作用范围,并实现常数时间分辨率。

Comments 52 pages; v2 discussed more literature, qualified some claims; v3 minor correction discussing prior work; v4 strengthened main theorem

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.02243 2026-05-11 quant-ph cs.DS cs.LG

Learning quantum Hamiltonians at any temperature in polynomial time

在多项式时间内学习任意温度下的量子哈密顿量

Ainesh Bakshi, Allen Liu, Ankur Moitra, Ewin Tang

机构 * MIT(麻省理工学院) UC Berkeley(加州大学伯克利分校)

AI总结 本文提出在多项式时间内学习任意常数温度下量子哈密顿量的算法,通过多项式逼近和多项式系统松弛方法解决哈密顿量学习问题。

Comments 66 pages; v2 minor edits, clarification on locality

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06656 2026-05-08 cs.LG cs.DM cs.ET math.OC

Why Global LLM Leaderboards Are Misleading: Small Portfolios for Heterogeneous Supervised ML

为何全球大语言模型排行榜具有误导性:异质监督学习的小微投资组合

Jai Moondra, Ayela Chughtai, Bhargavi Lanka, Swati Gupta

机构 * Carnegie Mellon University(卡内基梅隆大学) MIT Sloan School of Management(麻省理工学院斯隆管理学院)

AI总结 本文分析了全球大语言模型排行榜的误导性,指出语言异质性导致传统排名方法失效,并提出(λ,ν)投资组合框架以解决异质性问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06614 2026-05-08 cs.AI cs.CL

SkillOS: Learning Skill Curation for Self-Evolving Agents

SkillOS: 为自演化代理学习技能编目

Siru Ouyang, Jun Yan, Yanfei Chen, Rujun Han, Zifeng Wang, Bhavana Dalvi Mishra, Rui Meng, Chun-Liang Li, Yizhu Jiao, Kaiwen Zha, Maohao Shen, Vishy Tirumalashetty, George Lee, Jiawei Han, Tomas Pfister, Chen-Yu Lee

机构 * Google Cloud AI Research(谷歌云人工智能研究) University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) Massachusetts Institute of Technology(麻省理工学院)

AI总结 SkillOS通过经验驱动的强化学习方法,解决自演化代理中复杂长期技能编目的学习问题,优于记忆-free和强记忆基线,在效果和效率上均表现优异,技能库逐步演变成更丰富的Markdown文件。

Comments 11 pages, 6 figures, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06460 2026-05-08 cs.LG

MINER: Mining Multimodal Internal Representation for Efficient Retrieval

MINER:挖掘多模态内部表示以实现高效检索

Weien Li, Rui Song, Zeyu Li, Haochen Liu, Gonghao Zhang, Difan Jiao, Zhenwei Tang, Bowei He, Haolun Wu, Xue Liu, Ye Yuan

机构 * McGill University(麦吉尔大学) MIT - Massachusetts Institute of Technology(麻省理工学院) University of Cambridge(剑桥大学) University of Toronto(多伦多大学) MBZUAI - Mohamed bin Zayed University of Artificial Intelligence(MBZUAI - 摩洛哥 bin Zayed 大学人工智能学院) Mila - Quebec AI Institute(Mila - 加拿大魁北克人工智能研究所)

AI总结 本文提出MINER,通过挖掘Transformer各层内部表示,融合多模态信号生成紧凑嵌入,提升检索性能,优于现有单向量检索器并在部分设置中缩小与晚交互基线的差距。

Comments Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06320 2026-05-08 cs.MA cs.AI cs.CL

Improving the Efficiency of Language Agent Teams with Adaptive Task Graphs

通过自适应任务图提高语言代理团队的效率

Elizabeth Mieczkowski, Alexander Ku, Tiwalayo Eisape, Dilip Arumugam, John Matters, Katherine M. Collins, Ilia Sucholutsky, Thomas L. Griffiths

机构 * Princeton University(普林斯顿大学) University of Cambridge(剑桥大学) MIT(麻省理工学院) New York University(纽约大学)

AI总结 本文提出LATTE框架,通过自适应任务图提升语言代理团队效率,减少资源消耗并提高协作准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06274 2026-05-08 cs.LG cs.CV

When Labels Have Structure: Improving Image Classification with Hierarchy-Aware Cross-Entropy

当标签具有结构时:通过层次感知交叉熵改进图像分类

April Chan, Davide D'Ascenzo, Sebastiano Cultrera di Montesano

机构 * Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology(麻省理工学院电子工程与计算机科学系) Department of Computer Science, University of Milan(米兰大学计算机科学系) Department of Control and Computer Engineering, Politecnico di Torino(都灵理工大学控制与计算机工程系) Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard(MIT和哈佛大学Broad研究所埃里克和wendy Schmidt中心)

AI总结 本文提出层次感知交叉熵(HACE),通过整合已知的类别层次结构来改进图像分类,实验表明在多种架构和数据集上HACE在端到端训练和线性探测任务中均表现出色。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06258 2026-05-08 cs.LG cs.AI

The Weight Gram Matrix Captures Sequential Feature Linearization in Deep Networks

权重格雷矩阵捕捉深度网络中的序列特征线性化

Taehun Cha, Daniel Beaglehole, Adityanarayanan Radhakrishnan, Donghun Lee

机构 * MIT Mathematics Broad Institute of MIT and Harvard(麻省理工学院数学Broad研究所)

AI总结 本文提出基于特征的框架,通过将权重更新与特征演变关联,揭示深度网络训练中权重格雷矩阵捕捉特征动态,并引入目标线性度量,展示深度网络如何逐步将表示转换为目标线性结构。

Comments 29 pages including appendix

详情

展开后加载摘要…

URL PDF HTML 收藏