Self-Distillation Enables Continual Learning
自蒸馏使持续学习成为可能
机构 * MIT(麻省理工学院) ; Improbable AI Lab(Improbable AI实验室) ; ETH Zurich(苏黎世联邦理工学院)
AI总结 自蒸馏微调通过直接从演示中进行基于策略的学习,有效减少持续学习中的灾难性遗忘,提升新任务准确性。
高校专区
自蒸馏使持续学习成为可能
机构 * MIT(麻省理工学院) ; Improbable AI Lab(Improbable AI实验室) ; ETH Zurich(苏黎世联邦理工学院)
AI总结 自蒸馏微调通过直接从演示中进行基于策略的学习,有效减少持续学习中的灾难性遗忘,提升新任务准确性。
AISPA:面向大语言模型应用的以用户为中心的系统提示审计框架
机构 * Stanford University(斯坦福大学) ; CMU(卡内基梅隆大学) ; UT Austin(德克萨斯大学奥斯汀分校) ; University of Toronto(多伦多大学) ; UCSB(加利福尼亚大学圣巴巴拉分校) ; WashU(华盛顿大学) ; OSU(俄亥俄州立大学) ; UCSC(加利福尼亚大学圣克鲁兹分校) ; Northwestern University(西北大学) ; UIUC(伊利诺伊大学厄巴纳-香槟分校) ; KAUST(阿卜杜拉国王科技大学) ; MIT(麻省理工学院) ; University of Oxford(牛津大学) ; Institute for Decentralized AI(去中心化人工智能研究所)
AI总结 本文提出以用户为中心的AISPA框架,审计88款商业AI产品的3249条系统提示指令,发现其设计差异大、保护指令范围浅、长度增长但仍存问题指令,凸显系统提示需更高透明度与监督。
在线推理校准:测试时训练使可泛化的符合性大语言模型推理
机构 * Department of Electrical Engineering and Computer Science (MIT EECS)(麻省理工学院电气工程与计算机科学系) ; Computer Science and Artificial Intelligence Laboratory (MIT CSAIL)(麻省理工学院计算机科学与人工智能实验室) ; Laboratory for Information and Decision Systems (MIT LIDS)(麻省理工学院信息与决策系统实验室) ; Computational Science and Engineering (MIT CSE)(麻省理工学院计算科学与工程) ; Massachusetts Institute of Technology(麻省理工学院)
AI总结 本文提出ORCA框架,通过测试时训练和符合性预测校准推理过程,提升大语言模型在分布变化下的效率和泛化能力,实验证明其在不同任务中具有更高的性能。
Comments Published as a conference paper at COLM 2026; 22 pages
PhaseCoder: 无关麦克风几何的多模态大语言模型空间音频理解
机构 * Google DeepMind(谷歌DeepMind) ; Media Lab, MIT(媒体实验室,麻省理工学院) ; Google AR(谷歌AR)
AI总结 PhaseCoder是一种无需麦克风几何结构的Transformer空间音频编码器,能够生成空间嵌入并使LLM实现复杂空间推理和转录任务。
混沌系统的科学机器学习发现神经群体的支配方程
机构 * Department of Biomedical Engineering and Laufer Center for Physical and Quantitative Biology, State University of New York at Stony Brook, NY, USA(生物医学工程系和物理与定量生物学拉夫中心,石溪大学纽约州立大学 Stony Brook 分校) ; Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital and Harvard Medical School, MA, USA(Athinoula A. Martinos 生物医学成像中心,麻省总医院和哈佛医学院) ; Computer Science and Artificial Intelligence Lab, Massachusetts Institute of Technology, MA, USA(计算机科学与人工智能实验室,麻省理工学院) ; Picower Institute for Learning and Memory, Massachusetts Institute of Technology, MA, USA(记忆学习研究所,麻省理工学院) ; Psychological and Brain Sciences, Dartmouth College, NH, USA(心理学与脑科学系,达特茅斯学院) ; Santa Fe Institute, NM, USA(圣菲研究所)
AI总结 该研究提出PEM-UDE方法,通过科学机器学习从混沌系统中发现可解释的支配方程,成功恢复噪声污染数据中的动态,并在神经群体中推导出符合生物约束的新方程。
Comments 54 pages, 10 figures
优化预处理器:一种具有静态遗憾最小化预言机的黑盒在线到非凸转换
机构 * Center for Computational Science and Engineering, MIT(麻省理工学院计算科学与工程中心) ; Department of Civil and Environmental Engineering, MIT(麻省理工学院土木与环境工程系) ; Institute for Data, Systems, and Society, MIT(麻省理工学院数据、系统与社会研究所)
AI总结 研究随机非凸优化能否黑盒简化为在线凸优化的静态遗憾最小化,提出维护梯度跟踪器并由在线学习器选预处理器的方法,对光滑和非光滑非凸目标均适用,解决了相关开放问题,还为理解自适应优化方法提供新视角。
人工智能辅助降低坚持性并损害独立表现
机构 * Carnegie Mellon University(卡内基梅隆大学) ; University of Oxford(牛津大学) ; Massachusetts Institute of Technology(麻省理工学院) ; University of California, Los Angeles(加州大学洛杉矶分校)
AI总结 研究发现人工智能辅助虽短期提升表现,但降低用户坚持性并损害独立完成任务的能力,尤其在数学推理和阅读理解等任务中表现显著。
在扩散噪声中寻求物理规律
机构 * Brown University(布朗大学) ; University of Edinburgh(爱丁堡大学) ; MIT(麻省理工学院)
AI总结 研究通过分析预训练扩散变换器的中间去噪表示,发现物理合理与不合理视频在中层特征空间部分可分离,提出渐进轨迹选择策略提升物理一致性并降低推理成本。
Comments 15 pages
DSeq-JEPA:判别性序列联合嵌入预测架构
机构 * University of British Columbia(不列颠哥伦比亚大学) ; Vector Institute for AI(人工智能向量研究所) ; University of Fukui(福井大学) ; Massachusetts Institute of Technology(麻省理工学院) ; University of Strasbourg(斯特拉斯堡大学)
AI总结 DSeq-JEPA通过判别性顺序处理与JEPA目标结合,提升视觉表征的判别性和泛化能力,在多个任务中表现优于I-JEPA变体。
Comments Accepted to ECCV 2026. Project page: https://dseqjepa-project.com
对胎儿解剖结构进行运动树Log-欧几里得PolyRigid变换
机构 * Computer Science and Artificial Intelligence Lab, MIT, Cambridge, USA(麻省理工学院计算机科学与人工智能实验室) ; California Institute of Technology, Pasadena, USA(加州理工学院) ; Boston Children’s Hospital and Harvard Medical School, Boston, USA(哈佛医学院波士顿儿童医院) ; The Hebrew University of Jerusalem, Jerusalem, Israel(耶路撒冷希伯来大学)
AI总结 本文提出了一种基于运动树的Log-欧几里得PolyRigid变换,用于改进胎儿解剖结构的体积建模与分析,减少折叠伪影并实现鲁棒的图像配准和分割。
LiveXiv —— 基于 arXiv 论文内容的多模态实时基准测试集
机构 * Faculty of Engineering Tel-Aviv University(特拉维夫大学工程学院) ; IBM Research(IBM研究院) ; Department of Statistics, University of Michigan(密歇根大学统计学系) ; JKU Linz, Austria(林茨大学,奥地利) ; MIT CSAIL(麻省理工学院计算机科学与人工智能实验室) ; MIT-IBM(麻省理工学院-IBM)
AI总结 针对多模态模型训练中测试数据污染问题,提出基于 arXiv 论文的 LiveXiv 实时基准,自动生成 VQA 对,用部分模型评估降低成本,验证了其性能差异极小,数据集已在 HuggingFace 公开。
DriftWorld:通过漂移实现快速世界建模
机构 * Massachusetts Institute of Technology(麻省理工学院) ; Harvard University(哈佛大学)
AI总结 研究针对预测性世界模型生成展开慢的问题,提出基于漂移生成模型的DriftWorld,训练时学习动作条件漂移以快速生成未来帧,在机器人操作基准测试中实现快速准确决策,还能作离线模拟器,性能优于基于扩散的基线。
Comments Website at https://susie-lu.github.io/driftworld/
快速思考:估计前沿AI模型的无思维链任务完成时间范围
机构 * Redwood Research(红木研究) ; Astra Fellows Program(Astra 后援计划) ; Aether Research(Aether 研究) ; MATS Research(MATS 研究) ; Polytechnic University of Catalonia(加泰罗尼亚理工大学) ; Imperial College London(伦敦帝国理工学院) ; University of Cambridge(剑桥大学) ; University of Chicago(芝加哥大学) ; Durham University(杜伦大学) ; MIT(麻省理工学院) ; University of Oxford(牛津大学) ; University of Glasgow(格拉斯哥大学) ; Constellation(星座)
AI总结 本研究通过超过3万个问题测试前沿AI模型在无思维链推理下的表现,估计其50%任务完成时间范围,发现该时间每约两年翻一番,GPT-5.5已达3分钟以上。
VLMs 在自然阅读中可能不会全局性地增强与人类的对齐性优于 LLMs
机构 * Department of Mechanical and Vehicle Engineering, Chongqing University(重庆大学机械与车辆工程学院) ; Department of Linguistics and Translation, City University of Hong Kong(香港城市大学语言学与翻译系) ; McGovern Institute for Brain Research, Massachusetts Institute of Technology(麻省理工学院麦戈文脑科学研究所)
AI总结 通过严格文本设置比较LLM和VLM,发现多模态预训练在自然阅读中未带来全局性人类对齐优势,但视觉语义内容强的句子中VLM有选择性优势。
Comments 16 pages, 5 figures
具有多项式改进近似因子的 $2 \rightarrow q$ 范数算法及其应用
机构 * MIT(麻省理工学院)
AI总结 本文针对 $q>2$ 时的 $2 \rightarrow q$ 范数,提出了首个多项式时间近似算法,其近似因子在多项式级别上优于基线 $d^{1/4}$,例如 $q=4$ 时达到 $d^{1/8}$,并构造了平方和证书,从而改进了鲁棒均值估计、协方差估计、回归和聚类等问题的算法。
Comments v3 added that sparsification can be used to reduce to n roughly d^q/2
NOVA:通过人工智能进行知识发现的基本限制
机构 * University of Southern California(南加州大学) ; Northeastern University(东北大学) ; Massachusetts Institute of Technology(麻省理工学院)
AI总结 本文提出NOVA框架,将“生成-验证-积累-再训练”循环建模为知识空间上的自适应采样过程,识别了知识覆盖有限域的条件及失败模式,并证明了发现成本与Zipf定律相关的标度律。
Comments Added an explicit recursive retraining model showing how accepted outputs reshape future generation. New results characterize when repeated retraining suppresses undiscovered artifacts and when mixing updates with a fixed base distribution preserves exposure. Corrected the Zipf discovery-cost proof and expanded the analysis. Main results and implications remain unchanged
GEM-4D:用于机器人操作的几何增强视频世界模型
机构 * Harvard AI and Robotics Lab(哈佛人工智能与机器人实验室) ; Harvard University(哈佛大学) ; Media Lab and EECS(媒体实验室和电子工程与计算机科学系) ; MIT(麻省理工学院) ; Princeton University(普林斯顿大学) ; MIT-IBM Watson AI Lab(麻省理工-IBM沃森人工智能实验室)
AI总结 提出GEM-4D,通过注入从预训练几何基础模型蒸馏的密集4D对应监督,增强视频世界模型的几何一致性,并引入逆动力学模块将视频滚动转换为可执行机器人轨迹,提升操作成功率。
Comments Robotic World Model, Video Generative Model
Stream3D: 基于证据记忆的序列多视角3D生成
机构 * World Mind Lab, HKUST(世界心智实验室,香港科技大学) ; Media Lab and EECS, MIT(媒体实验室和电子工程与计算机科学系,麻省理工学院) ; Kempner Institute, Harvard University(凯普纳研究所,哈佛大学)
AI总结 提出Stream3D,一种无需训练的流式机制,通过维护紧凑的证据记忆缓存关键历史帧,将冻结的视角条件3D生成器转换为流式生成器,解决单目视频流中3D生成的时间不一致问题。
Comments Multi-view 3D Generation, Streaming 3D Generation
从在线学习到多校准的高效黑盒还原,以及到Φ-后悔最小化的新型途径
机构 * MIT EECS(麻省理工学院电子工程与计算机科学系) ; New York University(纽约大学)
AI总结 本文提出从在线学习到在线多校准的黑盒还原方法,并展示了如何通过结合无悔学习器和期望变分不等式求解器实现高维多校准。同时,通过将高维在线多校准还原为Φ-后悔最小化,为外部后悔到Φ-后悔的转换提供了新途径。
基于稀疏视角的神经表面重建与极几何
机构 * Yuanpei College, Peking University(北京大学元培学院) ; MIT Media Lab and EECS, MIT(麻省理工学院媒体实验室和电子工程与计算机科学系)
AI总结 本文提出EpiS框架,利用极几何改进稀疏视角下的表面重建,通过epipolar transformer和射线聚合生成SDF-aware特征,结合几何正则化策略提升重建精度。
RISE:基于单静态雷达的室内场景理解
机构 * Massachusetts Institute of Technology(麻省理工学院) ; Cartesian Systems
AI总结 提出RISE系统,利用毫米波雷达的多径反射(传统视为噪声)编码几何线索,通过双角度多径增强和模拟到现实的分层扩散框架,实现布局重建和物体检测,在50,000帧数据集上布局重建倒角距离降低60%,首次实现基于毫米波雷达的物体检测。
在连续空间中进行纯探索的上下文学习
机构 * Boston University(波士顿大学) ; Stanford University(斯坦福大学) ; Boston University Broad Institute of MIT and Harvard(波士顿大学MIT和哈佛大学Broad研究所)
AI总结 本文提出C-ICPE-TS算法,通过元训练深度神经网络,在连续空间中实现纯探索,直接从数据学习可转移的序列测试策略,无需参数更新或显式信息模型。
Comments Accepted as an oral presentation at ICML 2026 Workshop on Hypothesis Testing, Seoul, South Korea, 2026
MIMIC-MJX:动物行为的神经机械模拟
机构 * Department of Organismic and Evolutionary Biology(有机与进化生物学系) ; Harvard University(哈佛大学) ; Computational Neurobiology Laboratory(计算神经生物学实验室) ; Salk Institute for Biological Studies(生物研究 institute) ; Neurosciences Graduate Program(神经科学研究生项目) ; University of California San Diego(加州大学圣地亚哥分校) ; Mila ; School of Computer Science(计算机科学学院) ; McGill University(麦吉尔大学) ; University of Washington(华盛顿大学) ; eScience Institute(eScience 院) ; Computational Neuroscience Center(计算神经科学中心) ; Department of Brain and Cognitive Sciences(脑与认知科学系) ; Massachusetts Institute of Technology(麻省理工学院) ; Picower Institute for Learning and Memory(记忆学习研究所) ; Molecular Neurobiology Laboratory(分子神经生物学实验室) ; Department of Bioengineering(生物工程系) ; Imperial College London(帝国理工学院) ; Howard Hughes Medical Institute(霍华德·休斯医学研究所)
AI总结 MIMIC-MJX通过学习生物合理的神经控制策略,实现了对动物行为的神经机械模拟,具有高准确性和广泛适用性。
Comments Project page available at https://mimic-mjx.talmolab.org
MIDI-LLM:通过适配大语言模型改进文本到MIDI的音乐生成
机构 * Massachusetts Institute of Technology(麻省理工学院)
AI总结 该研究提出MIDI-LLM,通过适配Llama 3.2(1B)采用两阶段训练改进文本到MIDI生成,在用户研究中证实其在人机音乐协同创作中的有效性。
Comments Accepted to International Society for Music Information Retrieval (ISMIR) Conference 2026
生成式人工智能充斥并稀释了图书市场
机构 * Stony Brook University(纽约州立大学石溪分校) ; Columbia Law School(哥伦比亚法学院) ; University of Michigan(密歇根大学) ; MIT Initiative on the Digital Economy(麻省理工学院数字经济倡议)
AI总结 研究通过对亚马逊上自出版小说检测,发现含大量AI文本书籍占书目比重大但销售占比小,其达商业规模且重塑市场,单本销售收入下降,还影响不同类型书籍及畅销书语言借鉴情况,结果关乎版权侵权合理使用抗辩的市场效应问题。
Comments Working Paper Under Review
NORi:一种融合机器学习的海洋边界层参数化方法
机构 * Department of Earth, Atmospheric and Planetary Sciences, Massachusetts Institute of Technology(麻省理工学院地球、大气与行星科学系) ; Center for Computational Science and Engineering, Massachusetts Institute of Technology(麻省理工学院计算科学与工程中心) ; Department of Physics, Imperial College London(伦敦帝国学院物理系) ; atdepth ; Aeolus Labs(Aeolus实验室) ; Department of Environment, Land and Infrastructure Engineering, Politecnico di Torino(托里诺理工学院环境、土地与基础设施工程系)
AI总结 NORi是一种基于物理并结合神经网络的机器学习海洋边界层湍流参数化方法,通过训练大规模涡旋模拟来捕捉边界层底部的混合过程,展示了在不同对流强度、背景层结、旋转和风力作用下的预测和泛化能力。
Comments 59 pages, 20 figures, submitted to Journal of Advances in Modeling Earth Systems (JAMES). This is version 3, updated based on reviews from 3 anonymous reviewers after initial submission to JAMES
OptimusKG:统一生物医学知识的现代多模态图
机构 * Department of Biomedical Informatics, Harvard Medical School(哈佛医学院生物医学信息学系) ; Department of Engineering Science, University of Oxford(牛津大学工程科学系) ; Edison Scientific Inc.(Edison科学公司) ; Oxford Suzhou Centre for Advanced Research, University of Oxford(牛津大学苏格兰研究中心) ; Broad Institute of MIT and Harvard(MIT与哈佛大学Broad研究所) ; Kempner Institute for the Study of Natural and Artificial Intelligence, Harvard University(哈佛大学自然与人工智能研究所) ; Harvard Data Science Initiative(哈佛大学数据科学计划)
AI总结 OptimusKG通过整合结构化和半结构化资源,构建了多模态生物医学标记属性图,统一了分子、解剖、临床和环境领域的知识,验证了其在生物医学领域的有效性。
模形式Bootstrap的深入探索
机构 * University of Southern California(南加州大学) ; Boston University(波士顿大学) ; Massachusetts Institute of Technology(麻省理工学院) ; The NSF Institute for Artificial Intelligence and Fundamental Interactions(美国国家科学基金会人工智能与基本相互作用研究所)
AI总结 本文通过机器学习优化高效搜索二维共形场论的模形式Bootstrap解,发现中央荷在1到8/7之间的候选CFT,并提出更严格的谱间隙约束。
Comments 57 pages, 21 figures, 4 tables; v2: updated references, acknowledgments, and formatting; v3: additional discussions, bug fixed in Figure 1a, conclusions unchanged, approximate version to appear in JHEP; code available at http://github.com/jdthaler/modular-bootstrap
视觉目标姿态估计的不确定性量化
机构 * Massachusetts Institute of Technology(麻省理工学院)
AI总结 SLUE通过凸优化方法为视觉目标姿态估计提供高概率的椭球不确定性界,有效缩小平移界限并保持方向精度。
Comments 18 pages, 9 figures. Code available: https://github.com/MIT-SPARK/PoseUncertaintySets. Published in IEEE Transactions on Robotics
参数学习中的部分激励
机构 * State Key Laboratory for Turbulence and Complex Systems, Department of Mechanics and Engineering Science, College of Engineering, Peking University(湍流与复杂系统国家重点实验室,力学与工程科学系,工程学院,北京大学) ; Massachusetts Institute of Technology(麻省理工学院) ; Queen’s University(皇后大学) ; KIOS Research and Innovation Center of Excellence and the Department of Electrical and Computer Engineering, University of Cyprus(科斯卓越研究中心与创新中心,塞浦路斯大学电气与计算机工程系)
AI总结 本文针对部分持续激励(PPE)条件下的参数学习问题,提出在线算法与协同学习协议,实现分布式最优参数估计,通过系统辨识实例验证了理论结果的有效性。
Comments 16 pages,9 figures