In-Place Test-Time Training
就地测试时间训练
机构 * Peking University(北京大学)
AI总结 本文提出了一种无需重新训练的就地测试时间训练框架,通过调整MLP块的最终投影矩阵实现模型在推理时的动态更新,提升大语言模型在长上下文任务中的性能。
Comments ICLR 2026 Oral Presentation; Code is released at https://github.com/ByteDance-Seed/In-Place-TTT
期刊&会议
International Conference on Learning Representations · 会议 · Machine Learning
就地测试时间训练
机构 * Peking University(北京大学)
AI总结 本文提出了一种无需重新训练的就地测试时间训练框架,通过调整MLP块的最终投影矩阵实现模型在推理时的动态更新,提升大语言模型在长上下文任务中的性能。
Comments ICLR 2026 Oral Presentation; Code is released at https://github.com/ByteDance-Seed/In-Place-TTT
基于视觉引导的前端代码生成迭代精修
机构 * School of Mathematics, University of Bristol, UK(英国布里斯托大学数学学院) ; Amazon AGI(亚马逊AGI)
AI总结 本文提出一种全自动的批评者循环框架,利用视觉语言模型提供结构化反馈以指导代码生成的迭代优化,实验证明其在前端开发中能显著提升代码质量。
Comments Accepted at ICLR 2026 Workshop on AI with Recursive Self-Improvement
MATRIX:用于交互感知视频生成的遮罩跟踪对齐
机构 * KAIST AI(韩国科学技术院人工智能系)
AI总结 MATRIX通过引入遮罩跟踪对齐方法,提升视频生成中交互感知能力,增强语义对齐与传播,减少漂移和幻觉。
Comments Project Page is available at: https://cvlab-kaist.github.io/MATRIX/, ICLR 2026
大规模分层贝叶斯模型的组合 amortized 推断
AI总结 本文提出一种改进的组合分数匹配方法,用于大规模分层贝叶斯模型的amortized贝叶斯推断,通过误差阻尼估计器提升稳定性,并在不同规模的问题中展现竞争力。
Comments Published as a conference paper at ICLR 2026
通过跨语言对齐提升信息检索中的语义接近性
AI总结 本文提出改进多语言检索中跨语言对齐能力的方法,通过设计评估指标和训练策略,提升模型在多语言文档中的检索性能,减少对英语的偏好。
Comments ICLR 2026
Vintix II:决策预训练变压器是一种可扩展的上下文强化学习者
机构 * Applied AI Institute(应用人工智能研究所) ; Innopolis University(因诺波利斯大学) ; HSE(高等经济学院) ; ITMO University(ITMO大学) ; NUST MISIS(国立科技大学MISIS) ; MSU(莫斯科国立大学) ; Humanoid(Humanoid公司)
AI总结 本文提出Vintix II,通过Flow Matching扩展DPT,实现跨多领域任务的强化学习,提升泛化能力。
Comments ICLR 2026, Poster
Cactus:通过受约束的接受推测采样加速自动回归解码
机构 * Dept. Computing Science & Alberta Machine Intelligence Institute (Amii), University of Alberta(阿尔伯塔大学计算机科学系与阿尔伯塔机器智能研究所) ; Canada CIFAR AI Chair(加拿大CIFAR人工智能讲席)
AI总结 本文提出Cactus方法,通过受约束优化框架,在保证与验证器分布可控差异的同时提升接受率,有效解决传统推测采样在分布匹配上的限制问题。
Comments Camera-ready version. Accepted at ICLR 2026
潜在泛化的幻觉:双向性与反转诅咒
机构 * TUM, Helmholtz Munich(慕尼黑工业大学, 亥姆霍兹慕尼黑中心) ; Google DeepMind(谷歌DeepMind)
AI总结 本文研究了自回归语言模型在反向顺序检索中的失败现象,比较了双向监督目标与传统掩码语言模型在四个基准测试中的表现,发现反向准确性依赖于明确将源实体作为预测目标的训练信号,而非单一方向无关的表示。
Comments ICLR 2026 Workshop on Representational Alignment (Re-Align)
Journal ref ICLR 2026
超越成员性:差分隐私中添加/移除邻接的局限性
机构 * University of Helsinki(赫尔辛基大学) ; Microsoft(微软)
AI总结 本文探讨了在差分隐私中使用添加/移除邻接关系的局限性,指出其在保护记录属性时的不足,并通过实验验证了替代邻接关系在隐私计数中的有效性。
Comments Accepted to ICLR 2026; 19 pages, 11 figures
DRIFT: 分解、检索、示例,然后形式化定理
机构 * Language Technology Lab, University of Cambridge(剑桥大学语言技术实验室) ; Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
AI总结 DRIFT框架通过分解数学陈述并检索相关定理,提升大语言模型在形式化证明中的前提检索能力,显著提高F1分数和跨分布性能。
Comments Accepted at ICLR 2026
引导查询细化:多模态混合检索与测试时优化
机构 * Stanford University(斯坦福大学) ; IBM Research(IBM研究院) ; The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
AI总结 本文提出引导查询细化方法,通过测试时优化提升多模态检索性能,使视觉中心模型在效率和性能上达到更优平衡。
Comments ICLR 2026
MetaEmbed:通过灵活的后期交互实现测试时多模态检索的扩展
机构 * Meta Superintelligence Labs(Meta超级智能实验室) ; Rice University(莱斯大学)
AI总结 MetaEmbed通过灵活的后期交互机制,在测试时实现多模态检索的扩展,通过多向量检索训练提升信息组织能力,实现在大规模模型下的高效检索性能。
Comments ICLR 2026 Oral