高校专区
用于高效推断一致LLM答案的最优贝叶斯停止
机构 * Stern School of Business, New York University, New York, USA（纽约大学 Stern 商学院） ； Graduate School of Business, Columbia University, New York, USA（哥伦比亚大学 商学院）
AI总结 利用贝叶斯先验信息，通过L-聚合停止策略在达到足够一致性时提前停止采样，以最小化采样成本并高效识别最一致的LLM答案。
Comments Accepted to ICML 2026. Camera-ready version
Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)
结构使语言模型能够有效自我定位错误
机构 * Meta AI ； Columbia University（哥伦比亚大学） ； Meta Superintelligence Labs（Meta超智能实验室） ； Tel Aviv University（特拉维夫大学）
AI总结 本文提出结构化推理方法，通过将推理分解为离散语义步骤，使语言模型能更可靠地定位错误，并基于此设计了迭代纠正采样框架Thought-ICS，实现20-40%的自我纠正提升。
显式二阶极小极大优化：实用算法与复杂度分析
机构 * Department of Electrical Engineering and Computer Sciences（电气工程与计算机科学系） ； Department of Statistics（统计学系） ； University of California, Berkeley（加州大学伯克利分校） ； Department of Industrial Engineering and Operations Research（工业工程与运作研究系） ； Columbia University（哥伦比亚大学） ； Univ. Grenoble Alpes, CNRS, Inria, Grenoble INP, LIG（格勒诺布尔阿尔卑斯大学、CNRS、Inria、格勒诺布尔INP、LIG）
AI总结 针对凸-凹无约束极小极大优化问题，提出并分析了几种不精确正则化牛顿型方法，证明其迭代在界集内且平均迭代在O(ε^{-2/3})次内收敛到ε-鞍点，并通过Schur分解和线性系统求解器高效求解子问题，在合成基准和AUC最大化实际应用中优于一阶方法。
Comments Accepted by TMLR; Adding funding information; 35 pages
可解释神经ODE用于扰动下基因调控网络发现
机构 * Department of Computer Science, Columbia University, New York, U.S.（哥伦比亚大学计算机科学系） ； Department of Industrial Engineering and Operations Research, Columbia University, New York, U.S.（哥伦比亚大学工业工程与运筹学系） ； Department of Applied Mathematics and Applied Physics, Columbia University, New York, U.S.（哥伦比亚大学应用数学与应用物理系） ； New York Genome Center, New York, U.S.（纽约基因组中心） ； Irving Institute of Cancer Dynamics, New York, U.S.（伊万·罗伯特癌症动力学研究所） ； Institute of Computational Biology, Helmholtz Munich, Munich, Germany（海德堡医学院计算生物学研究所） ； Department of Mathematics, Technische Universität München, Munich, Germany（慕尼黑技术大学数学系）
AI总结 提出PerturbODE框架，利用可解释神经常微分方程建模扰动下的细胞状态轨迹，从ODE参数中推导因果基因调控网络，实现未见遗传干预的模拟。
关于稀疏自编码器中激活异常值与特征死亡之间关系的研究
机构 * Stanford University（斯坦福大学） ； Columbia University（哥伦比亚大学）
AI总结 本文通过理论分析和实验验证，揭示了稀疏自编码器中维度级激活异常值导致特征死亡的机制，并提出均值中心化预处理方法有效消除该问题。
Comments Accepted to ICML 2026 main conference
固定通用Transformer
机构 * Columbia University（哥伦比亚大学）
AI总结 提出固定通用Transformer，通过输入嵌入模拟任意给定类别的Transformer，证明其通用性在足够大嵌入维度下可通过稀疏结构实现，且随机初始化几乎必然通用，实验验证了理论。
单个音素中系统性语义结构的证据
机构 * Columbia University（哥伦比亚大学）
AI总结 本研究通过大型语言模型、跨语言听者实验和发音特征分析，证明英语单个音素携带结构化的多维语义轮廓，挑战了音义关系任意性的传统假设。
Comments 31 pages, 4 figures
MEDAL: 通过自编码器学习的流形嵌入蒸馏
机构 * Department of Statistics, Columbia University（哥伦比亚大学统计学系） ； School of Data and Information Sciences, University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校数据与信息科学学院） ； Irving Institute for Cancer Dynamics, Columbia University（哥伦比亚大学癌症动力学研究所） ； Center for Theoretical Neuroscience, Zuckerman Mind Brain Behavior Institute, Columbia University（哥伦比亚大学理论神经科学中心，Zuckerman心智-大脑-行为研究所）
AI总结 提出MEDAL框架，通过约束自编码器将流形嵌入蒸馏为可复用的编码器-解码器模型，实现留出验证、超参数选择和分布偏移检测。
思想即规划：通过强化规划进行思维链优化的潜在世界模型
机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Columbia University（哥伦比亚大学）
AI总结 提出Thoughts-as-Planning框架，将思维链优化形式化为潜在语义空间中的序贯决策过程，通过潜在世界模型模拟推理链编辑对下游输出的影响，并利用梯度下降或强化学习进行规划，在语言理解和生成任务上优于现有基线。
使用两阶段核岭回归估计连续治疗效果
机构 * Department of IEOR, Columbia University（哥伦比亚大学工业工程与运营研究系） ； Department of IEOR and Data Science Institute, Columbia University（哥伦比亚大学工业工程与数据科学研究所）
AI总结 针对连续治疗的效果函数估计问题，提出两阶段核岭回归方法，通过第一阶段建模响应与治疗和协变量的关系，第二阶段构造伪结果校正分布偏移，无需估计条件治疗密度即可达到最优学习界，并实现数据驱动的模型选择。
基于多项逻辑函数逼近的强化学习的方差自适应最优算法
机构 * Chung-Ang University（Chung-Ang 大学） ； Seoul National University（首尔国立大学） ； Columbia University（哥伦比亚大学）
AI总结 针对多项逻辑函数逼近的强化学习，提出一种计算高效的方差自适应算法，实现了实例级最优遗憾界，并通过实验验证其优于传统方法。
MemGuard：防止长期记忆增强型大语言模型中的记忆污染
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Columbia University（哥伦比亚大学） ； Capital One
AI总结 提出MemGuard，一种类型感知的记忆框架，通过显式分配功能角色、维护类型隔离记忆间的关联并选择性组合必要类型的证据，防止异构记忆污染，提升记忆可靠性最高28.27%并减少检索token数最高5.8倍。
Colosseum V2：视觉语言动作模型的泛化能力基准测试
机构 * Department of Computer Science, University of Southern California（南加州大学计算机科学系） ； Department of Electrical Engineering, Indian Institute of Technology Madras（印度理工学院Madras分校电子工程系） ； Fu Foundation School of Engineering and Applied Science, Columbia University（哥伦比亚大学工程与应用科学学院）
AI总结 提出Colosseum V2大规模仿真基准，通过28个任务和两种机器人形态，系统评估VLA模型在分布偏移下的泛化能力，揭示其在高层次理解与鲁棒行为之间的差距。
前缀安全贝叶斯信念追踪用于LLM推理可靠性：将校准与排序分离
机构 * Cornell University（康奈尔大学） ； Columbia University（哥伦比亚大学）
AI总结 提出前缀安全贝叶斯信念追踪（SBBT）框架，通过分离概率质量与排序能力，在长链推理中实现可靠的在线校准与不确定性估计。
可识别的贝叶斯深度生成Copula模型：未知层宽下任意边缘分布数据的建模
机构 * Department of Statistics and Data Science（统计与数据科学系） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； Department of Statistics（统计系） ； Columbia University（哥伦比亚大学）
AI总结 提出Deep Discrete Encoder (DDE) Copula模型，通过二元潜变量的分层有向网络与Copula框架结合，实现任意边缘分布数据的可识别与可解释生成建模，并基于秩似然进行估计与后验推断。
抗体序列的条件性位点无关神经进化
机构 * University of California, Berkeley ； Columbia University ； Mila - Qu \'e bec AI Institute ； Fred Hutchinson Cancer Research Center ； University of Washington ； Howard Hughes Medical Institute
AI总结 提出CoSiNE模型，用深度神经网络参数化的连续时间马尔可夫链桥接系统发育模型与深度学习，实现抗体序列进化建模，在零样本变异效应预测中优于现有语言模型，并引入引导吉莱斯皮采样优化抗体亲和力。
Comments 28 pages, 15 figures. Accepted as a poster at ICML 2026
子弹列车：并行训练时间精确的脉冲神经网络
机构 * Columbia University（哥伦比亚大学） ； Cold Spring Harbor Laboratory（冷泉港实验室）
AI总结 提出使用并行关联扫描和可微脉冲时间求解器，实现精确硬重置动力学下的脉冲神经网络高效训练，在GPU上获得高达44倍加速。
Comments Published as a conference paper at ICML 2026
CALM-IT: 通过双角色对话动态追踪生成逼真的长形式动机访谈对话
机构 * Georgia Institute of Technology（佐治亚理工学院） ； Northwell Health（北well健康） ； Columbia University（哥伦比亚大学）
AI总结 提出CALM-IT框架，通过显式建模客户与咨询师状态的演变来生成和评估长形式动机访谈对话，在8,232个合成对话语料上优于基线方法，尤其在MITI 4.2全局评分和客户接受率上表现最佳。
Comments 53 pages, in submission to EMNLP
通过可追溯性视角理解自动化程序修复智能体：一项实证研究
机构 * Columbia University（哥伦比亚大学） ； IBM Research（IBM研究院）
AI总结 本文通过追踪五个最先进的自动化程序修复智能体在500个真实世界修复任务中的决策流程，揭示了它们在逻辑密集型错误修复、测试生成和回归测试选择方面的关键局限性，并提出了改进方向。
Comments Accepted for publication (ISSTA '26)
CANDOR: 反事实注释的双重稳健离策略评估
机构 * Stanford University（斯坦福大学） ； Emory University（埃默里大学） ； Columbia University（哥伦比亚大学） ； University of Michigan（密歇根大学） ； The Gladstone Institutes（加利福尼亚大学旧金山分校格罗斯曼研究所）
AI总结 提出基于双重稳健框架的离策略评估方法，通过仅在奖励模型组件中融入反事实注释，在理论保证和实验上优于其他策略。
Comments 11 pages, published in the conference proceedings of the Conference on Health Inference and Learning (2026)
语言模型推理中带有重置的信用分配
机构 * Meta AI ； Columbia University（哥伦比亚大学） ； Meta Superintelligence Labs（Meta超智能实验室） ； Tel Aviv University（特拉维夫大学）
AI总结 提出随机重置策略优化（RRPO）和自重置策略优化（SRPO）两种方法，通过重置到中间状态并重新采样反事实延续来改进语言模型多步推理中的信用分配，SRPO在多个推理基准上优于标准GRPO和RRPO。
超越最终答案：多智能体工业工作流中的轨迹级幻觉审计
机构 * IBM ； Columbia University（哥伦比亚大学）
AI总结 提出Trajel数据集和评估框架，通过五类幻觉分类法审计多智能体工业工作流中的轨迹级幻觉，发现现有基准忽略的常见失败模式，并证明轨迹感知检测优于标准事后验证。
通过治疗意图进行混杂检测：一种新的观察性研究设计
机构 * UCLA（加州大学洛杉矶分校） ； ETH Zurich（苏黎世联邦理工学院） ； Columbia University（哥伦比亚大学）
AI总结 提出一种通过询问治疗决策者比较配对单元来揭示未观测混杂因素的新研究设计，并在ICU数据中验证其有效性。
比学习直方图更高效地测试支撑大小
机构 * Columbia University, USA（哥伦比亚大学，美国） ； University of British Columbia, Canada（不列颠哥伦比亚大学，加拿大） ； University of Waterloo（多伦多大学） ； EPFL（苏黎世联邦理工学院）
AI总结 针对未知概率分布p的支撑大小测试问题，提出一种基于切比雪夫多项式的方法，仅需O(n/(ε log n) log(1/ε))个样本，优于学习直方图的Θ(n/(ε^2 log n))样本，并给出支撑大小的更大下界。
Comments 42 pages. This is the TheoretiCS journal version
Journal ref TheoretiCS, Volume 5 (May 21, 2026) theoretics:16717
通过QLoRA微调将工具知识内化到小型语言模型中
机构 * Columbia School of General Studies, Columbia University, NY, USA（哥伦比亚大学泛研学院） ； Columbia Engineering, Columbia University, NY, USA（哥伦比亚大学工程学院） ； IBM Research, NY, USA（IBM研究院）
AI总结 本文研究通过QLoRA参数高效微调将工具知识内化到小型语言模型中，在AssetOpsBench基准上，微调后的Gemma 4 E4B和Qwen3-4B模型在无描述推理下优于有完整工具描述的未微调基线，输入长度减少82.6%，规划分数提升。
表征语言模型间的线性对齐
机构 * Independent Researcher（独立研究者） ； Department of Computer Science（计算机科学系） ； Columbia University（哥伦比亚大学）
AI总结 研究独立训练的大语言模型间是否存在线性对齐，并探索其在文本生成、嵌入分类、分布外检测及隐私保护跨孤岛推理中的应用。
无奖励的冲突目标对齐
机构 * Columbia University（哥伦比亚大学）
AI总结 提出RACO框架，通过冲突规避梯度下降的裁剪变体直接利用成对偏好数据解决多目标冲突，实现帕累托最优对齐。
Comments Accepted to ICML 2026 (Oral)
在广度、深度和时间上生长神经网络
机构 * Columbia University（哥伦比亚大学） ； NSF AI Institute for Artificial and Natural Intelligence（国家科学基金会人工智能与自然智能研究院）
AI总结 提出在循环卷积神经网络中定义广度、深度和时间的可微成本，通过反向传播联合优化任务误差和资源成本，发现三者可相互权衡，且模型使用的时间与人类反应时间相关。
溯因-演绎纠缠：通过表示移植实现领域泛化
机构 * Columbia University（哥伦比亚大学）
AI总结 本文提出一种基于表示移植的方法，通过参数化溯因-演绎纠缠中的非可识别性，在源分布约束下搜索目标分布空间，实现领域泛化中的最优目标预测。
无控制的表征：测试语言模型中的实现效应
机构 * Columbia University（哥伦比亚大学）
AI总结 通过提示行为、线性读出和因果控制三个层面，测试语言模型是否表现出类似人类的实现效应，发现潜在读出成功但因果控制无效，表明三者不自动共存。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈