高校专区
混合线性注意力大语言模型中的大规模激活：注意力前峰值与峰间平台期
机构 * Startlux（星创公司） ； Tsinghua University（清华大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； The University of Hong Kong（香港大学） ； University of Sydney（悉尼大学） ； Columbia University（哥伦比亚大学）
AI总结 本研究系统揭示混合线性注意力大语言模型中大规模激活的两种形态，证实其在多架构、多配置等场景下的重复性，明确其对输出门控的响应规律及机制，为相关模型优化提供依据。
Comments Under review
用于噪声标签聚合的双原图变分自动编码器
机构 * Zuckerman Institute（扎克曼研究所） ； Columbia University（哥伦比亚大学）
AI总结 提出双原图变分自动编码器，将真实标签作为潜变量实现无监督学习，在众包基准获最优性能，还可扩充图纳入辅助信息提升分类性能。
基于代理AI的资产组合投资筛选设计
机构 * North Carolina State University, Nelson Hall, Department of Economics（北卡罗来纳州立大学，Nelson Hall，经济学系） ； Columbia University. Department of Industrial Engineering and Operations Research and Columbia Business School（哥伦比亚大学，工业工程与运筹学系及哥伦比亚商学院） ； Columbia University. Department of Industrial Engineering and Operations Research（哥伦比亚大学，工业工程与运筹学系）
AI总结 本文提出基于代理AI的资产组合投资筛选框架，通过两个专用代理筛选优质公司并生成买卖信号，结合高维精度矩阵估计确定最优权重，实验证明其在S&P 500数据上优于传统方法。
RankByGene: 通过跨模态排序一致性实现基因引导的组织病理学表示学习
机构 * Stony Brook University（石英溪大学） ； Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital and Harvard Medical School（阿提诺拉A.马丁努斯生物医学影像中心，麻省总医院和哈佛医学院） ； Department of Biomedical Data Science, Stanford University（生物医学数据科学系，斯坦福大学） ； Department of Pathology and Cell Biology, Columbia University（病理学与细胞生物学系，哥伦比亚大学）
AI总结 提出基于排序对齐损失的框架，利用教师-学生网络自监督知识蒸馏，解决空间转录组学与组织学图像的对齐问题，在基因表达预测、切片分类和生存分析任务中表现优异。
Comments 12 pages, 8 figures, accepted by TMI'26
恢复自动研究智能体中浪费的计算资源
机构 * Columbia University（哥伦比亚大学） ； Georgetown University（乔治城大学） ； Capital One（第一资本金融公司）
AI总结 本文针对自动研究智能体应用于表格数据集时的四类计算资源浪费问题，提出针对性干预措施，仅通过优化智能体设计即可大幅提升其性能。
HSMLA：用于高效视觉Transformer的分层Softmax多尺度线性注意力
机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Columbia University（哥伦比亚大学） ； The University of Melbourne（墨尔本大学）
AI总结 针对视觉Transformer高分辨率密集预测的计算开销问题，提出HSMLA，结合多类注意力机制与深度卷积，在多项任务上实现精度与效率的优异平衡。
CoEvoSkills: 通过共进化验证实现自进化代理技能
机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； MBZUAI（穆罕默德·本·扎耶德人工智能大学） ； McGill University（麦吉尔大学） ； Columbia University（哥伦比亚大学） ； Zhejiang University（浙江大学） ； University of British Columbia（不列颠哥伦比亚大学）
AI总结 本文提出CoEvoSkills框架，使代理能自主生成复杂技能包，通过共进化验证提供反馈，实现在SkillsBench上最高通过率和强泛化能力。
Comments COLM accepted
关于自我改进智能体的统计极限
机构 * Columbia University（哥伦比亚大学）
AI总结 研究探讨了自我改进智能体的统计极限，揭示了效用驱动的自我修改可能引发的学习能力下降问题，并提出了容量有界条件下的安全自我改进边界。
Comments Published in TMLR 2026
各向异性脑部T2加权MRI的解剖学一致跨对比度超分辨率
机构 * Columbia University（哥伦比亚大学） ； Columbia University Irving Medical Center（哥伦比亚大学欧文医学中心） ； Herbert Irving Comprehensive Cancer Center（赫伯特·欧文综合癌症中心） ； University of Cincinnati（辛辛那提大学）
AI总结 该研究提出VIPP-SR框架，利用跨对比度引导实现各向异性脑部T2w MRI的超分辨率，经实验验证可提升下游分割性能，且具备跨队列泛化能力。
机构 * Columbia University（哥伦比亚大学） ； Data Science Institute, Columbia University（哥伦比亚大学数据科学研究所） ； Department of Computer Science, Columbia University（哥伦比亚大学计算机科学系）
Comments 25 pages, 6 figures, 11 tables. Code: https://github.com/ianKa1/MoE_pruning/tree/main
多模态大语言模型的演进安全态势：新兴威胁与防护措施综述
机构 * University of Alabama at Birmingham（阿拉巴马大学伯明翰分校） ； NVIDIA（英伟达公司） ； Penn State University（宾夕法尼亚州立大学） ； Columbia University（哥伦比亚大学） ； University of Missouri-Kansas City（密苏里大学堪萨斯分校） ； Florida State University（佛罗里达州立大学） ； Auburn University（奥本大学）
AI总结 本综述针对多模态大语言模型（MLLMs）的新型安全威胁，提出多模态安全威胁分类法，梳理安全策略进展，探讨未来安全机制的研究方向。
Comments Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI
物理人工智能治理：跨越生命周期从理论到实践
机构 * Case Western Reserve University（凯斯西储大学） ； Shanghai Jiao Tong University（上海交通大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Columbia University（哥伦比亚大学） ； University of California, Riverside（加州大学河滨分校） ； Nanyang Technological University（南洋理工大学） ； New York University（纽约大学） ； Salesforce（Salesforce公司） ； Harvard University（哈佛大学） ； Stanford University（斯坦福大学）
AI总结 本文对物理人工智能治理进行全面综述，综合现有原则形成统一框架，提出五阶段生命周期，通过具体实践展示各阶段治理操作，为构建安全可信且符合社会价值的物理人工智能系统提供参考。
理解从预训练到训练后阶段的推理
机构 * New York University（纽约大学） ； Modal Labs（模态实验室） ； University of California, Los Angeles（加州大学洛杉矶分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Columbia University（哥伦比亚大学）
AI总结 研究强化学习在大语言模型从预训练到训练后阶段对推理的作用，以国际象棋为测试平台，按标准流程训练模型，发现预训练损失可预测RL后性能，RL奖励曲线斜率与预训练令牌有关，还揭示RL对SFT策略的影响，且在数学领域也有相同模式。
OLIVE: 面向高效自适应外骨骼的在线低秩增量学习
机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Columbia University（哥伦比亚大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Rice University（里奇大学）
AI总结 提出OLIVE框架，通过低秩残差分解和奖励驱动策略梯度实现外骨骼控制的在线个性化自适应，在多种地形上提升步态平滑度、降低努力并增强稳定性。
Comments Accepted to UbiComp / ISWC 2026
从太空看SDG 6：利用卫星图像和自监督学习对非洲管道水和污水系统接入进行局部尺度监测
机构 * Mila – Quebec AI Institute（魁北克人工智能研究所） ； School of Computer Science, McGill University（麦吉尔大学计算机科学学院） ； Department of Earth and Environmental Engineering, Columbia University（哥伦比亚大学地球与环境工程系） ； Center for Learning the Earth with Artificial Intelligence and Physics (LEAP)（人工智能与物理学习地球中心（LEAP）） ； Division of Natural and Applied Sciences, Duke Kunshan University（杜克-昆山大学自然科学与应用科学系）
AI总结 本研究利用Sentinel-2图像、Afrobarometer调查数据、30米人口数据和DINO自监督视觉Transformer特征，开发了一个可扩展的遥感框架，以约2.56公里分辨率估计管道水和污水系统接入情况，最佳模型AUROC分别达到91.54%和93.24%，与WHO/UNICEF JMP统计数据高度一致，并在尼日利亚案例中揭示了细粒度环境不平等。
Comments Under Review
从链到DAG：探测语言模型推理中的图结构
机构 * Columbia University（哥伦比亚大学）
AI总结 研究探讨语言模型内部推理是否以有向无环图形式存在，通过设计探针验证DAG结构在各层的出现，并发现中间层具有最强的结构恢复能力。
通过归一化流减少晶格QCD可观测量的方差
机构 * Center for Theoretical Physics, Massachusetts Institute of Technology, Cambridge, MA 02139, USA ； The NSF AI Institute for Artificial Intelligence ； Fermi National Accelerator Laboratory, Batavia, IL 60510, U.S.A. ； Higgs Centre for Theoretical Physics, School of Physics ； Astronomy, University of Edinburgh, EH9 3FD Edinburgh, United Kingdom ； Albert Einstein Center, Institute for Theoretical Physics, University of Bern, 3012 Bern, Switzerland ； Physics Department, Columbia University, New York, NY 10027, USA
AI总结 本文通过归一化流方法有效降低晶格QCD中胶球相关函数和强子结构相关胶子矩阵元的方差，同时减少计算成本。
Comments 15 pages, 4 figures, 2 tables. v2: update to match published version
重新审视数据污染在代码智能中的影响
机构 * Shandong University（山东大学） ； Institute of Software, Chinese Academy of sciences（中国科学院软件研究所） ； City University of Hong Kong（香港城市大学） ； Columbia University（哥伦比亚大学） ； Peking University（北京大学）
AI总结 本文重新审视了数据污染对代码智能模型的影响，发现不同模型在不同污染场景下的表现差异显著，挑战了污染必然导致性能高估的传统观点。
语义交易：用于预测市场聚类和关系发现的代理AI
机构 * Columbia University（哥伦比亚大学） ； IBM Research（IBM研究院）
AI总结 本文提出一种代理AI方法，通过自然语言处理将预测市场划分为主题组并发现市场间的关系，利用历史数据验证其预测准确性及交易策略收益。
Routesplain：面向软件相关任务的可信赖且可干预的路由方法
机构 * Columbia University（哥伦比亚大学） ； Oracle AI
AI总结 Routesplain是首个面向软件相关任务的LLM路由工具，通过提取可解释概念路由，在8项软件任务上的16种LLM中，其性能优于单个模型且不逊于黑盒基线，可提升响应质量并降低成本。
Comments Accepted to COLM 2026
TempoBench：评估大语言模型中的时间因果推理
机构 * Columbia University（哥伦比亚大学） ； Columbia University, Barnard College（哥伦比亚大学、巴纳德学院）
AI总结 提出TempoBench基准，通过合成Mealy机生成可验证的因果标签，评估LLM在时间因果推理中的表现，发现模型在最小因果归因任务上准确率低于25%，主要错误是过度指定。
重新思考MDLM的推理：早期退出、事后推理及其他
机构 * Columbia University（哥伦比亚大学） ； Department of Computer Science, New York University（纽约大学计算机科学系） ； Microsoft Research（微软研究院） ； Center for Data Science, New York University（纽约大学数据科学中心）
AI总结 本文提出“推理即填充”技术，基于掩码扩散语言模型（MDLMs）实现早期退出、事后推理等能力，在GSM8k数据集上微调LLaDA-8B-Base提升准确率14.9%，证明MDLM训练目标对推理有显著优势。
Comments COLM 2026 Camera Ready
FoMoH：针对结构化电子健康记录的具有临床意义的基础模型评估
机构 * Department of Biomedical Informatics Columbia University（生物医学信息学系 哥伦比亚大学）
AI总结 本研究构建含14项临床预测任务的基准，评估6种EHR基础模型，发现其在标注数据有限时区分性能更优、群体公平性更好，但低患病率场景表现差、跨机构可迁移性不足。
Muon训练的Transformer中表示-读出接口的后顿悟崩溃
机构 * Data Science Institute, Columbia University（哥伦比亚大学数据科学研究所） ； Columbia University（哥伦比亚大学） ； Stanford University（斯坦福大学） ； CentraleSupélec（中央高等电力学院）
AI总结 该研究发现Muon训练的Transformer在模块化加法等任务中，顿悟后会因表示-读出接口故障丧失泛化性，冻结嵌入/读出可避免，傅里叶滤波能分离故障与掩码，任务对齐族可恢复性能。
Comments 34 pages, 6 figures, 20 tables. Full technical version; a condensed 9-page version is currently under review. Code: https://github.com/Na00s/muon-grokking
NTDH：用于综合情感分析的复杂推理
机构 * Columbia University（哥伦比亚大学） ； The University of Manchester（曼彻斯特大学）
AI总结 针对综合情感分析的挑战，提出NTDH方法，通过自然化、感知容差门等策略，在少数据量下提升性能，获最优EI-reg结果。
Comments 16 pages, 3 figures, 9 tables
OpenForgeRL：在任何环境中训练原生利用工具的智能体
机构 * Columbia University（哥伦比亚大学） ； Dartmouth College（达特茅斯学院） ； Microsoft Research（微软研究院）
AI总结 研究针对现代AI智能体依赖复杂推理工具难端到端训练的问题，提出OpenForgeRL框架，通过轻量级代理和Kubernetes编排器，在多环境下对基于工具的智能体端到端训练，验证了框架效果并分析了工具选择和RL对智能体行为的影响。
Comments added github link
面向胸部X射线报告生成的正例-无标签偏好优化
机构 * Columbia University（哥伦比亚大学） ； Stanford University（斯坦福大学） ； Emory University（埃默里大学）
AI总结 该研究针对放射报告生成VLM的遗漏噪声问题，提出PU-DPO框架，将未提及项视为无标签，通过对比对优化，提升病理检测率与隐藏正例恢复能力，增强对遗漏噪声的鲁棒性。
SODA：大语言模型的半在线盒式知识蒸馏
机构 * Clemson University（克莱姆森大学） ； LinkedIn（领英） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； Arizona State University（亚利桑那州立大学） ； Columbia University（哥伦比亚大学）
AI总结 本文提出SODA，一种高效的半在线盒式知识蒸馏方法，通过对比教师最优响应与学生静态输出，实现高质量分布对齐，无需动态回放和对抗平衡，提升蒸馏效率和稳定性。
Comments Efficient Reasoning@COLM
基于锚点思考：接地且高效的文档推理
机构 * Georgia Tech（佐治亚理工学院） ； CMU（卡内基梅隆大学） ； Adobe（奥多比公司） ； ZJU（浙江大学） ； NUIST（南京信息工程大学） ； SEU（东南大学） ； Physion Labs（Physion实验室） ； Columbia University（哥伦比亚大学）
AI总结 该研究提出面向推理的ADOPD 2026数据集，将多类文档元素转化为视觉锚点，支持区域语义标注、统一视觉-语言接地等能力，解决现有模型在文档计数任务上的不足，推动文档理解向锚点接地的智能方向发展。
基于注意力的多任务计算表示
机构 * Columbia University（哥伦比亚大学） ； Purdue University（普渡大学）
AI总结 该研究针对两类多任务场景，建立了多头注意力层所需头数量的下界并构造出匹配下界的结构，相关结果可推广到任意对称布尔函数。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈