语言大模型 / LLM

The 1st Winner for 5th PVUW MeViS-Text Challenge: Strong MLLMs Meet SAM3 for Referring Video Object Segmentation

第五届PVUW MeViS-Text挑战赛第一名：强多模态大语言模型与SAM3的结合用于指代视频对象分割

Xusheng He, Canyang Wu, Jinrong Zhang, Weili Guan, Jianlong Wu, Liqiang Nie

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文提出一种无需微调的管道，结合强多模态大语言模型与SAM3，实现视频对象分割，取得PVUW 2026 MeViS-Text测试集第一名，得分为0.909064。

Comments 1st Place Solution for the 5th PVUW MeViS-Text Challenge (CVPR 2026 Workshop)

Nemotron ColEmbed V2: Top-Performing Late Interaction Embedding Models for Visual Document Retrieval

Nemotron ColEmbed V2：视觉文档检索中表现优异的后期交互嵌入模型

Gabriel de Souza P. Moreira, Ronay Ak, Mengyao Xu, Oliver Holworthy, Benedikt Schifferer, Zhiding Yu, Yauhen Babakhin, Radek Osmulski, Jiarui Cai, Ryan Chesler, Bo Liu, Even Oldridge

专题命中 指令微调 ：language model(abstract)；post-training(abstract)

AI总结 本文提出Nemotron ColEmbed V2模型，通过集群采样、硬负样本挖掘等技术，在ViDoRe基准上实现最佳性能，展示了低维嵌入在准确率与存储间的平衡实验。

Comments Proceedings of the 1st Late Interaction Workshop (LIR) @ ECIR 2026, April 02, 2026

Lightweight Prompt-Guided CLIP Adaptation for Monocular Depth Estimation

轻量级提示引导的CLIP适应用于单目深度估计

Reyhaneh Ahani Manghotay, Jie Liang

机构 * School of Engineering Science, Simon Fraser University（西蒙弗雷泽大学工程科学学院） ； School of Information Science and Technology, Eastern Institute of Technology（东方理工学院信息科学与技术学院） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出MoA-DepthCLIP框架，通过轻量级MoA模块和选择性微调提升单目深度估计的精度与效率，优于基线模型。

Comments 14 pages, 2 figures

Empirical Validation of the Classification-Verification Dichotomy for AI Safety Gates

对AI安全闸门中分类-验证二元对立的实证验证

Arsenios Scrivens

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过实证表明，基于分类器的安全闸门在AI系统经过数百次迭代后无法维持可靠监管，且结构上无法实现。

Comments 21 pages, 9 figures. Companion theory paper: doi:10.5281/zenodo.19237451

Multi-lingual Multi-institutional Electronic Health Record based Predictive Model

多语言多机构电子健康记录基于预测模型

Kyunghoon Hur, Heeyoung Kwak, Jinsu Jang, Nakhwan Kim, Edward Choi

机构 * Kim Jaechul Graduate School of AI, Korea Advanced Institute of Science and Technology（韩国科学技术院金载哲人工智能研究生院） ； NAVER Digital Healthcare LAB（NAVER数字医疗实验室） ； Department of Health and Medical Information, Ansan University（安山大学健康与医疗信息系） ； Institute of Human Behavior and Genetics, Korea University College of Medicine（高丽大学医学院人类行为与遗传研究所） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出多语言多机构学习方法，通过文本对齐实现跨国ICU数据集的联合训练，优于多语言编码器和翻译方法，提升临床预测性能。

Comments On revision stage, 10 main pages, 3 supplementary pages

The Geometry of Compromise: Unlocking Generative Capabilities via Controllable Modality Alignment

妥协的几何学：通过可控的模态对齐解锁生成能力

Hongyuan Liu, Qinli Yang, Wen Li, Zhong Zhang, Jiaming Liu, Wei Han, Zhili Qin, Jinxia Guo, Junming Shao

机构 * University of Electronic Science and Technology of China（电子科技大学） ； University of Bristol（布里斯托大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 本文通过几何分析揭示模态间隙的两个组成部分，提出TPC-CMA框架以减少两者，显著提升跨模态对齐性能，实验显示在不同目标α下模态间隙大幅降低，同时保持高准确性。

OmniFusion: Simultaneous Multilingual Multimodal Translations via Modular Fusion

OmniFusion: 通过模块融合实现多语言多模态翻译

Sai Koneru, Matthias Huck, Jan Niehues

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） ； SAP SE（SAP公司） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出OmniFusion系统，通过融合预训练多模态基础模型与翻译LLM，实现语音、语音加图像及文本加图像的多语言多模态翻译，降低SimulST延迟并提升翻译质量。

Comments Revised submission in review for ACL ARR

ReinDriveGen: Reinforcement Post-Training for Out-of-Distribution Driving Scene Generation

ReinDriveGen：强化学习后训练用于分布外驾驶场景生成

Hao Zhang, Lue Fan, Weikang Bian, Zehuan Wu, Lewei Lu, Zhaoxiang Zhang, Hongsheng Li

机构 * MMLab, CUHK（MMLab，香港中文大学） ； CASIA（中国科学院自动化研究所） ； SenseTime Research（商汤科技研究院） 纠错

专题命中 后训练与偏好优化 ：post-training(title,abstract)

AI总结 ReinDriveGen通过动态点云场景生成与强化学习后训练，实现对驾驶场景的可控生成，提升安全关键场景的模拟质量。

Comments Project page: https://drive-sim.github.io/ReinDriveGen/

All Roads Lead to Rome: Incentivizing Divergent Thinking in Vision-Language Models

所有道路通向罗马：激励视觉-语言模型的发散性思维

Xinyu Tian, Shu Zou, Zhaoyuan Yang, Mengqi He, Peter Tu, Jing Zhang

机构 * Australian National University（澳大利亚国立大学） ； Shanghai AI Lab（上海人工智能实验室） ； GE Research（通用电气研究院） 纠错

专题命中 后训练与偏好优化 ：language model(title,abstract)

AI总结 本文研究了强化学习在视觉-语言模型中激发发散性思维的机制，提出MUPO方法以解决GRPO的多样性崩溃问题，提升模型的多样性和可扩展性。

Comments Accepted to CVPR2026

STAR: Mitigating Cascading Errors in Spatial Reasoning via Turn-point Alignment and Segment-level DPO

STAR：通过转弯点对齐和段级DPO缓解空间推理中的级联错误

Pukun Zhao, Longxiang Wang, Chen Chen, Peicheng Wang, Fanqing Zhou, Runze Li, Haojian Huang

机构 * Guangdong University of Finance and Economics（广东财经大学） ； Chongqing University（重庆大学） ； Westlake University（西湖大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 本文提出STAR框架，通过拓扑锚点解决复杂拓扑中的级联错误问题，引入RedMaze-23K数据集并采用段级DPO提升长距离导航的自我修正能力，实验表明其32B版本在开源模型中表现最优。

Comments 9 pages, 6 figures, 4 tables, Accepted by ICME 2026

Offline Constrained RLHF with Multiple Preference Oracles

离线约束强化学习中的多偏好Oracle

Brenden Latham, Mehrdad Moharrami

机构 * University of Iowa（爱荷华大学） 纠错

专题命中 后训练与偏好优化 ：RLHF(title)；分类 cs.LG

AI总结 本文基于多偏好Oracle研究离线约束强化学习，通过最大似然估计Oracle奖励并分析统计不确定性传播，将约束目标转化为KL-正则化拉格朗日函数，提出仅需对偶的算法以保证约束满足并提供有限样本性能保证。

REM-CTX: Automated Peer Review via Reinforcement Learning with Auxiliary Context

REM-CTX：通过强化学习与辅助上下文实现的自动化同行评审

Pawin Taechoyotin, Daniel E. Acuna

机构 * University of Colorado Boulder（科罗拉多大学博尔德分校） 纠错

专题命中 后训练与偏好优化 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 REM-CTX通过强化学习与辅助上下文提升同行评审质量，实验显示其在多个领域中优于基线模型，且在质量和上下文关联性指标上表现突出。

Comments 12 pages, 6 figures

Learning Neural Network Controllers with Certified Robust Performance via Adversarial Training

通过对抗训练学习具有认证鲁棒性能的神经网络控制器

Neelay Junnarkar, Yasin Sonmez, Murat Arcak

专题命中 后训练与偏好优化 ：post-training(abstract)

AI总结 本文提出通过对抗训练联合合成神经网络控制器和鲁棒性证书，以保证闭环系统的鲁棒性能，利用反例指导训练，并通过alpha,beta-CROWN验证非线性动态系统。

Are they human? Detecting large language models by probing human memory constraints

他们真的是人类吗？通过探测人类记忆限制来检测大语言模型

Simon Schug, Brenden M. Lake

机构 * Princeton University（普林斯顿大学） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI；LLM(comments)

AI总结 本文通过探测人类认知限制来区分大语言模型与人类，展示了在特定任务中人类工作记忆容量的限制可被利用以识别非人类参与者。

Comments Code available at https://github.com/smonsays/llm-humanness

Agent Q-Mix: Selecting the Right Action for LLM Multi-Agent Systems through Reinforcement Learning

Agent Q-Mix: 通过强化学习选择LLM多智能体系统的合适动作

Eric Hanchen Jiang, Levina Li, Rui Sun, Xiao Liang, Yubei Li, Yuchen Wu, Haozheng Luo, Hengli Li, Zhi Zhang, Zhaolu Kang, Kai-Wei Chang, Ying Nian Wu

机构 * University of California Los Angeles（加州大学洛杉矶分校） ； University of Washington（华盛顿大学） ； Northwestern University（西北大学） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出Agent Q-Mix框架，通过强化学习解决多智能体系统中拓扑选择问题，实现去中心化通信决策，提升任务准确率与token效率。

Eyla: Toward an Identity-Anchored LLM Architecture with Integrated Biological Priors -- Vision, Implementation Attempt, and Lessons from AI-Assisted Development

Eyla：迈向具有集成生物先验的LLM架构——视觉、实现尝试及AI辅助开发的教训

Arif Aditto

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 Eyla提出一种以身份为基础的LLM架构，整合生物启发子系统，通过AI辅助开发的失败分析，揭示了AI辅助软件工程中的系统性失效模式。

Comments 8 pages, 3 tables, 25 references. Preprint under review for workshop submission

TR-ICRL: Test-Time Rethinking for In-Context Reinforcement Learning

TR-ICRL：基于上下文的强化学习中的测试时重新思考

Wenxuan Jiang, Yuxin Zuo, Zijian Zhang, Xuecheng Wu, Zining Fan, Wenxuan Liu, Li Chen, Xiaoyu Li, Xuezhi Cao, Xiaolong Jin, Ninghao Liu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Meituan（美团） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Xi’an Jiaotong University（西安交通大学） ； East China Normal University（华东师范大学） ； Northeastern University（东北大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 TR-ICRL通过在推理过程中重新思考来解决ICRL中的奖励估计问题，通过伪标签生成反馈，提升模型在推理和知识密集型任务中的性能。

Comments 14 pages, 7 figures

GenoBERT: A Language Model for Accurate Genotype Imputation

GenoBERT：一种用于准确基因型推断的语言模型

Lei Huang, Chuan Qiu, Kuan-Jui Su, Anqi Liu, Yun Gong, Weiqiang Lin, Lindong Jiang, Chen Zhao, Meng Song, Jeffrey Deng, Qing Tian, Zhe Luo, Ping Gong, Hui Shen, Chaoyang Zhang, Hong-Wen Deng

机构 * School of Computing Sciences and Computer Engineering, University of Southern Mississippi（南密西西比大学计算科学与计算机工程学院） ； Tulane Center for Biomedical Informatics and Genomics, Deming Department of Medicine, School of Medicine, Tulane University（杜兰大学医学院德明医学系杜兰生物医学信息学与基因组学中心） ； Kennesaw State University（肯尼索州立大学） ； College of Science, Xi’an Shiyou University（西安石油大学理学院） ； Geisel School of Medicine, Dartmouth College（达特茅斯学院盖泽尔医学院） ； Environmental Laboratory, U.S. Army Engineer Research and Development Center（美国陆军工程兵研究与发展中心环境实验室） 纠错

专题命中 长上下文与记忆 ：language model(title)；分类 cs.AI、cs.LG

AI总结 GenoBERT是一种基于Transformer的无参考框架，通过自注意力机制捕捉短程和长程连锁不平衡依赖，实现高精度基因型推断。

Query-Conditioned Evidential Keyframe Sampling for MLLM-Based Long-Form Video Understanding

基于证据的关键帧采样用于基于MLLM的长视频理解

Yiheng Wang, Lichen Zhu, Yueqian Lin, Yudong Liu, Jingyang Zhang, Hai "Helen" Li, Yiran Chen

机构 * Duke University（杜克大学） ； Independent Researcher（独立研究员） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于信息瓶颈理论的证据驱动关键帧采样框架，通过最大化选帧与查询的条件互信息，提升长视频理解性能，实验表明在严格token预算下优于现有方法。

HabitatAgent: An End-to-End Multi-Agent System for Housing Consultation

HabitatAgent：一种端到端的多智能体系统用于住房咨询

Hongyang Yang, Yanxin Zhang, Yang She, Yue Xiao, Hao Wu, Yiyang Zhang, Jiapeng Hou, Rongshan Zhang

机构 * Fangdongdong（方东东） ； Tsinghua University（清华大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出HabitatAgent，一种基于LLM的多智能体系统，通过四个专业角色提供可审计且可靠的住房咨询流程，实现高准确率的住房选择支持。

Comments Accepted at the DMO-FinTech Workshop (PAKDD 2026)

Cost-Penalized Fitness in FMA-Orchestrated Mixture of Experts: Experimental Evidence for Molecular Memory in Domain Adaptation

在FMA协调的专家混合系统中的成本惩罚适应性：领域适应中分子记忆的实验证据

Martin Jaraiz

机构 * Department of Electricity and Electronics, University of Valladolid（巴利亚多利德大学电子与电气工程系） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.LG

AI总结 本文通过纳米FMT实验探讨了在数据分布变化时，MoE系统如何通过多样化而非替换积累领域专业知识，展示了分子记忆效应带来的高效领域迁移能力。

Comments 10 pages, 3 figures, draft

Understanding Transformers and Attention Mechanisms: An Introduction for Applied Mathematicians

理解Transformer和注意力机制：面向应用数学家的入门

Michel Fabrice Serret

专题命中 长上下文与记忆 ：language model(abstract)

AI总结 本文为应用数学家介绍Transformer架构中的注意力机制，涵盖文本向量编码、多头注意力、Transformer结构及其变体，以及降低计算和内存成本的现代方法。

Comments 13 pages, 9 figures

A Visionary Look at Vibe Researching

对Vibe研究的前瞻性展望

Yebo Feng, Yang Liu

专题命中 长上下文与记忆 ：LLM(abstract)

AI总结 本文探讨了Vibe研究范式，结合人类指导与AI代理，提出多智能体架构、记忆、工具使用等方法，分析其技术限制与社会影响，为负责任的采用提供路线图。

SurgTEMP: Temporal-Aware Surgical Video Question Answering with Text-guided Visual Memory for Laparoscopic Cholecystectomy

SurgTEMP：基于文本引导的视觉记忆的时序感知手术视频问答系统用于腹腔镜胆囊切除术

Shi Li, Vinkle Srivastav, Nicolas Chanel, Saurav Sharma, Nabani Banik, Lorenzo Arboit, Kun Yuan, Pietro Mascagni, Nicolas Padoy

机构 * University of Strasbourg（斯特拉斯堡大学） ； CNRS（法国国家科学研究中心） ； INSERM（法国国家健康与医学研究院） ； ICube, UMR7357（ICube实验室，UMR7357） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)

AI总结 SurgTEMP通过文本引导的视觉记忆和时序感知模块，提升手术视频问答的性能，其核心方法是构建层次化的视觉记忆并采用手术能力进步训练方案，从而在复杂手术场景中实现更准确的问答与评估。

Comments 29 pages, 14 figures, 9 tables

Secure Forgetting: A Framework for Privacy-Driven Unlearning in Large Language Model (LLM)-Based Agents

安全遗忘：一种隐私驱动的大型语言模型（LLM）基于代理的去学习框架

Dayong Ye, Tainqing Zhu, Congcong Zhu, Feng He, Qi He, Shang Wang, Bo Liu, Wanlei Zhou

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出了一种针对LLM基于代理的去学习框架，通过分类三种去学习场景，引入基于自然语言的去学习方法，提升隐私保护下的知识遗忘能力。

Structure- and Event-Driven Frameworks for State Machine Modeling with Large Language Models

基于结构和事件的面向状态机建模的大型语言模型框架

Samer Abdulkarim, Evan Boyd, Karl Bridi, Alec Tufenkjian, Boqi Chen, Gunter Mussbacher

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本文提出结合结构和事件驱动的框架，利用大型语言模型自动生成UML状态机，评估了不同模型在非结构化自然语言需求下的表现，发现混合方法能提升非推理模型性能，但无法进一步提升推理模型效果。

Comments 10 pages, 5 figures

Beyond Symbolic Solving: Multi Chain-of-Thought Voting for Geometric Reasoning in Large Language Models

超越符号求解：用于大语言模型几何推理的多链式思维投票

Md. Abu Bakor Siddique, Shahrin Hossain, Sadman Ahmed Siam, Syed Rifat Raiyan, Hasan Mahmud, Md Kamrul Hasan

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MARS-GPS方法，通过生成多个并行推理流程并结合Python代码执行，利用熵值进行排序并多阶段投票，提升大语言模型在几何推理中的性能，实验显示其在Geometry3K数据集上达到88.8%的准确率，比现有最佳水平提升11%。

Comments Under review, 4 figures, 7 tables

A Reasoning-Enabled Vision-Language Foundation Model for Chest X-ray Interpretation

一种用于胸部X光解读的推理增强视觉-语言基础模型

Yabin Zhang, Chong Wang, Yunhe Gao, Jiaming Liu, Maya Varma, Justin Xu, Sophie Ostmeier, Jin Long, Sergios Gatidis, Seena Dehkharghani, Arne Michalson, Eun Kyoung Hong, Christian Bluethgen, Haiwei Henry Guo, Alexander Victor Ortiz, Stephan Altmayer, Sandhya Bodapati, Joseph David Janizek, Ken Chang, Jean-Benoit Delbrouck, Akshay S. Chaudhari, Curtis P. Langlotz

专题命中 推理与问题求解 ：foundation model(title,abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.AI、cs.LG

AI总结 CheXOne模型通过生成诊断预测和临床依据的推理轨迹，提升胸部X光解读的可解释性与准确性，在多个评估任务中表现优异。

Comments Codes: https://github.com/YBZh/CheXOne Models: https://huggingface.co/StanfordAIMI/CheXOne

Experiential Reflective Learning for Self-Improving LLM Agents

经验反思学习用于自我改进的LLM代理

Marc-Antoine Allard, Arnaud Teinturier, Victor Xing, Gautier Viaud

机构 * Illuin Technology 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出经验反思学习框架，通过反思任务轨迹生成可迁移的启发式方法，提升LLM代理在Gaia2基准上的任务完成可靠性与成功率。

Comments Published as a conference paper at the ICLR 2026 MemAgents Workshop

Lumos: Let there be Language Model System Certification

Lumos: 让语言模型系统认证成为可能

Isha Chaudhary, Vedaant Jain, Prineet Parhar, Kavya Sachdeva, Avaljot Singh, Sayan Ranu, Gagandeep Singh

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Indian Institute of Technology Delhi（印度理工学院德里分校） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI

AI总结 Lumos提出首个系统化框架，通过概率编程DSL实现语言模型系统行为的正式认证，支持复杂关系和时间规格，揭示了先进视觉语言模型在自动驾驶场景中的安全风险。