语言大模型 / LLM

From Morality Installation in LLMs to LLMs in Morality-as-a-System

从LLM中的道德安装到道德作为系统中的LLM

Gunter Bombaerts

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；RLHF(abstract)

AI总结 本文提出道德作为系统框架，重新定义道德行为的动态性与系统耦合问题，探讨道德属性在生命周期中的监测与跨组件一致性。

Comments 22pages, 1 figure, 1 table

Information Gain-based Policy Optimization: A Simple and Effective Approach for Multi-Turn Search Agents

基于信息增益的策略优化：一种用于多轮搜索代理的简单而有效的方法

Guoqing Wang, Sunhao Dai, Guangze Ye, Zeyu Gan, Wei Yao, Yong Deng, Xiaofeng Wu, Zhenzhe Ying

机构 * Venus Team, Ant Group（蚂蚁集团 Venus 团队） ； Renmin University of China（中国人民大学） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于信息增益的策略优化框架，通过密集内在监督提升多轮代理训练效果，实验表明其在多轮场景中优于现有方法，准确性和数据效率更高。

Comments Accepted by ICLR 2026

TIPS: Turn-Level Information-Potential Reward Shaping for Search-Augmented LLMs

TIPS: 用于搜索增强的大语言模型的回合级信息潜力奖励塑造

Yutao Xie, Nathaniel Thomas, Nicklas Hansen, Yang Fu, Li Erran Li, Xiaolong Wang

机构 * UC San Diego（加州大学圣地亚哥分校） ； AWS AI（亚马逊人工智能） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出TIPS方法，通过回合级信息潜力奖励塑造提升搜索增强LLM的训练稳定性与性能，优于GRPO/PPO基线，在多个问答基准上取得显著提升。

Comments Code: https://github.com/ucsd-wang-lab-lm/tips

Privacy-Preserving Reinforcement Learning from Human Feedback via Decoupled Reward Modeling

通过解耦奖励建模实现隐私保护的人类反馈强化学习

Young Hyun Cho, Will Wei Sun

机构 * Purdue University（普渡大学） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；RLHF(abstract)；分类 cs.LG

AI总结 本文提出一种隐私保护框架，仅在奖励学习中施加差分隐私，通过私有奖励模型生成最终策略。理论分析显示隐私引入额外的误差项，且样本量和隐私水平影响主导项，实验验证了理论预测。

EVA: Aligning Video World Models with Executable Robot Actions via Inverse Dynamics Rewards

EVA：通过逆动力学奖励对齐视频世界模型与可执行机器人动作

Ruixiang Wang, Qingming Liu, Yueci Deng, Guiliang Liu, Zhen Liu, Kui Jia

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； DexForce Technology Co., Ltd.（DexForce技术有限公司） 纠错

专题命中 后训练与偏好优化 ：post-training(abstract)；分类 cs.AI

AI总结 本文提出EVA框架，通过逆动力学奖励对齐视频世界模型与可执行动作，减少生成动作中的体感约束违规，提升下游任务执行成功率。

Comments Project page: https://eva-project-page.github.io/

AgentRAE: Remote Action Execution through Notification-based Visual Backdoors against Screenshots-based Mobile GUI Agents

AgentRAE: 通过基于通知的视觉后门实现远程动作执行以对抗基于截图的移动GUI代理

Yutao Luo, Haotian Zhu, Shuchao Pang, Zhigang Lu, Tian Dong, Yongbin Zhou, Minhui Xue

机构 * Nanjing University of Science and Technology（南京理工大学） ； Macquarie University（麦考瑞大学） ； Western Sydney University（西澳大学） ； University of Hong Kong（香港大学） ； CSIRO’s Data61（澳大利亚CSIRO Data61） 纠错

专题命中 后训练与偏好优化 ：post-training(abstract)；分类 cs.AI

AI总结 针对基于截图的移动GUI代理，提出AgentRAE通过自然视觉触发器诱导远程动作执行，采用两阶段管道提升代理对细微图标差异的敏感度，并通过后训练关联触发器与特定动作，实现高攻击成功率和隐蔽性。

Aerial Agentic AI: Synergizing LLM and SLM for Low-Altitude Wireless Networks

空域代理AI：融合LLM和SLM用于低空无线网络

Li Dong, Feibo Jiang, Kezhi Wang, Cunhua Pan, Dong In Kim, Ekram Hossain

专题命中 长上下文与记忆 ：LLM(title,abstract)；SLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出空域代理AI框架，通过融合小型语言模型和大型语言模型，解决低空无线网络中的计算、通信和实时性冲突问题，实现高效协同与决策优化。

Mi:dm K 2.5 Pro

KT Tech innovation Group

专题命中 长上下文与记忆 ：LLM(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

MERIT: Memory-Enhanced Retrieval for Interpretable Knowledge Tracing

MERIT: 用于可解释知识追踪的记忆增强检索

Runze Li, Kedi Chen, Guwei Feng, Mo Yu, Jun Wang, Wei Zhang

机构 * School of Computer Science and Technology, East China Normal University（东华师范大学计算机科学与技术学院） ； Shanghai Innovation Institute（上海创新研究院） ； WeChat AI, Tencent（微信AI，腾讯） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 MERIT提出一种无需训练的框架，结合冻结LLM推理与结构化教学记忆，通过语义去噪将学生分类为潜在认知模式，并构建模式库生成显式推理依据，提升教育诊断的可解释性和效率。

Synthetic or Authentic? Building Mental Patient Simulators from Longitudinal Evidence

合成还是真实？从纵向证据构建心理健康患者模拟器

Baihan Li, Bingrui Jin, Kunyao Lan, Ming Wang, Mengyue Wu

机构 * SJTU Paris Elite Institute of Technology（上海交通大学巴黎精英理工学院） ； X-LANCE Lab（X-LANCE实验室） ； School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院） ； School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院） ； School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算机与信息系统学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出DEPROFILE框架，通过整合多源数据构建统一患者档案，提升对话真实性和行为多样性。

Reasoner-Executor-Synthesizer: Scalable Agentic Architecture with Static O(1) Context Window

推理-执行-合成器：具有静态O(1)上下文窗口的可扩展代理架构

Ivan Dobrovolskyi

机构 * Walmart Global Tech（沃尔玛全球技术） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出RES架构，通过分离意图解析、确定性数据检索与叙事生成，实现O(1)的token复杂度，有效解决LLM代理中上下文窗口过大导致的幻觉风险和token成本问题。

Streaming Attention Approximation via Discrepancy Theory

通过偏差理论实现流式注意力近似

Ekaterina Kochetkova, Kshiteej Sheth, Insu Han, Amir Zandieh, Michael Kapralov

机构 * EPFL（苏黎世联邦理工学院） ； KAIST（韩国科学技术院） ； Google Research（谷歌研究） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出BalanceKV算法，基于几何过程选择平衡的Key和Value token，实现流式注意力近似，理论和实验均优于现有方法。

MKA: Memory-Keyed Attention for Efficient Long-Context Reasoning

MKA：用于高效长上下文推理的内存键注意

Dong Liu, Yanxuan Yu, Ben Lengerich, Ying Nian Wu

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Columbia University（哥伦比亚大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出MKA机制，通过多级KV缓存和动态路由提升长上下文推理效率，FastMKA在保持准确率的同时显著提升训练速度和评估效率。

Comments Accepted to the ACM Computing Frontiers 2026 Conference (Oral Presentation) and the ICML 2025 Long Context Modeling Workshop

Injecting Falsehoods: Adversarial Man-in-the-Middle Attacks Undermining Factual Recall in LLMs

注入虚假信息：对抗性中间人攻击削弱大语言模型的事实回忆

Alina Fastowski, Bardh Prenkaj, Yuxiao Li, Gjergji Kasneci

机构 * Technical University of Munich（慕尼黑技术大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出首个基于提示注入的LLM事实记忆攻击评估框架Xmera，通过扰动输入在封闭书本和事实基础QA场景中降低响应正确性并评估生成过程的不确定性，提出基于响应不确定性的随机森林分类器作为防御机制。

Graph Signal Processing Meets Mamba2: Adaptive Filter Bank via Delta Modulation

图信号处理与Mamba2交汇：通过Delta调制实现自适应滤波器组

Yehjin Shin, Seojin Kim, Noseong Park

机构 * KAIST（韩国科学技术院） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出HADES框架，将Mamba2重新解释为线图上的自适应滤波器组，通过结构化偏置实现全局低通和局部高通滤波，提升效率和可解释性。

Comments The Fourteenth International Conference on Learning Representations (ICLR 2026)

Trained Persistent Memory for Frozen Decoder-Only LLMs

训练的持久内存用于冻结的解码器-only LLMs

Hong Jeong

机构 * Inha University in Tashkent, Uzbekistan（乌兹别克斯坦塔什克恩的因哈大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究解码器-only LLMs中持久内存的实现，通过六种方法在冻结的GPT-2上训练小型适配器，发现架构先验对保留内存性能有显著影响，且在10倍容量下所有方法均收敛。

3DCity-LLM: Empowering Multi-modality Large Language Models for 3D City-scale Perception and Understanding

3DCity-LLM：赋能多模态大语言模型进行3D城市级感知与理解

Yiping Chen, Jinpeng Li, Wenyu Ke, Yang Luo, Jie Ouyang, Zhongjie He, Li Liu, Hongchao Fan, Hao Wu

机构 * School of Geospatial Engineering and Science（测绘工程与科学学院） ； Sun Yat-sen University（中山大学） ； College of Electronic Science（电子科学学院） ； National University of Defense Technology（国防科技大学） ； Department of Civil and Environmental Engineering（土木与环境工程系） ； Norwegian University of Science and Technology（挪威科技大学） ； National Geomatics Center of China（中国国家测绘地理信息中心） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出3DCity-LLM框架，通过粗到细的特征编码策略和120万高质量数据集，提升城市级多模态感知与理解能力，实验表明其在空间推理和城市智能方面优于现有方法。

Comments 24 pages, 11 figures, 12 tables

Evaluating Prompting Strategies for Chart Question Answering with Large Language Models

评估大型语言模型在图表问答中的提示策略

Ruthuparna Naikar, Ying Zhu

机构 * Georgia State University, Atlanta GA, USA（佐治亚州立大学） 纠错

专题命中 推理与问题求解 ：prompting(title,abstract)；large language model(title)；language model(title)；LLM(abstract)

AI总结 本文系统评估了四种提示策略在图表问答任务中的表现，发现Few-Shot Chain-of-Thought策略在准确性和格式遵循上表现最佳，为结构化数据推理任务提供了选择提示策略的指导。

Journal ref Advances in Visual Computing (ISVC 2025), LNCS 16397, Springer

Generating and Evaluating Sustainable Procurement Criteria for the Swiss Public Sector using In-Context Prompting with Large Language Models

利用大语言模型的上下文提示生成和评估瑞士公共部门可持续采购标准

Yingqiang Gao, Veton Matoshi, Luca Rolshoven, Tilia Ellendorff, Judith Binder, Jeremy Austin Jann, Gerold Schneider, Matthias Stürmer

机构 * University of Zurich（苏黎世大学） ； Bern University of Applied Sciences（伯尔尼应用科学大学） ； University of Bern（伯尔尼大学） 纠错

专题命中 推理与问题求解 ：prompting(title,abstract)；large language model(title)；language model(title)；LLM(abstract)

AI总结 本文提出一种可配置的LLM辅助流程，用于系统生成和评估瑞士可持续采购标准目录。通过整合上下文提示、可替换的LLM后端和自动输出验证，该系统能跨不同采购领域生成可审计的标准。实验表明，该流程能显著减少手动撰写工作，生成符合官方指南的标准目录。

Can Large Language Models Reason and Optimize Under Constraints?

大型语言模型能否在约束下进行推理和优化？

Fabien Bernier, Salah Ghamizi, Pantelis Dogoulis, Maxime Cordy

机构 * SnT – University of Luxembourg（卢森堡大学SnT分校） ； Luxembourg Institute of Health (LIH)（卢森堡健康研究院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了大型语言模型在最优功率流问题物理和操作约束下的推理与优化能力，发现现有模型在多数任务中表现不足，揭示了LLM在约束下结构推理的关键差距。

Optimizing Small Language Models for NL2SQL via Chain-of-Thought Fine-Tuning

通过链式思维微调优化小型语言模型用于自然语言到SQL转换

Anshul Solanki, Sanchit Latawa, Koushik Chakraborty, Navneet Kamboj

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 本文通过链式思维微调优化小型语言模型，发现小型模型在NL2SQL任务中表现优于大型模型，显著提升准确率并降低成本。

Comments 9 pages , 3 fifures

Vision-DeepResearch: Incentivizing DeepResearch Capability in Multimodal Large Language Models

Vision-DeepResearch: 促进多模态大语言模型中的深度研究能力

Wenxuan Huang, Yu Zeng, Qiuchen Wang, Zhen Fang, Shaosheng Cao, Zheng Chu, Qingyu Yin, Shuang Chen, Zhenfei Yin, Lin Chen, Zehui Chen, Xu Tang, Yao Hu, Shaohui Lin, Philip Torr, Feng Zhao, Wanli Ouyang

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 本文提出Vision-DeepResearch，通过多轮、多实体和多尺度的视觉与文本搜索，提升多模态大语言模型在噪声环境下的深度研究能力，实现更高效的多模态深度研究。

Extracting and Following Paths for Robust Relational Reasoning with Large Language Models

基于大语言模型的稳健关系推理路径提取与追踪

Ge Zhang, Mohammad Ali Alomrani, Hongjian Gu, Jiaming Zhou, Yaochen Hu, Bin Wang, Qun Liu, Mark Coates, Yingxue Zhang, Jianye Hao

机构 * Huawei Technologies Canada（华为技术加拿大公司） ； Huawei Technologies（华为技术） ； McGill University（麦吉尔大学） ； Mila - Québec AI Institute（魁北克人工智能研究所） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文提出Path-of-Thoughts框架，通过图提取、路径识别和推理三个阶段解决关系推理问题，在四个数据集上超越现有方法，无需微调或大量LLM调用，且对LLM提取错误和输入模糊更具鲁棒性。

Journal ref Transactions on Machine Learning Research, 2026

Caterpillar of Thoughts: The Optimal Test-Time Algorithm for Large Language Models

思维 caterpillar：大型语言模型的最优测试时间算法

Amir Azarmehr, Soheil Behnezhad, Alma Ghafari

机构 * Northeastern University（东北大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出Caterpillar of Thoughts算法，通过理论分析证明最优算法生成caterpillar树，从而减少生成次数并提升性能。

From Brittle to Robust: Improving LLM Annotations for SE Optimization

从易碎到稳健：改进LLM注释以优化SE性能

Lohith Senthilkumar, Tim Menzies

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出SynthCore策略，通过集成多个LLM意见提升多目标优化任务的标注效果，优于现有方法，且无需人工参与。

Evaluating LLM-Based Test Generation Under Software Evolution

评估基于大语言模型的测试生成在软件演化中的表现

Sabaat Haroon, Mohammad Taha Khan, Muhammad Ali Gulzar

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究评估了基于大语言模型的测试生成在软件演化中的性能，发现其在代码变化时表现下降，测试覆盖和回归检测能力不足。

Comments 10 pages, 9 figures, 2 tables

PRISM: A Dual View of LLM Reasoning through Semantic Flow and Latent Computation

PRISM：通过语义流和潜在计算双重视角分析LLM推理

Ruidi Chang, Jiawei Zhou, Hanjie Chen

机构 * Rice University（里士大学） ； Stony Brook University（石溪大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 PRISM通过同时分析推理步骤和层的语义流与潜在计算，揭示LLM推理过程中的系统性模式，展示失败轨迹易陷入无效验证循环并转向不同模式，为分析LLM推理过程提供实用工具。

GraphRAG for Engineering Diagrams: ChatP&ID Enables LLM Interaction with P&IDs

GraphRAG用于工程图纸：ChatP&ID实现LLM与P&IDs的交互

Achmad Anggawirya Alimin, Artur M. Schweidtmann

机构 * Process Intelligence Research Group（过程智能研究组） ； Department of Chemical Engineering（化学工程系） ； Delft University of Technology（代尔夫特理工大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ChatP&ID框架，通过GraphRAG实现高效、低成本的P&IDs自然语言交互，提升准确率并降低计算成本。

MARS: toward more efficient multi-agent collaboration for LLM reasoning

MARS：迈向更高效的多智能体协作以提升大语言模型推理

Xiao Wang, Jia Wang, Yijie Wang, Pengtao Dang, Sha Cao, Chi Zhang

机构 * Indiana University Bloomington（印第安纳大学布卢明顿分校） ； Oregon Health & Science University（俄勒冈健康与科学大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MARS框架，通过角色化协作提升LLM推理能力，相比MAD等方法，在多个基准测试中实现准确率相当但token消耗和推理时间减少约50%。

Flying Pigs, FaR and Beyond: Evaluating LLM Reasoning in Counterfactual Worlds

飞行猪、FaR及更广泛的领域：评估LLM在反事实世界中的推理能力

Anish R Joishy, Ishwar B Balappanawar, Vamshi Krishna Bonagiri, Manas Gaur, Krishnaprasad Thirunarayan, Ponnurangam Kumaraguru

机构 * University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校） ； Wright State University（威斯汀豪斯州立大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了LLM在反事实场景下的推理能力，提出FaR方法以增强模型的元认知，减少逻辑与知识冲突带来的性能下降。