语言大模型 / LLM

"What Happens Locally, Leaks Globally": Detecting Privacy Leakage Risks in MCP Servers

“局部发生，全局泄露”：检测MCP服务器中的隐私泄露风险

Biwei Yan, Minghui Xu, Yijun Yang, Boyang Ma, Xuelong Dai, Jingku Li, Yue Zhang

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出MCPPrivacyDetector，一种上下文感知的跨语言静态分析框架，用于检测MCP服务器中由协议引发的隐私泄露，在10,655个真实服务器中发现超过10%的泄露率。

RepFusion: Leveraging Multimodal Priors for Denoising in Representation Space

RepFusion：利用多模态先验在表示空间中进行去噪

Xichen Pan, Aashu Singh, Satya Narayan Shukla, Xiangjun Fan, Shlok Kumar Mishra, Saining Xie

机构 * Meta AI ； New York University（纽约大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出RepFusion方法，利用多模态大语言模型作为噪声表示编码器，为扩散变压器提供条件信号，在相似推理预算下优于新初始化解码器基线。

Comments Project Page: https://xichenpan.com/repfusion

Segment and Select: Vision-Language Segmentation in 3D Scenarios

Segment and Select: 3D场景中的视觉-语言分割

Yulin Chen, Zhihang Zhong, Yuenan Hou

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； University of Science and Technology of China（中国科学技术大学） ； Shanghai Jiaotong University（上海交通大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出SEGA3D范式，通过掩码候选生成器、大语言模型和语义空间选择器实现3D场景中基于语言指令的细粒度分割，在ScanNet和Matterport3D上分别提升8.3和5.3 mIoU。

Comments The core idea is to reformulate 3D vision-language segmentation as the segment-and-select paradigm (free from the superpoint dependency)

DD-GEPA: Prompt Optimization for Dialogue Disentanglement Focusing on Task Instruction and Utterance Representation

DD-GEPA：面向对话解缠的任务指令与话语表示提示优化

Naoki Takada, Tatsunori Mori

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对多轮对话中话题交织导致的解缠难题，提出基于GEPA的自动提示优化方法，通过分解并优化任务指令、话语表示和输出指令三部分，显著提升大语言模型的对话解缠准确率。

Comments 16 pages, 3 figures

The Role of Ambiguity in Error Prediction via Uncertainty Quantification

不确定性量化中模糊性在错误预测中的作用

Ieva Raminta Staliūnaitė, James Bishop, Andreas Vlachos

机构 * University of Cambridge（剑桥大学） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过解耦输入模糊性与不确定性信号，利用门控专家和选择性预测提升大语言模型在问答任务中的错误预测性能。

Comments 8 pages not including references and appendices, 3 figures

Hallucination is a Consequence of Space-Optimality: A Rate-Distortion Theorem for Membership Testing

幻觉是空间最优性的结果：成员测试的率失真定理

Anxin Guo, Jingwei Li

机构 * Computer Science Department, Northwestern University（西北大学计算机科学系） ； Department of IEOR, Columbia University（哥伦比亚大学工业工程与运筹学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过将幻觉形式化为成员测试问题，建立率失真定理，证明在有限容量下信息论最优策略必然导致对某些非事实的高置信度，从而产生幻觉。

Comments ICML 2026

LLMs Should Express Uncertainty Explicitly

大型语言模型应显式表达不确定性

Junyu Guo, Shangding Gu, Ming Jin, Costas Spanos, Javad Lavaei

机构 * University of California, Berkeley（加州大学伯克利分校） ； Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究通过训练使模型在回答时显式表达不确定性，以减少过度自信的错误，提升回答质量，并通过检索增强生成技术改进最终响应。

A Theory of Multilevel Interactive Equilibrium in NeuroAI

神经AI中多层级互动均衡的理论

Zhe Sage Chen, Quanyan Zhu

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出了一种博弈论框架，用于适应性多智能体系统，扩展了经典博弈论在部分可观测、计算受限和不确定性的假设下研究神经AI均衡。

Towards Agentic Test-Driven Quality Assurance for 6G Networks

面向6G网络的代理驱动测试驱动质量保证

Christos Tranoris, Besiana Agko, Kostis Trantzas, Irene Denazi

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出一个代理驱动的端到端 orchestration 框架，通过意图共创与测试驱动质量保证相结合，确保SLA合规性。

Comments 8 pages

ChatGPT as a Time Capsule: The Limits of Price Discovery

ChatGPT 作为时间胶囊：价格发现的局限性

Sebastian Lehner, Alejandro Lopez-Lira

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文研究ChatGPT等冻结大语言模型如何提取预截止公开文本信息，用于预测股票回报，发现其与分析师修正和股价变化正相关，且预测性随时间 horizon 增加而增强。

Empowering NPC Dialogue with Environmental Context Using LLMs and Panoramic Images

通过LLMs和全景图像增强NPC对话的环境上下文

Grega Radež, Ciril Bohak

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出利用LLMs和计算机视觉技术增强游戏NPC的环境感知能力，通过语义分割生成环境结构化数据，提升NPC对玩家行为的响应性和沉浸感。

Masking or Mitigating? Deconstructing the Impact of Query Rewriting on Retriever Biases in RAG

掩蔽还是缓解？解构查询重写对RAG中检索偏见的影响

Agam Goyal, Koyel Mukherjee, Apoorv Saxena, Anirudh Phukan, Eshwar Chandrasekharan, Hari Sundaram

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)

AI总结 本文研究查询重写技术对RAG系统中检索偏见的影响，发现简单LLM重写能显著降低偏见，但对抗条件下效果受限。分析揭示两种机制：简单重写通过增加分数方差降低偏见，伪文档生成通过真实去相关性降低偏见。

Comments ACL'26: 13 pages, 4 figures, 4 tables

Measuring Uncertainty in Transformer Circuits with Effective Information Consistency

通过有效信息一致性测量变换器电路中的不确定性

Anatoly A. Krasnovsky

机构 * Innopolis University（因诺波利斯大学） ； MB3R Lab（MB3R实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出有效信息一致性评分，通过局部雅可比矩阵和激活值计算规范化sheaf不一致性，并结合高斯EI代理评估电路层面因果涌现，以量化变换器电路行为的一致性与可信度。

Journal ref Automatic Documentation and Mathematical Linguistics 59 (Suppl 5), S423-S429 (2025)

TARS: MinMax Token-Adaptive Preference Strategy for Hallucination Reduction in MLLMs

TARS：最小最大令牌自适应偏好策略用于减少多模态大语言模型中的幻觉

Kejia Zhang, Keda Tao, Zhiming Luo, Chang Liu, Jiasheng Tang, Huan Wang

机构 * Xiamen University（厦门大学） ； Westlake University（西湖大学） ； DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； AWS AI Lab, Amazon（亚马逊AWS AI实验室） ； Hupan Laboratory（湖畔实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 TARS通过最小最大优化问题重构直接偏好优化，通过对抗性令牌扰动减少多模态大语言模型中的幻觉，通过频域对齐损失提升隐藏表征，优于标准DPO并超越数据增强方法。

The Alignment Tax: Response Homogenization in Aligned LLMs and Its Implications for Uncertainty Estimation

对齐税：对齐语言模型中的响应同质化及其对不确定性估计的影响

Mingyi Liu

专题命中 知识编辑与模型理解 ：language model(abstract)；SFT(abstract)；RLHF(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现对齐语言模型存在响应同质化现象，影响不确定性估计方法的效果，提出通过叠加不确定性信号提升模型性能。

Comments 25 pages, 3 figures, 10 tables, 24 experiments across 5 benchmarks. v2: added SINdex head-to-head (Exp 27), NLI validation (Exp 28), decoding protocol analysis. Code: https://github.com/DigitLion/ucbd-experiment

Is Conformal Factuality for RAG-based LLMs Robust? Novel Metrics and Systematic Insights

基于RAG的LLM的符合事实性是否具有鲁棒性？新颖的度量和系统性洞察

Yi Chen, Daiwei Chen, Sukrut Madhav Chikodikar, Caitlyn Heqi Yin, Ramya Korlakai Vinayak

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文系统分析了RAG-based LLMs在符合事实性方面的可靠性与实用性，提出新的信息度量方法，发现高事实性水平导致输出空洞，符合事实性不鲁棒于分布偏移，轻量蕴含验证器更高效且表现优异。

Comments 56 pages

The Geometry of Reasoning: Flowing Logics in Representation Space

推理的几何学：表示空间中的流动逻辑

Yufa Zhou, Yixiao Wang, Xunjian Yin, Shuyan Zhou, Anru R. Zhang

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过几何框架分析LLM推理过程，揭示其在表示空间中的流动特性，并验证逻辑结构与语义的关系。

Comments ICLR 2026. Code: https://github.com/MasterZhou1/Reasoning-Flow

High Fidelity Textual User Representation over Heterogeneous Sources via Reinforcement Learning

通过强化学习实现高保真的异构源文本用户表示

Rajat Arora, Ye Tao, Jianqiang Shen, Ping Liu, Muchen Wu, Qianqi Shen, Benjamin Le, Fedor Borisyuk, Jingwei Wu, Wenjing Zhang

机构 * LinkedIn Corporation（领英公司） ； Rutgers, The State University of New Jersey（罗格斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于强化学习的框架，通过隐含用户参与信号和规则奖励，实现统一且可解释的用户文本表示，提升大规模就业平台的个性化效果。

FactSelfCheck: Fact-Level Black-Box Hallucination Detection for LLMs

FactSelfCheck: LLMs中的事实级黑盒幻觉检测

Albert Sawczyn, Jakub Binkowski, Denis Janiak, Bogdan Gabrys, Tomasz Kajdanowicz

机构 * wrocław University of Science and Technology（沃拉布罗德技术大学） ； University of Technology Sydney（悉尼技术大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 FactSelfCheck通过事实级黑盒采样方法提升LLM幻觉检测精度，实现更详细的事实性分析与纠正。

Comments Accepted for EACL 2026 (findings)

Evaluating Adversarial Robustness of Concept Representations in Sparse Autoencoders

评估稀疏自编码器中概念表示的对抗鲁棒性

Aaron J. Li, Suraj Srinivas, Usha Bhalla, Himabindu Lakkaraju

机构 * University of California, Berkeley（加州大学伯克利分校） ； Bosch Research（博世研究） ； Harvard University（哈佛大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究评估了稀疏自编码器中概念表示的对抗鲁棒性，发现其易受微小输入扰动影响，可能不适合用于模型监控和监督。

Inside Out: Uncovering How Comment Internalization Steers LLMs for Better or Worse

Inside Out: 解析评论内化如何引导LLM向好或向坏发展

Aaron Imani, Mohammad Moshirpour, Iftekhar Ahmed

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究通过分析LLM对评论的内部化过程，揭示了评论对代码补全、翻译等任务性能的影响，并发现代码摘要任务对评论概念的激活最强。

Comments Accepted in the 48th IEEE/ACM International Conference on Software Engineering (ICSE)

Incentives or Ontology? A Structural Rebuttal to OpenAI's Hallucination Thesis

激励还是本体？对OpenAI“幻觉假说”的结构反驳

Richard Ackermann, Simeon Emanuilov

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文反驳OpenAI关于幻觉源于激励不匹配的观点，指出幻觉是Transformer架构的必然结果，需通过外部验证模块消除，而非改变激励或微调。

Comments 17 pages, references to prior work arXiv:2509.16297 and arXiv:2511.06073

3DRS: MLLMs Need 3D-Aware Representation Supervision for Scene Understanding

3DRS: MLLMs 需要 3D 意识表示监督以实现场景理解

Xiaohu Huang, Jingjing Wu, Qunyi Xie, Kai Han

机构 * Visual AI Lab, The University of Hong Kong（香港大学视觉人工智能实验室） ； Department of Computer Vision Technology (VIS), Baidu Inc.（百度公司计算机视觉技术部） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；pretraining(abstract)

AI总结 3DRS 通过引入预训练 3D 基础模型的监督，提升 MLLM 的 3D 表示能力，从而增强场景理解性能

Fair In-Context Learning via Latent Concept Variables

Karuna Bhaila, Minh-Hao Van, Kennedy Edemacu, Chen Zhao, Feng Chen, Xintao Wu

机构 * University of Arkansas（亚拉巴马大学） ； Baylor University（贝勒大学） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments IEEE BigData 2025

Steering Out-of-Distribution Generalization with Concept Ablation Fine-Tuning

Helena Casademunt, Caden Juang, Adam Karvonen, Samuel Marks, Senthooran Rajamanoharan, Neel Nanda

机构 * Harvard University（哈佛大学） ； Northeastern University（东北大学） ； Anthropic ； ML Alignment & Theory Scholars (MATS) program（ML对齐与理论学者（MATS）计划） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AcuRank: Uncertainty-Aware Adaptive Computation for Listwise Reranking

Soyoung Yoon, Gyuwan Kim, Gyu-Hwung Cho, Seung-won Hwang

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted at NeurIPS 2025. The first two authors contributed equally. Author order is randomly determined via coin toss

Bolster Hallucination Detection via Prompt-Guided Data Augmentation

Wenyun Li, Zheng Zhang, Dongmei Jiang, Xiangyuan Lan

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

On the Effectiveness and Generalization of Race Representations for Debiasing High-Stakes Decisions

Dang Nguyen, Chenhao Tan

机构 * Department of Computer Science University of Chicago（计算机科学系芝加哥大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 21 pages, 15 figures, 14 tables. Accepted as a conference paper at COLM 2025. Camera-ready

SpecifyUI: Supporting Iterative UI Design Intent Expression through Structured Specifications and Generative AI

Yunnong Chen, Chengwei Shi, Liuqing Chen

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Comments 27 pages, 12 figures

Prompt the Unseen: Evaluating Visual-Language Alignment Beyond Supervision

Raehyuk Jung, Seungjun Yu, Hyunjung Shim

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Comments Link to publicly available codes is added