语言大模型 / LLM

Hallucination Is Linearly Decodable from Mid-Layer Hidden States in Quantized LLMs

幻觉可从量化LLM中间层隐藏状态线性解码

Aizierjiang Aiersilan

机构 * University of Macau（澳门大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.LG

AI总结 研究开源LLM在4位量化下中间层隐藏状态是否编码线性可分的真实性信号，发现单层线性探针AUROC达0.904-1.000，优于采样方法，且信号近似线性。

Automatic Layer Selection for Hallucination Detection

幻觉检测的自动层选择

Xinpeng Wang, William X. Cao, Andrew Gordon Wilson, Zhe Zeng

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型中幻觉检测的层选择问题，提出无需训练的FEPoID准则，自动识别最优中间层，并结合截断策略提升检测性能。

Comments Accepted at ICML 2026

Representational Capacity: Geometric Limits on Feature Representation in Transformer Language Models

表示能力：Transformer语言模型中特征表示的几何限制

Alexander Guha

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 基于线性表示和叠加假设，通过嵌入矩阵的余弦相似度分布估计模型可支持的近正交方向数量，推导出容量公式，并发现容量对偏差ε指数敏感。

Comments 22 pages, 10 figures. Submitted to NeurIPS 2026. This is a condensed version of thesis: https://hdl.handle.net/2286/R.2.N.204857

Knowledge Editing in Masked Diffusion Language Models

掩码扩散语言模型中的知识编辑

Haewon Park, Yohan Jo

机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL

AI总结 研究将定位-编辑方法从自回归模型迁移到掩码扩散模型，发现编辑位置可迁移但多词编辑性能下降，并提出优化中间状态的简单修正方法。

Building Reliable Long-Form Generation via Hallucination Rejection Sampling

通过幻觉拒绝采样构建可靠的长文本生成

Lin Li, Georgia Channing, Suhaas M Bhat, Gabriel Davis Jones, Yarin Gal

机构 * Georgia Institute of Technology（佐治亚理工学院） ； University of California, Berkeley（加州大学伯克利分校） ； University of Cambridge（剑桥大学） ； DeepMind（深度思维） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出分段幻觉拒绝采样框架SHARS，利用任意幻觉检测器在生成过程中拒绝并重采样幻觉片段，以缓解长文本生成中的幻觉累积问题，提升事实一致性。

Comments accepted by ICML 2026

NeuroArmor: Safe-Variant-Guided Representation Consistency for Selective Re-Anchoring in Jailbreak Defense

NeuroArmor：基于安全变体引导的表示一致性实现越狱防御中的选择性重新锚定

Zhongyang Lin, Ziran Zhao, Feifei Zhai, Pengyuan Liu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出NeuroArmor白盒运行时防御方法，通过为每个提示构建安全变体作为局部安全参考，在隐藏状态空间进行一致性检查并路由异常，有效降低恶意攻击成功率同时保持低误报率。

Comments 16 pages, 4 figures, 17 tables. Submitted to ACL ARR

HyperPatch: Sequential Knowledge Editing Under n-ary Structural Drift

HyperPatch: n元结构漂移下的顺序知识编辑

Yu-Kai Chan, Wen-Sheng Lien, Dong-Ting Yao, Bo-Kai Ruan, Kwan-Yeung Lin, Hong-Han Shuai, Meng-Fen Chiang

机构 * National Yang Ming Chiao Tung University 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对非平稳环境中n元事件顺序更新引发的结构漂移问题，提出HyperPatch框架，通过超图流形上的稳定性建模，实现参数保留的知识编辑，在MQuAKE-CF和MQuAKE-T基准上分别取得96.24%和21.06%的跳步准确率相对提升。

Comments Accepted to Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2026)

Reconstructing Content with Collaborative Attention for Universal Multimodal Representation Learning

通过协同注意力重建内容以提升多模态嵌入质量

Jiahan Chen, Da Li, Hengran Zhang, Yinqiong Cai, Lixin Su, Jiafeng Guo, Daiting Shi, Dawei Yin, Keping Bi

机构 * State Key Laboratory of AI Safety（人工智能安全国家重点实验室） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Baidu Inc.（百度公司） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出CoCoA预训练范式，通过重构注意力流和基于EOS的重建任务，利用协同注意力优化多模态嵌入，使模型将输入语义压缩到<EOS>令牌中，从而提升嵌入质量。

Evaluating the Reversal Curse in Model Editing

评估模型编辑中的逆转诅咒

Hao-Xiang Xu, Jun-Yu Ma, Zhen-Hua Ling, Quan Liu, Cong Liu, Jia-Chen Gu

机构 * National Engineering Research Center of Speech and Language Information Processing（语音与语言信息处理国家级工程研究中心） ； University of Science and Technology of China（中国科学技术大学） ； iFLYTEK Research（iFLYTEK研究院） ； University of California, Los Angeles（美国加州大学洛杉矶分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究双向语言模型编辑，提出反向泛化指标并构建BAKE基准，发现多数编辑方法在反向评估中存在系统性缺陷，并分析逆转诅咒的成因及缓解策略。

Comments Accepted by TMLR

Learning Self-Interpretation from Interpretability Artifacts: Training Lightweight Adapters on Vector-Label Pairs

从可解释性工件中学习自我解释：在向量-标签对上训练轻量级适配器

Keenan Pepper, Alex McKenzie, Florin Pop, Stijn Servaes, Martin Leitgab, Mike Vaiana, Judd Rosenblatt, Michael S. A. Graziano, Diogo de Lucena

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过训练轻量级适配器（标量仿射适配器，仅需d_model+1参数）在可解释性工件上，保持语言模型完全冻结，实现了跨任务和模型族的可靠自我解释，在稀疏自编码器特征标注、主题识别和多跳推理桥接实体解码等任务上显著优于未训练基线。

Comments 26 pages, 18 tables, 17 figures. Code and data at https://github.com/agencyenterprise/selfie-adapters

Using Reward Uncertainty to Induce Diverse Behaviour in Reinforcement Learning

利用奖励不确定性在强化学习中诱导多样化行为

Anthony GX-Chen, Ankit Anand, Gheorghe Comanici, Zaheer Abbas, Eser Aygün, David Smalling, Shibl Mourad, Doina Precup, André Barreto, Mark Rowland

机构 * New York University（纽约大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对传统强化学习缺乏多样性的问题，提出将奖励函数替换为奖励分布，通过非线性集合目标自然产生可控的多样化行为，并推导出梯度估计器，实验证明其鲁棒性和理论优势。

Comments Core contributors: Anthony GX-Chen, Ankit Anand, Gheorghe Comanici, André Barreto, Mark Rowland

IdEst: Assessing Self-Supervised Learning Representations via Intrinsic Dimension

IdEst: 通过内在维度评估自监督学习表示

Julie Mordacq, Vicky Kalogeiton, Steve Oudot

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 提出IdEst方法，利用最小生成树维度估计器评估自监督学习表示的内在维度，发现其与下游线性探测性能强相关，并能高效选择超参数。

Comments ICML 2026

Concept-wise Attention for Fine-grained Concept Bottleneck Models

面向细粒度概念瓶颈模型的概念级注意力机制

Minghong Zhong, Guoshuai Zou, Kanghao Chen, Dexia Chen, Ruixuan Wang

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 提出概念级注意力机制（CoAt-CBM），通过可学习概念视觉查询和概念对比优化，实现自适应细粒度图像-概念对齐，解决预训练偏差和概念互斥问题，显著提升性能。

Comments Withdrawn by authors for revision and improvement

A Scoping Review of the Ethical Perspectives on Anthropomorphising Large Language Model-Based Conversational Agents

拟人化大型语言模型对话代理的伦理视角：一项范围综述

Andrea Ferrario, Rasita Vinay, Matteo Casserini, Alessandro Facchini

机构 * Institute of Biomedical Ethics and History of Medicine, University of Zürich（苏黎世大学生物医学伦理与医学史研究所） ； Dalle Molle Institute for Artificial Intelligence (IDSIA), SUPSI（瑞士SUPSI人工智能研究所） ； ETH Zürich（苏黎世联邦理工学院） ； Institute for Implementation Science in Health Care, University of Zürich（苏黎世大学医疗实施科学研究所） ； Department of Management, Technology and Economics, ETH Zürich（苏黎世联邦理工学院管理、技术与经济系） ； Dipartimento Tecnologie Innovative, SUPSI（SUPSI创新技术系） ； Management in Networked and Digital Societies (MINDS) Department, Kozminski University（科兹明斯基大学网络化与数字化社会管理系） 纠错

专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文通过范围综述，系统梳理了拟人化LLM对话代理的伦理挑战与机遇，包括概念基础、伦理问题及方法论，并提出了研究议程与设计治理建议。

Comments 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT'26)

TitanCA: Lessons from Orchestrating LLM Agents to Discover 100+ CVEs

TitanCA：编排LLM代理发现100+个CVE的经验教训

Ting Zhang, Yikun Li, Chengran Yang, Ratnadira Widyasari, Yue Liu, Ngoc Tan Bui, Phuc Thanh Nguyen, Yan Naing Tun, Ivana Clairine Irsan, Huu Hung Nguyen, Huihui Huang, Jinfeng Jiang, Lwin Khin Shar, Eng Lieh Ouh, David Lo, Hong Jin Kang, Yide Yin, Wen Bin Leow

专题命中 其他LLM ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文介绍TitanCA，一种通过编排多个LLM代理进行漏洞发现的流水线，已在开源软件中发现203个零日漏洞并产生118个CVE。

Comments Accepted by IEEE Security & Privacy Magazine

The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation

深思幻觉：诊断多智能体LLM讨论中的事实损耗与立场同质化

Herun Wan, Jiaying Wu, Minnan Luo, Fanxiao Li, Ningnan Wang, Nancy F. Chen, Min-Yen Kan

机构 * Xi’an Jiaotong University（西安交通大学） ； National University of Singapore（新加坡国立大学） ； Yunnan University（云南大学） ； Agency for Science, Technology and Research (A*STAR), Singapore（新加坡科技研究局（A*STAR）） 纠错

专题命中 其他LLM ：LLM(title,title_cn)；分类 cs.CL

AI总结 本文提出DelibTrace框架，通过分解原子事实并追踪其存留，发现多智能体LLM讨论中高达72%的关键事实丢失，导致立场同质化，揭示了“同意越多、知道越少”的风险。

Linguistic Productivity in Large Language Models: Models Coerce, but do not Preempt

大型语言模型中的语言生产力：模型强制但不抢占

Claire Bonial, Claire Benet Post, Laura Michaelis, Harish Tayyar Madabushi

机构 * Georgetown University（乔治城大学） ； University of Colorado Boulder（科罗拉多大学丹佛分校） ； University of Bath（巴斯大学） 纠错

专题命中 其他LLM ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.CL

AI总结 通过测试大型语言模型是否受固化（高频使用）和抢占（未观察到结构）两种统计信号影响，发现模型能识别强制情况下的构式生产力，但无法利用负面证据避免过度泛化。

Decomposing how prompting steers behavior

分解提示如何引导行为

Fan L. Cheng, Nikolaus Kriegeskorte

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 其他LLM ：prompting(title,abstract)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出嵌套几何分解框架，通过刺激不变映射分析提示如何重塑表示几何，揭示跨维度线性混合是提示引导行为的关键机制。

Comments 59 pages, 41 figures

Capability Advertisement as a Market for Lemons: A Trust Layer for Heterogeneous Agent Networks

能力广告作为柠檬市场：异构智能体网络的信任层

Gaurav Naresh Mittal

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对LLM智能体网络中的能力虚假声称问题，提出基于柠檬市场理论的信任层，通过概率描述、筛选和声誉机制实现可信委托。

SegTune: Structured and Fine-Grained Control for Song Generation

SegTune：歌曲生成的结构化与细粒度控制

Yuejiao Wang, Zihao Ji, Pengfei Cai, Xu Li, Haorui Zheng, Zewen Song, Zhongliang Liu, Chen Zhang, Pengfei Wan

机构 * Kling Team, Kuaishou Technology（快手科技 Kling 团队） ； University of Science and Technology of China（中国科学技术大学） ； Peking University（北京大学） 纠错

专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出基于扩散Transformer的SegTune框架，通过用户或LLM指定局部音乐描述实现结构化细粒度控制，并引入LLM时长预测器实现精确歌词-音乐对齐，在音乐性和可控性上超越现有基线。

Comments This paper has been accepted to ACL 2026 as an oral presentation and has been nominated for the Best Paper Award. This work is a revised and extended version of an earlier technical report (arXiv:2510.18416). arXiv admin note: text overlap with arXiv:2510.18416

Mechanism Design Is Not Enough: Prosocial Agents for Cooperative AI

机制设计是不够的：面向合作AI的亲社会智能体

Xuanqiang Angelo Huang, Charlie Tharas, Samuele Marro, Van Q. Truong, Bernhard Schölkopf, Emanuele La Malfa, Zhijing Jin

机构 * ETH Zürich（苏黎世联邦理工学院） ； University of Oxford（牛津大学） ； Institute for Decentralized AI（去中心化人工智能研究所） ； Jinesis Lab, University of Toronto & Vector Institute（多伦多大学Jinesis实验室及向量研究所） ； EuroSafeAI ； University of Pennsylvania（宾夕法尼亚大学） ； Max Planck Institute for Intelligent Systems, Tübingen, Germany（德国图宾根最大计划智能系统研究所） ； ELLIS Institute Tübingen（图宾根ELLIS研究所） 纠错

专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文证明仅靠机制设计无法最大化LLM智能体的社会福利，并提出亲社会智能体（兼顾他人福利）能弥补这一差距，实现更优的社会与个体结果。

Comments 42 pages

The Case for Text-to-SQL Friendly Logical Database Design

面向文本到SQL的友好逻辑数据库设计

Shi Heng Zhang, Zhengjie Miao, Jiannan Wang

专题命中 其他LLM ：LLM(summary_cn,abstract)；language model(abstract)

AI总结 本文提出LLM友好的逻辑数据库设计目标，通过三种语义保持的模式变换（抽象、分区、重命名）优化数据库模式，提升文本到SQL的生成准确率，实验显示执行准确率提升高达4.2%。

Identifying Quantum Structure in AI Language: Evidence for Evolutionary Convergence of Human and Artificial Cognition

识别AI语言中的量子结构：人类与人工智能认知进化趋同的证据

Diederik Aerts, Jonito Aerts Arguëlles, Lester Beltran, Suzette Geriente, Roberto Leporini, Massimiliano Sassoli de Bianchi, Sandro Sozzo

机构 * Center Leo Apostel for Interdisciplinary Studies, Vrije Universiteit Brussel (VUB)（利奥·阿波斯泰尔跨学科研究中心，布鲁塞尔自由大学） ； Department of Economics, University of Bergamo（博洛尼亚大学经济系） ； Department of Humanities and Cultural Heritage (DIUM) and Centre CQSCS, University of Udine（乌迪内大学人文与文化遗产系及CQSCS中心） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过对大型语言模型进行认知测试，发现其概念组合中存在贝尔不等式显著违背和玻色-爱因斯坦统计，表明人类与人工智能在概念-语言领域均涌现非经典量子结构，支持认知进化趋同假说。

Journal ref Entropy 28, 622, 2026

BotDirector: Robot Storytelling Across the Symmetrical Reality with Multi-modal Interactions

BotDirector：跨对称现实的多模态交互机器人讲故事

Zhe Sun, Meng Wang, Lei Wang, Yuxi Wang, Wanxin Li, Yujia Peng, Zhenliang Zhang

机构 * State Key Laboratory of General Artificial Intelligence, BIGAI, Beijing, China（国家一般人工智能重点实验室，BIGAI，北京，中国） ； Peking University, Beijing, China（北京大学，北京，中国） 纠错

专题命中 其他LLM ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 提出一个结合具身交互和自然语言交互的机器人讲故事系统，利用LLM代理将儿童创建的叙事转化为自导航群体机器人的运动序列，支持灵活场景和日常物品。

Journal ref 2026 IEEE Conference on Virtual Reality and 3D User Interfaces Abstracts and Workshops (VRW)

G^2C-MT: Graph-Guided Context Selection for Document-Level Machine Translation

G^2C-MT: 面向文档级机器翻译的图引导上下文选择

Baijun Ji, Zixuan Zhou, Xiangyu Duan, Yu Liu, Longbo Sun, Rupu Wei, Bohong Zhao

机构 * School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） ； Trip.com Group（Trip.com集团） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出G^2C-MT方法，通过构建轻量级篇章图并采用深度偏置随机游走采样上下文路径，以结构化方式为文档级机器翻译选择上下文，提升翻译质量与鲁棒性。

Comments 9 pages, 2 figures; IJCAI2026

Chatbots Output Meaningful (but Problematic) Language

聊天机器人输出有意义（但有问题）的语言

Matthew Stone, Una Stojnić

机构 * University of Parma（帕尔马大学） ； University of Cambridge（剑桥大学） ； University of Pittsburgh（匹兹堡大学） ； Franklin and Marshall College（弗兰克林与马歇尔学院） 纠错

专题命中 其他LLM ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 本文论证大型语言模型（LLM）的输出是有意义的，但无需假设其具有心理状态或意图，并探讨了这一观点对语言理论和AI伦理的影响。

Comments 49 pages

Expert-Aware Causal Tracing of Factual Recall in Sparse MoE Language Models

专家感知的稀疏MoE语言模型中事实回忆的因果追踪

Yuetian Lu, Ali Modarressi, Yihong Liu, Hinrich Schütze

机构 * Center for Information and Language Processing (CIS)（信息与语言处理中心） ； Ubiquitous Knowledge Processing Lab (UKP)（无所不在的知识处理实验室） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） 纠错

专题命中 其他LLM ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 针对稀疏混合专家语言模型，提出专家感知的因果追踪方法，通过干预专家级更新定位事实回忆的关键专家，发现专家级定位依赖于模型和协议。

Comments Preprint

Many a Little Makes a Mickle: A Code-Centric Empirical Study of Data Minimization Principle in Android App Development

积少成多：以代码为中心的Android应用开发中数据最小化原则的实证研究

Dianshu Liao, Shidong Pan, Zhenchang Xing, Xiaoyu Sun

专题命中 其他LLM ：LLM(summary_cn,abstract)

AI总结 通过对1114个开源Android应用的实证研究，识别出五个数据处理阶段中的十种数据最小化场景，并基于9875个真实APK的大规模分析提炼出31条可操作的编码指南，同时发现LLM生成的代码会重现数据最小化风险实践，而纳入指南可消除这些问题。

From Rocq to Metal: A Pipeline for Formally Verified Microcontroller Firmware

从Rocq到Metal：形式化验证微控制器固件的流水线

Valentin Bergeron, Karolina Gorna

专题命中 其他LLM ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出Encore!虚拟机，通过延续传递风格运行Rocq提取的Scheme代码，实现微控制器固件的形式化验证，并利用大语言模型辅助策略合成自动证明固件正确性。

RogueMerge: Robust and Unified Attacks against LLM Model Merging

RogueMerge: 针对大语言模型合并的鲁棒统一攻击

Jinghuai Zhang, Yetian He, Kunlin Cai, Han Zhao, Fnu Suya, Yuan Tian

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 其他LLM ：LLM(title,abstract)；分类 cs.LG

AI总结 提出RogueMerge框架，通过联合优化、元学习模拟和分布鲁棒优化，解决模型合并中针对自回归生成、未知合并配置和攻击提示泛化的三大挑战，实现鲁棒且统一的攻击。