AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
因果证据：模态冲突幻觉中的注意力头不平衡
机构 * National Key Laboratory for Novel Software Technology（新型软件技术国家重点实验室） ； School of Artificial Intelligence（人工智能学院）
专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文研究了多模态大语言模型在模态冲突中产生幻觉的原因，通过分析注意力头的因果作用，发现驱动幻觉的头部分布更广且权重更大，而抑制幻觉的头部集中在少量重要头部，提出MACI方法在减少幻觉的同时保持准确性。
从拒绝到恢复：一种生成AI防护机制的控制论方法
机构 * Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所） ； Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系） ； Equal Advising（平等指导）
专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出了一种基于控制论的生成AI防护机制，通过实时监控和主动纠正高风险输出，提供了一种动态替代传统标志和阻断方法的解决方案。
Journal ref Second International Association on Safe and Ethical AI Conference (IASEAI 2026)
LLMs如何计算言语自信
机构 * Google DeepMind（谷歌DeepMind）
专题命中 知识编辑与模型理解 ：prompting(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究探讨了大型语言模型如何内部生成言语自信评分，通过实验发现自信评分在回答生成后被缓存并用于后续输出，揭示了模型自我评估的机制。
迈向稳健的GraphRAG：减轻不完美知识图谱中的检索漂移和幻觉
专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)
AI总结 本文针对GraphRAG中因知识图谱不完美导致的检索漂移和幻觉问题，提出CS-RAG框架，通过精细化检索和充分性检查来减少不准确的证据延续。
通过头部随机探测实现快速且轻量的后门检测
机构 * College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（南京航空航天大学人工智能学院） ； School of Cybersecurity, Northwestern Polytechnical University（西北工业大学网络安全学院） ； Shenzhen Research Institute of Northwestern Polytechnical University（西北工业大学深圳研究院） ； School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）
专题命中 知识编辑与模型理解 ：post-training(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出HTell，一种基于头部随机探测的快速且轻量的数据无关后门检测器，通过分析模型预测头部在随机潜在探测下的响应统计，实现高效准确的后门检测。
VCR：学习不完整可穿戴信号的有效上下文表示
机构 * The Hong Kong University of Science and Technology（香港科学与技术大学）
专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出VCR框架，通过学习鲁棒于模态缺失的表示，解决可穿戴信号不完整问题，提升在多种健康监测任务中的性能和鲁棒性。
KappaPlace: 通过原型锚定监督学习超球面不确定性用于视觉位置识别
机构 * Faculty of Engineering Bar-Ilan University（工程学院巴伊兰大学）
专题命中 知识编辑与模型理解 ：post-training(abstract)；分类 cs.AI
AI总结 本文提出KappaPlace，一种学习具有不确定性的视觉位置识别表示的框架，通过原型锚定监督策略利用潜在类别代表作为概率目标，以减轻视觉位置识别中不确定性估计不准确的问题，从而提高导航系统的可靠性。
什么使一个表示对单细胞扰动预测有效？
机构 * Australian Institute for Machine Learning（澳大利亚机器学习研究院） ； Responsible AI Research Centre（负责任人工智能研究中心） ； College of Computer Science and Artificial Intelligence（计算机科学与人工智能学院） ； Department of Data Science and AI（数据科学与人工智能部门） ； School of Computer Science and Engineering（计算机科学与工程学院）
专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG
AI总结 本文提出PerturbedVAE框架，通过分离扰动特定信息和主导不变结构，恢复因果表示以有效利用此类信息进行预测，并通过可识别性分析明确在特定条件下如何具体指定框架。
Comments Accepted to ICML 2026
EnsemHalDet: 通过内部状态检测器的集成实现鲁棒的视觉语言模型幻觉检测
机构 * The University of Electro-Communications（电通大学）
专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL
AI总结 本文提出EnsemHalDet，一种通过集成多个内部表示的视觉语言模型幻觉检测框架，以提高多模态幻觉检测的鲁棒性。
定位后再稀疏化：基于归因的视觉幻觉缓解稀疏策略
机构 * State Key Lab. of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（中国科学院人工智能安全国家重点实验室，计算技术研究所） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉科学学院） ； School of Computer Science and Technology, University of Chinese Academy of Sciences（中国科学院大学计算机科学与技术学院）
专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG
AI总结 本文提出了一种名为Locate-Then-Sparsify for Feature Steering (LTS-FS)的框架，通过定位和稀疏化策略，根据每层与幻觉的相关性调整特征引导强度，从而有效缓解视觉语言模型中的幻觉问题，同时保持良好的性能。
Comments Accepted by CVPR 2026
SetCon: 通过集级概念预测实现开放式的指称分割
机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； The Chinese University of Hong Kong（香港中文大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； University of Science and Technology of China（中国科学技术大学）
专题命中 知识编辑与模型理解 ：language model(abstract)
AI总结 本文提出SetCon，通过集级概念预测实现开放式的指称分割，利用LVLM生成的自然语言概念作为语义条件进行联合掩码-集解码，提高了分割的完整性和互斥性。
信任它还是不信任它：基于信任3R的证据不确定性用于前馈3D重建
机构 * Department of Electrical and Computer Engineering, Texas A\&M University, College Station, TX, USA（电子与计算机工程系，德克萨斯农工大学，学院站，德克萨斯州，美国）
专题命中 知识编辑与模型理解 ：foundation model(abstract)
AI总结 本文提出Trust3R，一种轻量级的证据不确定性框架，用于前馈3D重建，通过结合门控残差均值细化和正态-逆 Wishart 证据头，生成点云不确定性估计，提升几何重建的准确性和可靠性。
Comments Accepted at ICML 2026. 10 pages main paper, with appendix
测量大型语言模型中的刻板印象和偏差偏见
机构 * Carnegie Mellon University, U.S.A.（卡内基梅隆大学，美国） ； University of Delaware, U.S.A.（德雷塞尔大学，美国）
专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL
AI总结 本文研究了大型语言模型中刻板印象和偏差偏见的测量问题，通过生成个体档案来分析不同群体与政治立场、宗教信仰和性取向等属性之间的关联，揭示了LLM在推断用户属性时的偏见及其潜在危害。
先验知识还是搜索？LLM代理在硬件感知代码优化中的研究
机构 * Applied AI Institute（应用人工智能研究所） ； ITMO University（ITMO大学） ； AI Talent Hub（AI人才中心）
专题命中 其他LLM ：LLM(title,title_cn)；分类 cs.AI、cs.LG
AI总结 该研究探讨了在硬件感知代码优化中，LLM代理是依赖于先验知识还是搜索过程，通过三个受控实验发现LLM在纯黑盒优化中表现为贪婪优化器，在零样本内核生成中输入大小信息无明显影响，而在反馈循环内核优化中CUDA单调改进而TVM IR主动退化，表明LLM在代码优化任务中高度依赖预训练先验而非反馈或代理结构。
RooAgent：基于根的高能物理分析的LLM代理
专题命中 其他LLM ：LLM(title,title_cn)
AI总结 本文提出RooAgent，一种通过自然语言接口进行根基于高能物理数据分析的LLM代理，支持两种操作模式，并实现了包括直方图检查、事件选择、动量分布可视化、拟合和显著性估计在内的多种任务。
面向现实世界ROS~2系统的LLM辅助架构恢复：一种基于智能体的多级方法用于分层结构架构重建
机构 * Institute for Software and Systems Engineering, Clausthal University of Technology, Clausthal-Zellerfeld 38678, Germany（软件与系统工程研究所， Clausthal 技术大学， Clausthal-Zellerfeld 38678，德国）
专题命中 其他LLM ：LLM(title,title_cn)；prompting(abstract)；分类 cs.AI
AI总结 本文提出了一种基于智能体的多级方法，用于恢复复杂ROS~2系统中的分层结构架构，通过改进的提示和多级中间架构表示，提高了架构恢复的一致性和可扩展性。
语言模型中的极端自我偏好
机构 * Cangrade, Inc.（Cangrade公司） ； Department of Physics, Harvard University（哈佛大学物理系） ； Department of Psychology, Harvard University（哈佛大学心理学系）
专题命中 其他LLM ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究发现大型语言模型在字词关联任务中表现出对自身名称、公司和CEO的强烈偏好，这表明模型的自我认同可能影响其行为，引发对模型自我偏好影响的深入探讨。
Comments 73 pages total. Main article 22 pages, 6 main-text tables. Supplementary Materials (51 pages, 28 tables). Data, transcripts, and code for replication and data extraction have been uploaded to OSF: https://osf.io/98ye3/
一种用于特征约束难度控制的多智能体框架（在阅读理解项目生成中）
机构 * Graduate School of Artificial Intelligence, POSTECH, Republic of Korea（韩国POSTECH人工智能研究生院） ； Department of Computer Science and Engineering, POSTECH, Republic of Korea（韩国POSTECH计算机科学与工程系）
专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)
AI总结 本文提出MAFIG多智能体框架，通过多个LLM代理和特征特定评估器协作生成并迭代修订项目，以满足特征约束，从而实现更稳定的难度控制。
Comments ACL 2026 Main Conference
基于大语言模型的自适应大邻域搜索全组件演化
专题命中 其他LLM ：language model(title,abstract)；large language model(title)
AI总结 本文提出了一种闭环的大语言模型驱动的演化框架，通过解耦自适应大邻域搜索（ALNS）并自动重建其所有组件，提升了ALNS在生产物流优化中的适应性和效率。
CADDesigner: 一种通用智能体的概念CAD模型生成
机构 * Zhejiang University（浙江大学）
专题命中 其他LLM ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI
AI总结 本文提出CADDesigner，一种基于LLM的智能体，通过文本描述和草图输入，结合交互对话进行需求分析，生成高质量CAD模型代码，并通过迭代视觉反馈提升模型质量，实验表明其在概念CAD模型生成任务中表现优异。
为代理调优辩护：从文档到PostgreSQL中的行动
机构 * Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Key Laboratory of System Software (Chinese Academy of Sciences)（中国科学院系统软件重点实验室） ； Beihang University（北航） ； Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学）
专题命中 其他LLM ：LLM(summary_cn,abstract)；分类 cs.AI
AI总结 本文提出通过动态行动替代静态文档进行系统调优，引入PerfEvolve工具，利用LLM代理实现版本一致性验证、工作负载特定分析和多参数联合优化，实验表明其在PostgreSQL上比现有文档驱动调优方法提升35.2%。
PragLocker: 通过非可移植提示保护代理知识产权
机构 * Zhejiang University（浙江大学） ； Management Center, School of Software Technology (Ningbo), Zhejiang University（浙江大学软件学院（宁波）管理中心） ； University of Science and Technology of China（中国科学技术大学） ； Chang'an University（长安大学） ； Washington University in St. Louis（圣路易斯华盛顿大学）
专题命中 其他LLM ：LLM(summary_cn,abstract)；分类 cs.AI
AI总结 针对无信任部署中代理提示易被复制和重用的问题，PragLocker提出了一种保护方案，通过构建语义锚定的混淆提示并注入噪声，有效降低跨LLM可移植性，同时保持目标性能和对抗鲁棒性。
Comments accepted to the 43rd International Conference on Machine Learning (ICML 2026)
漂移目标用于细化离散扩散语言模型
机构 * Institute of Science Tokyo（东京科学研究院） ； AIST（日本产业技术综合研究所） ； NII LLMC（日本信息处理学会LLMC）
专题命中 其他LLM ：language model(title,abstract)；分类 cs.CL、cs.LG
AI总结 本文研究如何将漂移方法应用于离散扩散语言模型，通过引入TokenDrift目标，将类别预测提升为软令牌特征，并在冻结语义空间中应用反称漂移，从而提升生成质量。
Comments Project page: https://daioba.github.io/tokendrift/
TombWriter：通过节拍级交互进行人机共写中的故事考古
专题命中 其他LLM ：LLM(summary_cn,abstract)
AI总结 本文提出了一种基于LLM的故事考古方法，通过节拍级交互实现人机共写，开发了TombWriter工具，通过五阶段叙事流程可视化故事结构，并通过定性研究验证了该方法在提升作者控制权和结构发现方面的有效性。
迷失在解释中：跨语言解释中的可信度与忠实度的权衡
机构 * Indian Institute of Technology Kharagpur（印度理工学院Khargpur分校） ； TCG Crest（TCG研究中心） ； National University of Singapore（新加坡国立大学）
专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL
AI总结 本文研究了跨语言解释中可信度与忠实度之间的权衡，发现以英语为枢纽的解释在与人类理由的一致性上表现更好，但其证据在模型预测中的因果基础较弱。研究发现，英语解释虽然流畅，但与原生语言条件相比，其解释的全面性下降了5.7倍，甚至在任务准确性保持稳定的情况下，也未能保留语义细微差别。因此，建议在输入语言中审计解释，报告多方面的忠实度指标，并将英语解释视为沟通摘要而非忠实的决策轨迹。
加速人工智能研究：PuppyChatter框架用于实用且灵活的工具开发
机构 * Dept. of Electrical Engineering, YuanZe Univ.（元智大学电子工程系） ； Dept. of Information and Learning Technology, National Univ. of Tainan（台湾国立科技大学资讯与学习科技系） ； Dept. of Psychology, Fo Guang Univ.（佛光大学心理学系） ； Dept. of Computer Information and Network Engineering, Lunghwa Univ.（龙华科技大学电脑资讯与网络工程系）
专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文提出PuppyChatter框架，旨在解决AI应用开发中的挑战，通过结合供应商特定SDK的直观性和模型抽象的中立性，提供更流畅灵活的开发方法。
具有相意识的专家混合用于代理强化学习
机构 * School of Computer Science and Engineering, Southeast University, Nanjing, China（东南大学计算机科学与工程学院，南京，中国） ； College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学 computing and Data Science学院，新加坡）
专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出了一种具有相意识的专家混合（PA-MoE），以解决传统专家混合（MoE）中由于token级路由导致的相一致模式碎片化问题，通过学习隐含的相边界来提升专家的专业性。
搜索自play：在无监督条件下推动智能体能力的前沿
机构 * Qwen Large Model Application Team, Alibaba（阿里巴巴文勤大模型应用团队）
专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.LG
AI总结 本文提出了一种基于自play的深度搜索智能体训练方法，通过自动生成任务和解决任务来提升智能体在无监督条件下的性能，无需外部监督。
Comments Published as a conference paper at the Fourteenth International Conference on Learning Representations (ICLR 2026)
LLMs能否模拟人类信念动态？
机构 * Department of Computer Science（计算机科学系） ； University of Rochester（罗切斯特大学） ； Department of Political Science（政治学系） ； Department of Physics and Astronomy（物理学与天文学系）
专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 研究探讨了大型语言模型（LLMs）能否模拟人类在社交网络中形成和改变信念的过程，发现LLMs在初始信念分布和整体一致性方面表现不佳，并警告在社交模拟中使用LLMs作为人类代理的风险。
ALDEN: 通过主动学习和分布估计提升从检索增强生成系统中提取私有数据
机构 * University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校） ； Virginia Tech（弗吉尼亚理工大学） ； Amazon（亚马逊） ； University of South Florida（佛罗里达州立大学） ； Rochester Institute of Technology（罗切斯特理工学院） ； Purdue University（普渡大学） ； North Carolina State University（北卡罗来纳州立大学）
专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文提出ALDEN方法，通过主动学习和分布估计有效提升从检索增强生成系统中提取私有数据的效率和效果，通过全面评估证明其优于现有方法。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈