AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
大语言模型的序贯统计推断：表示、有效性与监控
机构 * H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程系）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文提出将序贯统计推断应用于大语言模型可信赖性，围绕表示、有效性和监控三个任务展开，将LLM交互视为依赖随机过程，提供不确定性保证并检测行为变化。
Comments This article was prepared for a invited discussion in The American Statistician
信号不是状态：面向文化意识课堂AI的神经符号安全机制
机构 * Independent Researcher（独立研究者）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 本文提出NSCR框架，通过神经符号方法处理课堂多模态信号，区分可观测证据与文化负载解读，减少文化偏见对课堂AI的负面影响。
Comments Accepted at the Workshop on Stereotypes Across Cultures in Language Technologies @ ACL 2026
谄媚式赞美：评估语言模型中的过度赞美
机构 * University of Cincinnati（辛辛那提大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Texas A&M University（德克萨斯大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出参数化框架衡量赞美是否过度，发现谄媚式赞美在社交和解释性领域远多于客观推理领域，且现有方法无法可靠测量。
通过结构化内联引文生成实现显式证据基础
机构 * University of the Basque Country (UPV/EHU)（巴斯克大学） ； IT University of Copenhagen（哥本哈根IT大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出FullCite框架，通过提示生成、约束解码和后处理跨度对齐三种策略生成结构化内联引文，在三个QA基准上评估引文质量和忠实性，发现LLMs虽能识别相关文档但难以精确定位支持性证据跨度。
超越事后解释：通过概率中介迈向玻璃箱AI
机构 * Manuele Leonelli（曼努埃尔·莱奥内利）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 针对大语言模型在关键领域的不透明性，提出玻璃箱框架，利用贝叶斯网络作为事前中介层，实现可审计推理、不确定性量化和可争议输出。
面向有限标注数据的燃气轮机机群信任感知预测性排放监测
机构 * School of Natural and Computing Sciences University of Aberdeen（自然与计算科学学院 布拉德福德大学） ； School of Computing Sciences University of East Anglia（计算科学学院 东安格利亚大学） ； Siemens Energy Industrial Turbomachinery Ltd.（西门子能源工业涡轮机有限公司） ； Department of Physics and Technology UiT The Arctic University of Norway（物理与技术系 UiT 北极大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 提出一种信任感知概率框架，结合多头循环预测模型、置信度估计、集成不确定性量化、辅助特征预测、特征空间距离分析和运行范围诊断，在少量标注数据下实现机群级NOx预测，并提供可解释的逐样本信任分数以指示未标注涡轮机的预测可靠性。
Comments 14 pages, 6 figures, 6 tables
面向沉浸式视频角色扮演的奖励分解强化学习
机构 * Nanjing University（南京大学） ； Shanghai Jiao Tong University（上海交通大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院） ； School of Information Engineering, Beijing Institute of Graphic Communication（北京印刷学院信息工程学院） ； Ant International, Ant Group（蚂蚁集团国际部） ； Independent Researcher（独立研究者）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 提出EBM-RL框架，通过奖励分解的强化学习优化视频角色扮演中的视觉感知、推理与生成过程，提升场景一致性与角色真实性。
vLLM Semantic Router: 面向多模态混合模型的信号驱动决策路由
机构 * MBZUAI（穆斯林人工智能研究所）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 提出vLLM Semantic Router框架，通过可组合信号编排（13种异构信号类型和布尔决策规则）实现多模态模型部署中的智能请求路由，支持不同场景的差异化策略配置。
Comments Technical Report
具有控制李雅普诺夫函数的不确定性机器人系统的经验学习
机构 * California Institute of Technology（加州理工学院）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG
AI总结 本文提出了一种基于控制李雅普诺夫函数的机器学习框架，用于适应机器人系统中的参数不确定性和未建模动态，通过迭代更新李雅普诺夫函数导数的估计和改进控制器，最终获得一个稳定性的二次规划基于控制器，并在平面Segway模拟中验证了方法的有效性。
LLM-XTM：利用大语言模型增强跨语言主题模型
机构 * Hanoi University of Science and Technology（河内科学技术大学） ； VNU University of Engineering and Technology（VNU工程技术大学） ； Monash University（墨尔本大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出LLM-XTM框架，通过LLM引导的主题精炼与自一致性不确定性量化，以黑盒方式稳定提升跨语言主题模型的连贯性和对齐性，减少对双语资源的依赖。
Comments ACL 2026
利用BART基于评分标准评估CS1 C++编程作业
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 提出基于评分标准的多任务微调BART模型，用于自动评分C++编程作业，通过联合预测数值分数和等级区间并匹配分布，使评分更接近教师行为。
LAP：面向自主科学的智能体-仪器协议
机构 * Shiyanjia Lab（实验之家实验室）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 针对自主科学中智能体与物理仪器连接碎片化的问题，提出LAP协议，通过InstrumentCard、预留机制、安全围栏握手和测量结果模式，实现有状态、安全关键的操作，并与现有生态系统兼容。
Comments 31 pages
通过归因视角对法律问答中的引用质量进行重排序
机构 * Technical University of Munich（慕尼黑技术大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 针对法律问答中检索增强生成系统的引用质量问题，提出基于扰动归因分数训练轻量级交叉编码器对候选段落重排序，显著提升引用忠实度并与专家答案对齐。
Comments 11 pages, 4 tables, 1 figure. Published at ASAIL 2026 (8th Workshop on Automated Semantic Analysis of Information in Legal Text), co-located with ICAIL 2026, Singapore
HyperPatch: n元结构漂移下的顺序知识编辑
机构 * National Yang Ming Chiao Tung University
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 针对非平稳环境中n元事件顺序更新引发的结构漂移问题，提出HyperPatch框架，通过超图流形上的稳定性建模，实现参数保留的知识编辑，在MQuAKE-CF和MQuAKE-T基准上分别取得96.24%和21.06%的跳步准确率相对提升。
Comments Accepted to Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2026)
PDE的流学习器：迈向科学计算的物理到物理范式
机构 * The University of Alabama（阿拉巴马大学） ； University of Pittsburgh（匹兹堡大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出流学习器（flow learners）范式，通过参数化传输向量场并积分生成轨迹，将PDE求解从状态预测转向物理上允许的未来传输建模，实现连续时间预测、不确定性量化及物理感知求解器设计。
基于上下文感知保形预测的增强型可再生能源预测
机构 * EPFL, Switzerland（瑞士联邦理工学院） ； Ghent University, Belgium（比利时根特大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 提出上下文感知保形预测（CACP）框架，通过加权历史观测校准预测区间，无需重新训练模型，提升可再生能源预测的可靠性和效率。
零样本VLM中虚假相关性的密度感知转换
机构 * School of Computing and Information Systems, The University of Melbourne, Victoria, Australia（计算与信息系统学院，墨尔本大学，维多利亚，澳大利亚）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 提出密度感知转换（DAT）方法，利用局部几何密度项修正图像-文本相似度，以缓解CLIP等视觉语言模型在零样本分类中因虚假相关性导致的性能下降。
Comments ICML 2026
面向负责任且基于认识论的多语言大语言模型在计算社会科学与人文学科中的应用
机构 * Northwestern University in Qatar（卡塔尔西北大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 本文重新概念化多语言推理大语言模型为解释学工具，提出一个基于理论框架来评估其在社会科学与人文学科研究中的文化对齐、跨语言稳定性和推理忠实性。
Journal ref Proceedings of LLMs4SSH Workshop at LREC 2026, Palma de Mallorca, Spain, 2026
Evi-Steer：通过高效且可泛化的证据调优学习引导生物医学视觉-语言模型
机构 * Concordia University（康科迪亚大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出Evi-Steer框架，通过证据跨模态低维引导实现BiomedCLIP的不确定性感知参数高效微调，仅更新0.11%参数，在15个生物医学数据集上少样本学习和域泛化设置中优于现有方法。
Comments MICCAI 2026 Early Accept; Project Page: https://tahakoleilat.github.io/Evi-Steer. This preprint has not undergone peer review or any post-submission improvements or corrections. The Version of Record of this contribution will be published as part of the MICCAI 2026 proceedings in October
基于视觉线索检测手语翻译中的幻觉：是依据视觉信息还是猜测？
机构 * German Research Center for Artificial Intelligence (DFKI GmbH)（德国人工智能研究中心（DFKI GmbH）） ； Saarland Informatics Campus（萨尔兰州信息学校园） ； Barcelona Supercomputing Center (BSC-CNS)（巴塞罗那超级计算中心（BSC-CNS））
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 针对手语翻译中模型依赖语言先验而非视觉输入导致幻觉的问题，提出一种基于特征敏感性和反事实信号的令牌级可靠性度量，用于量化视觉信息利用程度，并在两个基准上验证其预测幻觉率、跨数据集泛化及与文本信号结合提升风险评估的效果。
Comments Published at ICLR2026 Code available at \url{https://github.com/yhamidullah/hallucination-slt}
通用健康查询的共情适用性建模
机构 * University of Michigan（密歇根大学） ； Lahore University of Management Sciences（拉合尔管理科学大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出共情适用性框架（EAF），基于临床、语境和语言线索对患者查询的情感反应和解释适用性进行分类，以支持异步医疗中的共情沟通。
Comments Accepted at Findings of ACL 2026
什么使LVLMs更少产生幻觉？揭示影响幻觉鲁棒性的架构因素
机构 * School of Computer Science, Engineering Research Center of Machine Learning and Industry Intelligence, Sichuan University（计算机科学学院，机器学习与产业智能工程研究中心，四川大学） ； School of Computer and Information Engineering, Xiamen University of Technology（计算机与信息工程学院，厦门理工大学） ； Department of Electrical and Computer Engineering, University of Hong Kong（电气与计算机工程系，香港大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过将架构设计分解为语言基础、视觉表示和语义对齐三个维度，并引入CoSimUE基准，系统探索了架构因素对LVLMs幻觉鲁棒性的影响，发现模型参数扩展效果有限，而增强视觉编码器、语言基础和语义对齐能分别减少不同类型的幻觉。
面向数据敏感领域的LLM输出的神经符号验证（扩展预印本）
机构 * University of Bamberg（巴姆堡大学） ； Free University of Berlin（柏林自由大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 提出一种结合形式符号方法与神经语义分析的混合验证架构，用于检测LLM输出中的幻觉、不一致和隐私漏洞，在医疗设备损伤评估系统中实现83%的结构化实体幻觉检测率和72%的语义虚构检测率。
Comments Extended preprint version of accepted technical communication at KI 2026. 22 pages, 3 figures
多标签胸部X光分类中的不确定性及其解缠基准测试
机构 * Fraunhofer Heinrich-Hertz-Institut（弗劳恩霍夫海因里希-赫兹研究所） ； Technische Universität Berlin（柏林技术大学） ； The Berlin Institute for the Foundations of Learning and Data (BIFOLD)（柏林学习与数据基础研究所）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 本研究使用MIMIC-CXR-JPG数据集，对多标签胸部X光分类任务中的13种不确定性量化方法进行基准测试，评估了卷积和Transformer架构，并扩展了三种方法到多标签设置，揭示了不同方法和架构在不确定性估计和解缠认知与偶然不确定性方面的优缺点。
物理学就是一切？物理学家监督人工智能开发科学软件的案例研究
机构 * Kavli IPMU (WPI), UTIAS, The University of Tokyo（Kavli研究所（WPI）、UTIAS、东京大学） ； Center for Data-Driven Discovery（数据驱动发现中心） ； Institute For Interdisciplinary Research in Science（科学跨学科研究中心）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI
AI总结 通过一个物理学家监督AI编码代理开发可微扰动理论模块的案例，研究AI代理在科学软件开发中的可靠性，发现监督设计比模型能力更能决定输出可信度。
Comments 10 pages, 2 figures, 2 tables, 1 physicist and a few AI agents. Accepted by ICML 2026 AI for Science Workshop. Code and development log are available at this repo: https://github.com/MinhMPA/clax-pt
ActTraitBench: 通过人类行为验证量化大型语言模型中的知识-决策差距
机构 * Peking University（北京大学） ； Baidu Inc（百度公司）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出ActTraitBench框架，基于人类数据建立心理测量方面与行为范式的一一映射，并通过分位数映射校准LLM评分分布，揭示LLM在自我报告与行为决策之间的知识-决策差距，并引入CoCA干预来缓解该差距。
面向情感支持对话的用户感知主动知识获取
机构 * Harbin Institute of Technology, China（哈尔滨工业大学） ； Baidu Inc., Beijing, China（百度公司）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出用户感知主动知识获取（UKA）框架，通过理论心智不确定性估计和主动学习，在情感支持对话中高效获取用户对齐的对话知识，提升对话质量和用户对齐。
DiffSpot：VLM能发现网页界面中的细微视觉差异吗？
机构 * WeChat AI, Tencent Inc（腾讯公司）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出DiffSpot基准，通过CSS属性突变生成可控图像对，评估视觉语言模型在网页界面中检测细微视觉差异的能力，发现最佳模型仅识别40.7%的真实变化。
面向LLM群体的任意有效联邦共形RAG
机构 * H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（H.米尔顿·斯图尔特工业与系统工程学院，佐治亚理工学院）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG
AI总结 提出Anytime-FC-RAG，通过可累积的逐步校准偏差预算和截断投注e过程，将联邦共形RAG扩展到任意停止时间均有效的序贯覆盖，并保证时间均匀报警有效性、Hoeffding拼接累积误覆盖包络及自适应控制下的安全性。
校准还不够：评估语言变化下的置信度估计
机构 * Faculty of Computer Science, UniVie Doctoral School Computer Science（计算机科学系，维也纳大学计算机科学博士学院） ； Faculty of Philological and Cultural Studies, University of Vienna, Austria（文学与文化研究系，维也纳大学，奥地利） ； ILLC, University of Amsterdam, Netherlands（阿姆斯特丹大学ILLC，荷兰） ； Khoury College of Computer Sciences, Northeastern University, USA（东北大学计算机科学学院，美国） ； LMU Munich, Munich Center for Machine Learning (MCML), Germany（慕尼黑大学，慕尼黑机器学习中心（MCML），德国）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出一个基于鲁棒性、稳定性和敏感性的新评估框架，揭示现有置信度估计方法在区分语义不同答案方面的不足。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈