Reasoning in Large Language Models Through Symbolic Math Word Problems
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Accepted at the Findings of ACL 2023
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 幻觉与事实性 1732 篇
Uncertainty in Natural Language Generation: From Theory to Applications
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG
Question Decomposition Improves the Faithfulness of Model-Generated Reasoning
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments For few-shot examples and prompts, see https://github.com/anthropics/DecompositionFaithfulnessPaper
Azimuth: Systematic Error Analysis for Text Classification
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments To be published in Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing: System Demonstrations. 13 pages and 14 figures
A Modality-level Explainable Framework for Misinformation Checking in Social Networks
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Accepted to publication at LatinX in AI workshop at the Thirty-sixth Conference on Neural Information Processing Systems, LXAI @ NeurIPS 2022
Learning from the Best: Rationalizing Prediction by Adversarial Information Calibration
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
Journal ref Proceedings of the 35th AAAI Conference on Artificial Intelligence, 2021
A Systematic Comparison between Extractive Self-Explanations and Human Rationales in Text Classification
抽取式自我解释与人类推理在文本分类中的系统比较
机构 * Center for Social Data Science（社会科学数据科学中心） ； University of Copenhagen（哥本哈根大学） ； Machine Learning Group（机器学习小组） ； Technische Universität Berlin（柏林技术大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI；trustworthy(comments)
AI总结 本文比较了抽取式自我解释与人类推理在文本分类任务中的有效性，通过分析不同任务和语言的解释质量，发现自我解释在文本长度和任务复杂度上与人类推理存在显著差异。
Comments accepted to the Trustworthy NLP Workshop, co-located with ACL 2026
REHEARSE: Experiential Rehearsal for Verbal Confidence Calibration in Large Language Models
REHEARSE：大语言模型中用于语言置信度校准的经验式排练
机构 * University of Pennsylvania（宾夕法尼亚大学） ； University of Southern California（南加州大学） ； University of Illinois Chicago（伊利诺伊大学香槟分校）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 针对大语言模型置信度与实际正确性不匹配的问题，提出无训练的Rehearse方法，通过置信度校准博弈的反馈生成校准信号，在多模型多基准实验中显著降低了预期校准误差并提升准确率。
Uncertainty-Aware and Explainable Ensemble Deep Learning Framework for Multi-Class Skin Lesion Classification
用于多类皮肤病变分类的不确定性感知且可解释的集成深度学习框架
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG
Comments 5 pages, 3 figures, IEEE AIBThings 2026
Unified Hallucination Fuzzing for Multimodal Large Language Models
面向多模态大语言模型的统一幻觉模糊测试
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 针对多模态大语言模型的幻觉问题，提出含UniHall基准与SAMF自演化模糊测试的评估框架，发现SOTA模型在模糊测试下性能显著下降，存在有用性-幻觉权衡。
Comments 47 pages, 17 figures
KumbhDoot: A Scale-Ready, LLM-Bounded Architecture for Mass-Gathering Public-Service Assistants
KumbhDoot：面向大规模集会公共服务助手的可扩展、大语言模型（LLM）限定架构
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 针对大壶节这类高风险低连接性的大规模集会，提出KumbhDoot架构，以相似度优先、LLM限定为核心，解决默认LLM助手成本高、易幻觉等问题，适配公共服务场景。
Humans Disengage, Reasoning Models Persist: Separating Difficulty Registration from Deliberation Allocation
人类放弃，推理模型坚持：将难度登记与深思分配分离
机构 * The University of Hong Kong（香港大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文通过分离难度登记与深思分配，发现人类与大型推理模型（LRM）在问题解决中的时间/令牌分配模式相反：人类在错误问题上用时更少，而LRM在错误问题上使用更多令牌。
Explaining, Verifying, and Aligning Semantic Hierarchies in Vision-Language Model Embeddings
解释、验证和对齐视觉语言模型嵌入中的语义层次结构
机构 * University of Lübeck（吕贝克大学） ； Technical University of Munich（慕尼黑工业大学） ； AUMOVIO SE ； Osnabrück University（奥斯纳布吕克大学） ； Leibniz Institute for Agricultural Engineering and Bioeconomy（莱布尼茨农业工程与生物经济研究所） ； University of Hamburg（汉堡大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出一种框架，用于解释、验证和对齐视觉语言模型嵌入中的语义层次结构，通过聚类和概念库匹配提取层次结构，并利用人类本体评估其合理性，最终提出基于本体的对齐方法以提升共享嵌入空间的语义对齐。
Comments camera-ready version of accepted IJCAI-ECAI 2026 paper including supplementary material; code: https://github.com/gesina/ontological-commitment
Optimising for Flourishing: Flourishing Metrics and Return on Flourishing as Success Criteria for Artificial Intelligence and Post-AGI Economic Systems
为繁荣优化：繁荣度量与繁荣回报作为人工智能及后AGI经济系统的成功标准
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 该研究提出将人类繁荣作为AI及后AGI经济系统的核心成功标准，构建了Flourishing Metrics框架与RoF评估方法，为AI及经济转型的价值核算提供了决策架构。
MedUPS: Towards Diagnostic Assistance in Uncommon Medical Cases with Large Language Models
MedUPS：利用大语言模型辅助罕见医疗病例的诊断
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究提出MedUPS对齐框架及MedUPSQA数据集，通过强化学习使大语言模型对齐临床中游决策，提升了不同规模模型的下一步临床决策准确率，且小模型表现优于部分大模型。
Comments 13 pages, 6 figures
MambaGaze: Bidirectional Mamba with Explicit Missing Data Modeling for Cognitive Load Assessment from Eye-Gaze Tracking Data
MambaGaze: 通过显式缺失数据建模的双向Mamba用于从眼动追踪数据中评估认知负荷
机构 * Department of Computer Science, College of AI, Cyber and Computing, The University of Texas at San Antonio（计算机科学系，人工智能、网络与计算学院，德克萨斯大学圣安东尼奥分校） ； Department of Educational Psychology, College of Education and Human Development, The University of Texas at San Antonio（教育心理学系，教育与人类发展学院，德克萨斯大学圣安东尼奥分校） ； Department of Neuroscience, Developmental and Regenerative Biology, College of Sciences, The University of Texas at San Antonio（神经科学系，发育与再生生物学系，科学学院，德克萨斯大学圣安东尼奥分校）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出MambaGaze，通过XMD编码和双向Mamba-2框架，解决眼动追踪数据中频繁缺失和长时序依赖建模的问题，实验证明其在认知负荷评估中的优越性能和边缘部署可行性。
Asymmetric Communication: Large Language Models and Language Games
非对称通信：大语言模型与语言游戏
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文通过提出非对称通信框架，纠正了AI讨论对大语言模型的错误属性投射，将相关现象重新归类为接收方一侧的现象，为AI治理提供了启示，明确对齐是制度约束工程，责任归人类机构。
Survival Analysis with Machine Learning for Predicting Li-ion Battery Remaining Useful Life
利用机器学习进行生存分析以预测锂离子电池剩余寿命
机构 * Ontario Knowledge Intelligence Centre (OKIC), Canada（加拿大安大略知识智能中心） ； Canadian Institute of Interscience (CIoI), Canada（加拿大跨学科科学研究所） ； DeepCox Intelligence, Canada（加拿大DeepCox智能公司）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出一种混合生存分析框架，通过路径签名将电池电压时间序列转换为时间到故障数据，结合生存模型学习和概率估计，有效预测电池剩余寿命，实验表明方法在时间依赖AUC和C-指数上表现优异。
Comments arXiv admin note: This paper has been withdrawn by arXiv due to unverifiable authorship and affiliation
ProvenanceGuard: Source-Aware Factuality Verification for MCP-Based LLM Agents
ProvenanceGuard: 基于MCP的LLM智能体的源感知事实性验证
机构 * Multiverse Computing ； Parque Cientifico y Tecnológico de Gipuzkoa（吉普斯夸科技园） ； Centre for Social Innovation（社会创新中心） ； Donostia International Physics Center（多诺斯蒂亚国际物理中心） ； Ikerbasque Foundation for Science（伊克尔巴斯克科学基金会）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出ProvenanceGuard，一种源感知验证器，通过追踪MCP工具调用、分解声明并路由到特定源，检测跨源混淆错误，在医疗领域数据集上优于源无关基线。
Comments 20 pages, 4 figures
Can LLMs Write Correct TLA+ Specifications? Evaluating Natural-Language-to-TLA+ Generation
LLM 能写出正确的 TLA+ 规范吗？自然语言到 TLA+ 生成的评估
机构 * Department of Computer Science, Loyola University Chicago（洛约奈大学芝加哥分校计算机科学系）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文首次系统评估基于 LLM 从自然语言合成 TLA+ 规范的能力，发现模型在语义正确性上仅达 8.6%，且成功依赖于渐进式提示，揭示了模型大小与质量无关、代码专用模型表现不佳等关键发现。
Comments 12 pages, 11 tables. Accepted at the 21st International Conference on Software Technologies (ICSOFT 2026); Recommended as Best Paper Award Candidate
Journal ref ICSOFT 2026, pp. 39-50, 2026
Uncertainty-Aware Trust Estimation for Multi-LLM Systems via Structured Expert Judgement
通过结构化专家判断对多语言模型系统进行不确定性感知信任估计
机构 * DigitLab, University of Exeter（数字实验室，埃克塞特大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 研究多语言模型聚合问题，核心方法是采用结构化专家判断，通过上下文感知校准问题及库克式对数加权估计专家可靠性，主要贡献是在异构和受污染情况下实现更好的准确性-可靠性平衡，强调聚合时需校准信任。
MELLA: Bridging Linguistic Capability and Cultural Groundedness for Low-Resource Language MLLMs
MELLA：弥合低资源语言多模态大语言模型的语言能力与文化根基
机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； East China Normal University（东华大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Institute of High Performance Computing, A*STAR（高性能计算研究所，A*STAR）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 研究针对低资源语言MLLMs文化内涵不足问题，提出MELLA数据集，采用双源策略，结合母语网络图像-替代文本对与生成翻译的图像描述进行监督，经实验表明能减轻文化幻觉，强调数据对齐对低资源语言文化基础多模态理解的重要性。
Find Before You Fine-Tune: A Diagnostic Study of Small LLMs for Cybersecurity QA
在微调之前进行评估：针对网络安全问答的小型语言模型诊断研究
机构 * The University of Alabama（阿拉巴马大学） ； Meharry Medical College（梅哈里医学院） ； Mississippi State University（密西西比州立大学） ； The University of Texas at El Paso（德克萨斯大学埃尔帕索分校）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 针对网络安全问答选择小型语言模型难的问题，提出FiT诊断框架，从三方面刻画模型。通过对五个模型在两种微调模式下研究发现微调利弊因模式而异，预微调FiT分数可预测变化，能筛选模型、避免不必要微调，支持安全部署。
Comments 8 pages, 5 figures, 4 tables, IEEE ICMLA
Beyond Access: Guided LLM Scaffolding for Independent Learning in Undergraduate Statistics
超越访问：引导式LLM支架在本科统计学自主学习中的应用
机构 * School of Electrical and Computer Engineering, University of Tehran, Iran（伊朗塔里哈大学电气与计算机工程学院） ； Tehran Institute for Advanced Studies, Khatam University, Iran（伊朗卡塔姆大学泰赫兰高级研究院）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本研究通过准实验比较无LLM、无限制LLM和引导式LLM三种条件，发现引导式LLM使用能促进以推理为导向的交互模式，提升无辅助测验表现，并改善自我评估校准，表明LLM作为教育工具需通过支架设计实现推理伙伴而非答案获取工具。
Comments 10 pages, conference: Proceedings of the 34th International Conference on Computers in Education. Asia-Pacific Society for Computers in Education
Code-MUE: Measuring Code LLMs' Uncertainty through Execution-based Semantic Interaction Graphs
Code-MUE：通过基于执行的语义交互图测量代码语言模型的不确定性
机构 * Xi’an Jiaotong University（西安交通大学） ； Institute of AI for Industries, Chinese Academy of Sciences（中国科学院人工智能产业研究院） ； The University of Tokyo（东京大学） ； University of Alberta（阿尔伯塔大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究针对代码语言模型内在随机性带来的风险，引入纯黑盒框架Code-MUE，通过基于执行的语义交互图测量不确定性，经大规模实证研究验证其与功能正确性强负相关，优于基线，可实现风险检测和选择性预测。
Comments To appear at The ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA) 2026
Perception-Aligned AI Outputs: End-to-End Visual Prediction for Uncertainty Communication in Clinical Decision-Making
感知对齐的人工智能输出：临床决策中用于不确定性通信的端到端视觉预测
机构 * Harvard Ophthalmology AI Lab（哈佛眼科人工智能实验室） ； Schepens Eye Research Institute of Massachusetts Eye and Ear（马萨诸塞眼耳医院施佩恩眼科研究所） ； Harvard Medical School（哈佛医学院） ； Center for Advanced Technology and Education（先进教育技术中心） ； Florida International University（佛罗里达国际大学） ； Dartmouth Institute for Health Policy and Clinical Practice（达特茅斯健康政策与临床实践研究所） ； Dartmouth College（达特茅斯学院） ； Computer Aided Medical Procedures（医学辅助程序） ； Technical University of Munich（慕尼黑技术大学） ； Singapore Eye Research Institute（新加坡眼科研究所） ； Singapore National Eye Centre（新加坡国家眼科中心） ； Department of Ophthalmology, Byers Eye Institute, Stanford University（眼科部门，比尔斯眼科研究所，斯坦福大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 研究针对医疗保健中可解释人工智能的问题，提出以人为本的机器学习可视化学习框架VL4ML，通过直观视觉表示传达模型预测与不确定性，经多临床任务验证及评估，结果显示其能有效支持临床决策，具有广泛可及性。
Not All Needles Are Found: How Fact Distribution and Don't Make It Up Prompts Shape Retrieval, Reasoning, and Hallucination in Long-Context LLMs
并非所有线索都能被发现：事实分布和“不要编造”提示如何影响长上下文语言模型中的检索、推理和幻觉
机构 * Department of Electrical Engineering & Computer Science University of Michigan（电气工程与计算机科学系 密歇根大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究大语言模型中事实分布和反幻觉提示对检索、推理及幻觉的影响，通过扩展基准评估多个模型，识别出分布崩溃和安全代价两种失败模式，发现许多失败源于无效上下文利用，强调特定模型稳健性和上下文管理的重要性。
Comments 16 pages, 8 figures, 2 tables. Accepted at the FAGEN Workshop @ ICML 2026
NSNQuant: A Double Normalization Approach for Calibration-Free Low-Bit Vector Quantization of KV Cache
NSNQuant：一种用于KV缓存无校准低比特向量量化的双重归一化方法
机构 * Seoul National University（首尔国立大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 针对大语言模型KV缓存内存密集问题，NSNQuant提出一种无校准向量量化技术，通过三步变换结合哈达玛变换使令牌分布与标准正态分布对齐，在1比特和2比特设置下优于先前方法，提升吞吐量。
Conditional Optimal Bridge for Riemannian Activation Steering
用于黎曼激活控制的条件最优桥
机构 * The Pennsylvania State University（宾夕法尼亚州立大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究针对大语言模型推理时激活控制问题，提出\textsc{Cobras}方法，将其视为残差流超球面上的薛定谔桥，从优化问题推导控制目标，使控制方向查询自适应，实验显示该方法性能优于基线且避免分布外性能下降。
GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs
GrAInS：基于梯度的大语言模型和视觉语言模型推理时引导方法
机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 研究针对推理时引导LLMs和VLMs的方法局限，提出GrAInS。该方法基于梯度归因识别关键令牌构建引导向量，推理时调整激活。实验显示其性能优于微调及现有基线，能在保持模型流畅性和通用能力的同时提升多项指标。
Comments Accepted to ACL 2026
