大模型对齐与安全

From Hallucination to Structure Snowballing: The Alignment Tax of Constrained Decoding in LLM Reflection

从幻觉到结构雪球效应：约束解码在LLM反思中的对齐税

Hongxu Zhou

机构 * Saarland University（萨尔大学） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL

AI总结 研究探讨了在开放式推理任务中，约束解码通过强制结构反思是否能避免错误传播，发现反而引发结构雪球效应，并揭示了约束解码的对齐税问题。

Integration of Object Detection and Small VLMs for Construction Safety Hazard Identification

对象检测与小型视觉语言模型的整合用于建筑安全危险识别

Muhammad Adil, Mehmood Ahmed, Muhammad Aqib, Vicente A. Gonzalez, Gaang Lee, Qipei Mei

机构 * Infrastructure Human Tech (IHT) Lab, Department of Civil and Environmental Engineering, University of Alberta, Edmonton, Alberta, Canada（基础设施人类技术（IHT）实验室，土木与环境工程系，阿尔伯塔大学，埃德蒙顿，阿尔伯塔，加拿大） 纠错

专题命中 幻觉与事实性 ：safety(title,abstract)

AI总结 本文提出了一种结合对象检测与多模态推理的轻量级框架，以提高建筑工地安全危险识别的准确性和效率，实验表明该方法在多个小型视觉语言模型上均提升了检测性能和解释质量。

GrACE: A Generative Approach to Better Confidence Elicitation and Efficient Test-Time Scaling in Large Language Models

GrACE：一种生成方法，用于改进置信度 elicitation 和大语言模型在测试时的高效扩展

Zhaohan Zhang, Ziquan Liu, Ioannis Patras

机构 * Queen Mary University of London（伦敦玛丽女王大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 本文提出GrACE，一种生成方法，用于改进大语言模型的置信度 elicitation 和测试时的高效扩展，通过实时计算隐藏状态与特殊标记嵌入的相似性，实现可靠且可扩展的置信度评估。

Label Effects: Shared Heuristic Reliance in Trust Assessment by Humans and LLM-as-a-Judge

标签效应：人类和LLM-as-a-Judge在信任评估中的共享启发式依赖

Xin Sun, Di Wu, Sijing Qin, Isao Echizen, Abdallah El Ali, Saku Sugawara

机构 * National Institute of Informatics (NII)（国立信息学研究所） ； University of Amsterdam（阿姆斯特丹大学） ； University of Tokyo（东京大学） ； Hitotsubashi University（一桥大学） ； Centrum Wiskunde & Informatica (CWI)（荷兰数学与计算机科学研究中心） ； Utrecht University（乌得勒支大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示人类和LLM在信任评估中受标签影响的共同机制，通过对比人类和模型的反应，发现标签对信任判断有显著偏倚，提出需警惕标签敏感的LLM评估有效性。

Knowledge Reasoning Language Model: Unifying Knowledge and Language for Inductive Knowledge Graph Reasoning

知识推理语言模型：统一知识与语言以进行归纳知识图谱推理

Xingrui Zhuo, Jiapu Wang, Gongqing Wu, Zhongyuan Wang, Jichen Zhang, Shirui Pan, Xindong Wu

机构 * The Key Laboratory of Knowledge Engineering with Big Data (the Ministry of Education of China), Hefei University of Technology, China（合肥工业大学大数据知识工程教育部重点实验室） ； School of Computer Science and Information Engineering, Hefei University of Technology, China（合肥工业大学计算机与信息学院） ； Nanjing University of Science and Technology, China（南京理工大学） ； China Unicom Digital Technology Co., Ltd., Beijing, China（联通数字科技有限公司） ； China Unicom Internet of Things Co., Ltd., Nanjing, China（联通物联网有限责任公司） ； Shandong Inspur Science Research Institute, Jinan, China（山东浪潮科学研究院） ； Griffith University, Australia（格里菲斯大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出KRLM，通过统一语言模型知识与知识图谱上下文，解决归纳知识图谱推理中的知识扭曲和生成幻觉问题，实验表明其在25个真实数据集上表现优异。

Confidence Should Be Calibrated More Than One Turn Deep

置信度应比单轮更深入地校准

Zhaohan Zhang, Chengzhengxu Li, Xiaoming Liu, Chao Shen, Ziquan Liu, Ioannis Patras

机构 * Queen Mary University of London（伦敦玛丽女王大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出多轮校准任务，解决多轮对话中置信度动态校准问题，通过MTCal和ConfChat提升模型在多轮交互中的事实性和一致性。

Uncertainty-Guided Latent Diagnostic Trajectory Learning for Sequential Clinical Diagnosis

不确定性的引导潜在诊断轨迹学习用于顺序临床诊断

Xuyang Shen, Haoran Liu, Dongjin Song, Martin Renqiang Min

机构 * University of Connecticut（康涅狄格大学） ； Texas A&M University（德克萨斯农工大学） ； NEC Laboratories America（NEC美国实验室） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于规划LLM和诊断LLM的潜在诊断轨迹学习框架，通过后验分布优先选择高诊断信息轨迹，提升顺序临床诊断的准确率并减少检测次数。

Probabilistic Tree Inference Enabled by FDSOI Ferroelectric FETs

基于FDSOI铁电FETs的概率树推断

Pengyu Ren, Xingtian Wang, Boyang Cheng, Jiahui Duan, Giuk Kim, Xuezhong Niu, Halid Mulaosmanovic, Stefan Duenkel, Sven Beyer, X. Sharon Hu, Ningyuan Cao, Kai Ni

机构 * University of Notre Dame（圣母大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种基于FDSOI铁电FETs的硬件平台，实现概率决策树的高效推断，提供高能效的不确定性估计和噪声容忍，优于传统决策树。

TS-Agent: Understanding and Reasoning Over Raw Time Series via Iterative Insight Gathering

TS-Agent：通过迭代洞察获取理解并推理原始时间序列

Penghang Liu, Elizabeth Fons, Annita Vapsi, Mohsen Ghassemi, Svitlana Vyetrenko, Daniel Borrajo, Vamsi K. Potluru, Manuela Veloso

机构 * JPMorgan AI Research, NY, USA（摩根大通人工智能研究院，纽约，美国） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 TS-Agent通过迭代洞察获取机制，在时间序列理解和推理任务中匹配或超越文本、视觉及时间序列语言模型基线，尤其在零样本设置下表现更优。

Comments NeurIPS 2025 Workshop on Foundations of Reasoning in Language Models

Semantic Communication with an LLM-enabled Knowledge Base

基于LLM的知识库的语义通信

Wuxia Hu, Caili Guo, Yang Yang, Chunyan Feng, Kuiyuan Ding, Shiwen Mao

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文提出SC-LMKB系统，利用LLM生成能力增强知识库，通过提示工程和交叉注意力对齐方法生成源数据和信道数据，结合跨域融合编解码框架降低幻觉影响，实验显示性能提升显著。