大模型对齐与安全

Deliberative Searcher: Improving LLM Reliability via Reinforcement Learning with constraints

反思搜索器：通过带有约束的强化学习提高大语言模型的可靠性

Zhenyun Yin, Shujie Wang, Xuhong Wang, Xingjun Ma, Yinchun Wang

机构 * Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出反思搜索器框架，结合置信度校准与基于检索的搜索，通过强化学习优化准确性，提升模型输出的可靠性。

Comments Accepted by ACL 2026

FineSteer: A Unified Framework for Fine-Grained Inference-Time Steering in Large Language Models

FineSteer: 一种用于大语言模型推理时细粒度引导的统一框架

Zixuan Weng, Jinghuai Zhang, Kunlin Cai, Ying Li, Peiran Wang, Yuan Tian

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出FineSteer框架，通过条件引导和细粒度向量合成两个阶段实现高效引导，保留模型效用并提升引导效果，实验显示其在安全性和真实性基准上表现优异。

Comments Accepted by ACL 2026 (Main)

The Reasoning Trap: How Enhancing LLM Reasoning Amplifies Tool Hallucination

推理陷阱：增强大语言模型推理能力如何放大工具幻觉

Chenlong Yin, Zeyang Sha, Shiwen Cui, Changhua Meng, Zechao Li

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； Nanjing University of Science and Technology（南京理工大学） ； Independent Researcher（独立研究者） 纠错

专题命中 幻觉与事实性 ：DPO(abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨增强LLM推理能力是否导致工具幻觉增加，通过SimpleToolHalluBench验证因果关系，发现推理增强与幻觉成正比，且不受过拟合影响，揭示需新的训练目标平衡能力和可靠性。

Comments Accepted to ACL 2026 Main

Persona-Assigned Large Language Models Exhibit Human-Like Motivated Reasoning

具有人格分配的大型语言模型表现出类似人类的动机推理

Saloni Dash, Amélie Reymond, Emma S. Spiro, Aylin Caliskan

机构 * University of Washington（华盛顿大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了分配不同政治和社会人口属性的人格对大型语言模型动机推理的影响，发现人格分配的模型在评估信息真实性时表现下降，且政治人格在科学证据评估中更倾向于与自身身份一致的结论，传统去偏方法效果有限。

Comments ACL Findings 2026

HyCal: A Training-Free Prototype Calibration Method for Cross-Discipline Few-Shot Class-Incremental Learning

HyCal：一种无需训练的跨学科少样本类增量学习原型校准方法

Eunju Lee, MiHyeon Kim, JuneHyoung Kwon, Yoonji Lee, JiHyun Kim, Soojin Jang, YoungBin Kim

机构 * Chung-Ang University（Chung-Ang 大学） ； KT Corporation（KT 公司） ； Dentium ； ETRI 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文提出HyCal方法，通过结合余弦相似度和马氏距离，解决跨学科少样本类增量学习中的领域引力问题，提升在不平衡数据下的性能。

Comments Accepted to CVPR 2026. Eunju Lee and MiHyeon Kim contributed equally as co-first authors