大模型对齐与安全

Efficient Credal Prediction through Decalibration

通过去校准实现高效的可信预测

Paul Hofman, Timo Löhr, Maximilian Muschalik, Yusuf Sale, Eyke Hüllermeier

机构 * LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； DFKI (DSA)（德意志联邦防务研究所） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出了一种基于相对似然的高效可信预测方法，通过去校准技术实现对复杂模型的高效可信集生成。

R-WoM: Retrieval-augmented World Model For Computer-use Agents

R-WoM：基于检索的世界模型用于计算机使用代理

Kai Mei, Jiang Guo, Shuaichen Chang, Mingwen Dong, Dongkyu Lee, Xing Niu, Jiarong Jiang

机构 * Rutgers University（罗杰斯大学） ； AWS Agentic AI（亚马逊敏捷人工智能） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 R-WoM通过整合外部检索知识提升世界模型能力，有效改善长周期模拟中的决策表现。

Whitening Reveals Cluster Commitment as the Geometric Separator of Hallucination Types

去噪揭示集群承诺作为幻觉类型的几何分隔器

Matic Korun

机构 * Independent Researcher（独立研究者） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 通过去噪揭示集群承诺作为幻觉类型分离的几何分隔器，证明类型1/2边界是容量限制而非测量伪影。

Comments 9 pages, 2 figures, appendices (reproducibility, sample generation, additional figures)

Looking Back and Forth: Cross-Image Attention Calibration and Attentive Preference Learning for Multi-Image Hallucination Mitigation

回望与前行：用于多图像幻觉缓解的跨图像注意力校准与关注偏好学习

Xiaochen Yang, Hao Fang, Jiawei Kong, Yaoxin Mao, Bin Chen, Shu-Tao Xia

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Harbin Institute of Technology（哈尔滨工业大学） ； Beijing Institute of Technology（北京理工大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳分校） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出CAPL框架，通过跨图像注意力校准和偏好学习缓解多图像幻觉问题，提升模型对跨图像关联的建模能力，并在多个任务中取得稳定性能提升。

An LLM-Assisted Multi-Agent Control Framework for Roll-to-Roll Manufacturing Systems

用于卷对卷制造系统的基于LLM的多智能体控制框架

Jiachen Li, Shihao Li, Christopher Martin, Zijun Chen, Dongmei Chen, Wei Li

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出一种基于LLM的多智能体框架，用于自动化卷对卷制造系统的控制设计与适应，通过五个阶段实现安全、高效的控制性能