大模型对齐与安全

Just how sure are you? Improving Verbalized Uncertainty Calibration in Medical VQA

你到底有多确定？改进医学视觉问答中的口头不确定性校准

Eren Senoglu, Federico Toschi, Nicolo Brunello, Andrea Sassella, Mark James Carman

机构 * Politecnico di Milano（米兰理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 针对多模态大语言模型在医学VQA中过度自信的问题，提出基于复合损失函数的微调框架，通过校准项、锚定正则化、对比对齐和KL稳定项，将校准误差降低60%以上，判别力提升26%以上。

Decision-Aligned Evaluation of Uncertainty Quantification

决策对齐的不确定性量化评估

Annika Schneider, Tommy Rochussen, Joshua Stiller, Vincent Fortuin

机构 * Technical University of Munich（慕尼黑工业大学） ； Helmholtz AI（亥姆霍兹人工智能） ； MCML（慕尼黑机器学习中心） ； Konrad Zuse School of Excellence in Reliable AI（康拉德·楚泽卓越可靠人工智能学院） ； LMU Munich（慕尼黑大学） ； University of Technology Nuremberg（纽伦堡工业大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出决策对齐准则，揭示常用不确定性度量与下游决策的错位，并设计先验加权效用度量实现决策对齐评估。

From Hallucination to Grounding: Diagnosing Visual Spatial Intelligence via CRISP

从幻觉到扎根：通过CRISP诊断视觉空间智能

Zhixing Li, Yinan Yu

机构 * Chalmers University of Technology（查尔姆斯理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 提出CRISP诊断范式，通过一致性评估解耦感知与推理，揭示闭源模型存在度量估计不准确和未利用隐式结构表示的问题，开源模型则受限于多跳组合推理能力。

Comments Accepted to ECCV 2026