大模型对齐与安全

Towards Responsible Multimodal Medical Reasoning via Context-Aligned Vision-Language Models

通过上下文对齐的视觉-语言模型实现负责任的多模态医疗推理

Sumra Khan, Sagar Chhabriya, Aizan Zafar, Sheeraz Arif, Amgad Muneer, Anas Zafar, Shaina Raza, Rizwan Qureshi

机构 * Salim Habib University（萨利姆·哈比卜大学） ； Institute of Business Administration Sukkur（苏库尔工商管理学院） ； University of Central Florida（中佛罗里达大学） ； The University of Texas MD Anderson Cancer Center（德克萨斯大学MD安德森癌症中心） ； Toronto Metropolitan University（多伦多都会大学） ； Vector Institute（向量研究所） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；safety(abstract)

AI总结 本文提出一种上下文对齐的框架，通过整合多种临床证据提升医疗多模态推理的可靠性与可信度，实验显示其在胸部X光数据集上提升了判别性能并减少幻觉关键词。

Mitigating Hallucination in Large Vision-Language Models via Adaptive Attention Calibration

通过自适应注意力校准缓解大视觉-语言模型中的幻觉

Mehrdad Fazli, Bowen Wei, Ahmet Sari, Ziwei Zhu

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CAAC框架，通过解决空间感知偏差和模态偏差，提升大视觉-语言模型在长文本生成中的准确性和视觉对齐性。

Uncertainty-Aware Transformers: Conformal Prediction for Language Models

具有不确定性的转换器：语言模型的置信预测

Abhiram Vellore, Niraj K. Jha

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出CONFIDE框架，通过置信预测提升语言模型的可解释性和准确性，在BERT-tiny上测试准确率提升4.09%，并在资源受限和高风险任务中表现出鲁棒性和可解释性。

Better Eyes, Better Thoughts: Why Vision Chain-of-Thought Fails in Medicine

更好的眼睛，更好的思考：为何视觉链式推理在医学中失效

Yuan Wu, Zongxian Yang, Jiayu Qian, Songpan Gao, Guanxing Chen, Qiankun Li, Yu-An Huang, Zhi-An Huang

机构 * Department of Computer Science, City University of Hong Kong (Dongguan)（香港城市大学（东莞）计算机科学系） ； College of Computing and Data Science (CCDS), Nanyang Technological University（南洋理工大学计算与数据科学学院） ； School of Computer Science, Northwestern Polytechnical University（西北工业大学计算机科学学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文发现链式推理在医学视觉问答中表现欠佳，提出通过感知锚定和描述 grounding 提升视觉 grounding 和跨模态对齐以改善性能。