University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）

Hallucination Detection-Guided Preference Optimization for Clinical Summarization

基于幻觉检测的偏好优化用于临床摘要生成

Shamanth Kuthpadi Seethakantha, Dung Ngoc Thai, Vara Prasad Gudi, Simran Tiwari, Rami Matar, Avijit Mitra, Wenlong Zhao, Andrew McCallum, Wael Salloum

机构 * Manning College of Information and Computer Sciences（Manning信息与计算机科学学院） ； Ensemble HP ； Columbia University（哥伦比亚大学） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） 纠错

AI总结 提出利用幻觉检测器指导迭代修正的推理时方法及偏好学习微调，显著减少临床摘要中的幻觉。

Letting Tutor Personas Speak Up for LLMs: Learning Steering Vectors from Dialogue via Preference Optimization

让导师角色为LLMs发声：通过偏好优化从对话中学习引导向量

Jaewook Lee, Alexander Scarlatos, Simon Woodhead, Andrew Lan

机构 * University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； Eedi 纠错

AI总结 本文提出使用偏好优化训练引导向量，从人类导师-学生对话中提取导师角色信息，以控制大语言模型的行为，实现多样化的教学风格。

Comments Accepted to ACL 2026 BEA Workshop