大模型对齐与安全

Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research

展望人机协同AI：连续性、张力与未来研究

Bowen Lou, Tian Lu, T. S. Raghu, Yingjie Zhang

机构 * University of Southern California（南加州大学） ； Arizona State University（亚利桑那州立大学） ； Peking University（北京大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出Team SA理论作为人机协同AI转型的整合锚点，探讨在适应性自主下持续对齐的挑战与未来研究方向。

Agentic Multi-Persona Framework for Evidence-Aware Fake News Detection

代理多角色框架用于证据感知的虚假新闻检测

Roopa Bukke, Soumya Pandey, Suraj Kumar, Soumi Chattopadhyay, Chandranath Adak

机构 * Dept. of CSE, Indian Institute of Technology Indore（计算机科学与工程系，印度理工学院印度奥尔德分校） ； Dept. of CSE, Indian Institute of Technology Patna（计算机科学与工程系，印度理工学院帕纳分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出AMPEND-LS框架，通过LLM与SLM协同作用，实现多模态虚假新闻检测，提升准确率和鲁棒性，增强信息安全性。

Comments 10 pages, 3 tables, 2 figures

HALP: Detecting Hallucinations in Vision-Language Models without Generating a Single Token

在不生成单个标记的情况下检测视觉-语言模型中的幻觉

Sai Akhil Kogilathota, Sripadha Vallabha E G, Luzhe Sun, Jiawei Zhou

机构 * Stony Brook University（石英溪大学） ； Toyota Technological Institute at Chicago（芝加哥丰田技术研究所） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 通过探测模型内部表示在生成前检测视觉-语言模型的幻觉风险，展示不同架构中信息丰富的层和模态差异，并验证轻量级探测器在提升安全性和效率方面的潜力。

Journal ref The 19th Conference of the European Chapter of the Association for Computational Linguistics (EACL 2026)