大模型对齐与安全

Where Reliability Lives in Vision-Language Models: A Mechanistic Study of Attention, Hidden States, and Causal Circuits

在视觉-语言模型中可靠性在哪里存在：注意力、隐藏状态和因果回路的机制研究

Logan Mann, Ajit Saravanan, Ishan Dave, Shikhar Shiromani, Saadullah Ismail, Yi Xia, Emily Huang

机构 * UC Santa Barbara（加州大学圣巴巴拉分校） ； UC Berkeley（加州大学伯克利分校） ； NVIDIA（英伟达） ； Algoverse AI Research（Algoverse人工智能研究） ； Brown University（布朗大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过机制性研究发现，视觉-语言模型的可靠性主要体现在隐藏状态几何、分层边际形成和稀疏晚层回路，而非注意力图的锐度。

Comments 15 pages, 4 figures, 10 tables. Accepted at the ICLR 2026 Workshop on Multimodal Reasoning. Code and probe-training pipelines: https://github.com/itsloganmann/VLM-Reliability-Probe

CLEF: EEG Foundation Model for Learning Clinical Semantics

CLEF：用于学习临床语义的EEG基础模型

Peng Cao, Ali Mirzazadeh, Jong Woo Lee, Aleksandar Videnovic, Dina Katabi

机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； Brigham and Women’s Hospital, Harvard Medical School（哈佛医学院布里奇沃特医院） ； Massachusetts General Hospital, Harvard Medical School（哈佛医学院麻省总医院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出CLEF，一种基于临床场景的长上下文EEG基础模型，通过对比学习将EEG会话与神经科报告和结构化电子健康记录对齐，提升了EEG解读的临床相关性。

DynaMiCS: Fine-tuning LLMs with Performance Constraints using Dynamic Mixtures

DynaMiCS: 通过动态混合实现具有性能约束的LLM微调

Eleonora Gualdoni, Sonia Laguna, Louis Bethune, Joao Monteiro, Pierre Ablin, Marco Cuturi

机构 * Apple（苹果公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出DynaMiCS，通过动态混合优化解决多领域微调中目标领域性能提升与约束领域性能保持的矛盾，实现更高效且更稳定的模型优化。

The Bystander Effect in Multi-Agent Reasoning: Quantifying Cognitive Loafing in Collaborative Interactions

多智能体推理中的旁观者效应：量化协作互动中的认知惰性

Dahlia Shehata, Ming Li

机构 * University of Waterloo（滑铁卢大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究揭示多智能体系统中社交压力引发的认知惰性现象，通过评估22500条轨迹发现模型在协作中逻辑主权崩溃，揭示了主权缺口与对齐幻觉问题。

Navigating the Sea of LLM Evaluation: Investigating Bias in Toxicity Benchmarks

在LLM评估之海中航行：探究毒性基准中的偏见

Regina Gugg, Selina Niederländer, Andreas Stöckl, Martin Flechl

机构 * Dynatrace Research, Linz, Austria（奥地利林茨Dynatrace研究机构） ； University of Applied Sciences Upper Austria, Hagenberg, Austria（上奥地利应用科学大学哈根贝格分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文研究了毒性基准的鲁棒性，发现评估设置变化会导致基准行为差异，任务类型改变会增加有害内容被标记的倾向，且输入数据域变化时基准表现不稳定，需更完善的评估框架。

Comments 18 pages, 4 figures

TourMart: A Parametric Audit Instrument for Commission Steering in LLM Travel Agents

TourMart: 一种用于LLM旅行代理佣金管理的参数审计工具

Yao Liu

专题命中 安全评测 ：safety(abstract)；分类 cs.CY

AI总结 TourMart通过参数lambda和kappa驱动反事实分析，区分LLM工程故障与真实商业引导，验证代理引导效果，输出合规报告。

Beyond Autonomy: A Dynamic Tiered AgentRunner Framework for Governable and Resilient Enterprise AI Execution

超越自主性：一种动态分层代理运行框架用于可控且具有弹性的企业AI执行

Kai Pan, Rong Hou

机构 * a2alab（a2alab实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出动态分层代理运行框架，通过风险自适应分层、权力分离架构和容错设计，解决企业AI执行中的可控性和可靠性问题。

Comments 9 pages, 2 figures, 3 tables

TRACER: Verifiable Generative Provenance for Multimodal Tool-Using Agents

TRACER：多模态工具使用代理的可验证生成溯源

Bihui Yu, Caijun Jia, Jing Chi, Xiaohan Liu, Yining Wang, He Bai, Yuchen Liu, Jingxuan Wei, Junnan Zhu

机构 * Shenyang Institute of Computing Technology, Chinese Academy of Sciences（中国科学院沈阳计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所MAIS） ； Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences)（教育部计算电力网络与信息安全重点实验室，山东计算机科学中心（济南国家超算中心），齐鲁工业大学（山东省科学院）） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 TRACER通过生成带结构溯源记录的答案句子，解决多模态工具使用代理中缺乏的 claim-level 依赖结构问题，提升工具使用可验证性和优化性。

SEMASIA: A Large-Scale Dataset of Semantically Structured Latent Representations

SEMASIA：一个大规模的语义结构化潜在表示数据集

Mario Edoardo Pandolfo, Enrico Grimaldi, Lorenzo Marinucci, Leonardo Di Nino, Simone Fiorellino, Sergio Barbarossa, Paolo Di Lorenzo

机构 * Dept. Computer, Control and Management Engineering（计算机、控制与管理工程系） ； Sapienza University of Rome（罗马大学西皮恩扎分校） ； National Inter-University Consortium for Telecommunications (CNIT)（电信全国大学联合体（CNIT）） ； Dept. of Statistical Sciences（统计科学系） ； Dept. of Information Engineering, Electronics, and Telecommunications（信息工程、电子与电信系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 SEMASIA通过收集1700多个预训练视觉模型的潜在表示，提供语义结构化的元数据，用于分析潜在空间组织、对齐映射基准测试及回归分析预训练数据复杂性与嵌入几何特性之间的关系。

Exploring the AI Obedience: Why is Generating a Pure Color Image Harder than CyberPunk?

探索AI服从性：为何生成纯色图像比CyberPunk更困难

Hongyu Li, Kuan Liu, Yuan Chen, Juntao Hu, Huimin Lu, Guanjie Chen, Xue Liu, Guangming Lu, Hong Huang

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； City University of Hong Kong（城市大学） ； Chinese University of Hong Kong（香港中文大学） ； McGill University（麦吉尔大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨生成纯色图像的困难源于模型在复杂场景生成中的系统性失败，提出AI服从性框架和Violin基准测试，揭示闭源模型在确定性精度上的优势。

How Much is Brain Data Worth for Machine Learning?

脑数据对机器学习有多大价值？

Lane Lewis, Zhixin Wang, David Schwab, Xaq Pitkow

机构 * Neuroscience Institute, Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学神经科学研究所） ； Department of Machine Learning, Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学机器学习系） ； NSF AI Institute for Artificial and Natural Intelligence (ARNI)（国家科学基金会人工智能与自然智能研究所） ； Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学） ； CUNY Graduate Center, New York, NY, USA（纽约市立大学研究生中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过数学建模探讨脑数据与任务数据在机器学习中的价值与交换率，分析不同条件下脑数据对模型性能的提升作用。

Comments 9 pages main text, 5 figures, 34 pages of appendix with detailed proofs

Meow-Omni 1: A Multimodal Large Language Model for Feline Ethology

Meow-Omni 1：用于猫类行为学的多模态大语言模型

Jucheng Hu, Zhangquan Chen, Yulin Chen, Chengjie Hong, Liang Zhou, Tairan Wang, Sifei Li, Giulio Zhu, Feng Zhou, Yiheng Zeng, Suorong Yang, Dongzhan Zhou

机构 * University College London（伦敦大学学院） ； Tsinghua University（清华大学） ； Nanjing University（南京大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 Meow-Omni 1通过融合视频、音频和生理时间序列数据，实现对动物意图的精准识别，其在MeowBench基准测试中达到71.16%的准确率，推动了跨物种意图理解及基础模型在兽医诊断和野生动物保护中的应用。

Decomposing and Steering Functional Metacognition in Large Language Models

分解与引导大型语言模型中的功能元认知

Yanshi Li, Xueru Bai, Shuman Liu, Haibo Zhang, Anxiang Zeng

机构 * Shopee Shanghai China（Shopee上海中国） ； Shopee Beijing China（Shopee北京中国） ； Shopee Singapore Singapore（Shopee新加坡新加坡） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 研究通过分析大型语言模型的内部激活，揭示功能元认知状态的可分解性，并展示如何通过引导激活方向来调控推理行为。

Comments 18 pages, 7 figures

MicroFuse: Protein-to-Genome Expert Fusion for Microbial Operon Reasoning

MicroFuse：用于微生物启动子推理的蛋白质到基因组专家融合

Seungik Cho

机构 * Department of Physics and Astronomy, Rice University, Texas, USA（物理与天文学系，里士满大学，德克萨斯州，美国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出MicroFuse框架，通过融合蛋白质结构表示和基因组上下文表示，提升微生物启动子预测的准确性。在OG-Operon100K数据集上，MicroFuse在多个评估指标上表现最优，尤其在生物上模糊的情况中表现突出。

Large Language Models over Networks: Collaborative Intelligence under Resource Constraints

网络上的大语言模型：在资源限制下的协作智能

Liangqi Yuan, Wenzhi Fang, Shiqiang Wang, H. Vincent Poor, Christopher G. Brinton

机构 * Purdue University（普渡大学） ； University of Exeter（埃克塞特大学） ； Princeton University（普林斯顿大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文探讨了在资源受限环境下，通过设备与云端协同以及多智能体协作提升大语言模型性能的方法，提出了协同推理的两种维度，并讨论了协作学习与开放研究挑战。

Measuring What Matters: Benchmarking Generative, Multimodal, and Agentic AI in Healthcare

衡量重要性：在医疗保健中基准测试生成、多模态和代理AI

Prasanna Desikan, Harshit Rajgarhia, Shivali Dalmia, Ananya Mantravadi

机构 * Centific AI Research（Centific人工智能研究） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨了在医疗保健中评估生成、多模态和代理AI的基准测试方法，强调了现有基准测试在可靠性、安全性和临床相关性方面的不足，提出需要系统性的评估框架。

PHMForge: Evaluating LLM Agents on Industrial Prognostics through MCP-Native, Algorithm-Grounded Tools

PHMForge：通过MCP原生、算法基础的工具评估LLM代理在工业预测维护中的表现

Tianjun Feng, Yunfeng Chen, Chun-Yi Tsai, Yihan Sun, Ayan Das, Kaoutar El Maghraoui, Shuxin Lin, Dhaval Patel

机构 * Columbia University（哥伦比亚大学） ； Georgia Institute of Technology（佐治亚理工学院） ； IBM, New York（IBM，纽约） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 PHMForge通过MCP原生工具评估LLM代理在工业预测维护中的可靠性，揭示了静态检索在预测计算中的局限性，展示了不同框架和模型的表现差异。

Comments 23 pages, 3 figures

An Empirical Study of Multi-Agent Collaboration for Automated Research

多智能体协作在自动化研究中的实证研究

Yang Shen, Zhenyi Yi, Ziyi Zhao, Lijun Sun, Dongyang Li, Chin-Teng Lin, Yuhui Shi

机构 * University of Technology Sydney（悉尼技术大学） ； Southern University of Science and Technology（南方科技大学） ； Shenzhen Technology University（深圳技术大学） ； Tongji University（同济大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过实证研究比较了不同多智能体结构在自动化机器学习优化中的效果，发现子代理架构在时间受限下更稳定高效，而智能体团队架构在计算预算充足时能实现深度理论对齐。

SayNext-Bench: Why Do LLMs Struggle with Next-Utterance Anticipation?

SayNext-Bench：为什么LLMs在下一句预测中挣扎？

Yueyi Yang, Haotian Liu, Fang Kang, Mengqi Zhang, Zheng Lian, Hao Tang, Haoyu Chen

机构 * University of Oulu（奥卢大学） ； College of William and Mary（威廉与玛丽学院） ； Tongji University（同济大学） ； Peking University（北京大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨LLM在人类对话中的下一句预测能力，指出人类可通过多模态线索预测，而LLM表现不足。提出SayNext-Bench基准，结合多模态数据集和评估框架，开发SayNext-Chat模型，证明其在多层面优于现有模型。

Reliable LLM-Based Edge-Cloud-Expert Cascades for Telecom Knowledge Systems

可靠的基于大语言模型的边缘-云-专家级联系统用于电信知识系统

Qiushuo Hou, Sangwoo Park, Matteo Zecchin, Yunlong Cai, Guanding Yu, Osvaldo Simeone, Tommaso Melodia

机构 * College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院） ； Centre for Intelligent Information Processing Systems (CIIPS), Department of Engineering, King’s College London（伦敦国王学院工程系智能信息处理系统中心） ； Intelligent Networked Systems Institute (INSI) at Northeastern University（东北大学智能网络化系统研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种边缘-云-专家级联的LLM知识系统，通过问答流程实现决策，利用高效边缘模型处理常规查询，云模型处理复杂问题，必要时引入专家。通过统计严谨的阈值选择方法，保证在给定置信水平下可靠性。

Comments This paper has been submitted to a journal

Attention Grounded Enhancement for Visual Document Retrieval

基于注意力的视觉文档检索增强

Wanqing Cui, Wei Huang, Yazhi Guo, Yibo Hu, Meiguang Jin, Junfeng Ma, Keping Bi

机构 * Alibaba Group（阿里巴巴集团） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出AGREE框架，通过多模态大语言模型的注意力机制引导检索器识别相关文档区域，提升细粒度相关性建模，实验表明在ViDoRe V2基准上显著优于传统方法。

Comments Published as a conference paper at SIGIR 2026

Scam2Prompt: A Scalable Framework for Auditing Malicious Scam Endpoints in Production LLMs

Scam2Prompt: 一种可扩展的框架，用于审计生产LLM中的恶意诈骗端点

Zhiyang Chen, Tara Saba, Xun Deng, Xujie Si, Fan Long

机构 * OpenAI 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 Scam2Prompt通过生成开发者风格提示来测试LLM生成恶意代码的能力，发现4.24%的LLM会生成恶意URL，且在2025年发布的七种LLM中，恶意代码生成率高达12.9%-47.3%。

Prompt to Protection: A Comparative Study of Multimodal LLMs in Construction Hazard Recognition

提示到保护：多模态大语言模型在建筑危险识别中的比较研究

Nishi Chaudhary, S M Jamil Uddin, Sathvik Sharath Chandra, Anto Ovid, Alex Albert

机构 * Department of Construction Management, Colorado State University（科罗拉多州立大学建设管理系） ； Department of Civil, Construction, and Environmental Engineering, North Carolina State University（北卡罗来纳州立大学土木、建设与环境工程系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文比较了五种先进多模态大语言模型在建筑危险识别中的表现，发现提示策略显著影响性能，CoT提示效果最佳，GPT-4.5和GPT-o3表现突出，强调了提示设计在提升建筑安全应用准确性中的关键作用。

Smart Railway Obstruction Detection System using IoT and Computer Vision

基于物联网和计算机视觉的智能铁路障碍检测系统

Pravin Kumar, Mritunjay Shall Peelam, Ramakant Kumar, Sanjay Kumar, Vinay Chamola

机构 * School of Computer Science, University of Petroleum and Energy Studies (UPES)（石油与能源研究大学计算机科学学院） ； Department of Computer Science, Galgotias College of Engineering & Technology（工程与技术学院计算机科学系） ； Department of Computer Science, NIT Jamshedpur（jamshedpur国立理工学院计算机科学系） ； Department of Electrical and Electronics Engineering, BITS-Pilani, Pilani Campus（比什努尔理工学院电气与电子工程系） ； APPCAIR, BITS-Pilani, Pilani campus（比什努尔理工学院帕兰ी校区APPCAIR） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出NETRA系统，利用边缘计算平台实现低成本、低功耗的铁路入侵检测，通过概率传感器融合和边缘AI分类，提高检测准确率并降低部署成本。

parHSOM: A novel parallel Hierarchical Self-Organizing Map implementation

parHSOM：一种新型并行层次自组织映射实现

Rebekah Lane, Logan Cummins, Andy Perkins, George Trawick, Ioana Banicescu, Sudip Mittal

机构 * Computer Science \& Engineering Mississippi State University Starkville, United States ； Computer Science University of Alabama Tuscaloosa, United States 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出parHSOM，一种并行层次自组织映射架构，旨在加速HSOM训练过程，通过实验验证其在不同测试平台和数据集上的高效性，同时保持性能优势。

Is Your Driving World Model an All-Around Player?

你的驾驶世界模型是全能选手吗？

Lingdong Kong, Ao Liang, Tianyi Yan, Hongsi Liu, Wesley Yang, Ziqi Huang, Xian Sun, Wei Yin, Jialong Zuo, Yixuan Hu, Dekai Zhu, Dongyue Lu, Youquan Liu, Guangfeng Jiang, Linfeng Li, Xiangtai Li, Long Zhuo, Lai Xing Ng, Benoit R. Cottereau, Changxin Gao, Liang Pan, Wei Tsang Ooi, Ziwei Liu

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出WorldLens基准测试，评估驾驶世界模型在视觉和行为真实性方面的综合表现，揭示现有模型在不同维度上的不足，并引入WorldLens-26K和WorldLens-Agent提升评估的可解释性。

Comments CVPR 2026 VideoWorldModel Workshop; Project Page at https://worldbench.github.io/worldlens GitHub at https://github.com/worldbench/WorldLens

TINS: Test-time ID-prototype-separated Negative Semantics Learning for OOD Detection

TINS: 测试时ID-原型分离的负语义学习用于OD检测

Yifeng Yang, Jubo Feng, Jing Xu, Xinbing Wang, Qinying Gu, Nanyang Ye

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Innovation Institute（上海创新研究院） ； University of Electronic Science and Technology of China（电子科学与技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 TINS通过测试时ID-原型分离负语义学习方法，提升OOD检测性能，实验显示在Four-OOD基准上FPR95显著降低。

Personalized Deep Research: A User-Centric Framework, Dataset, and Hybrid Evaluation for Knowledge Discovery

个性化深度研究：以用户为中心的框架、数据集和混合评估方法用于知识发现

Xiaopeng Li, Wenlin Zhang, Yingyi Zhang, Pengyue Jia, Yejing Wang, Yichao Wang, Yong Liu, Huifeng Guo, Xiangyu Zhao

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出PDR框架，结合用户上下文动态调整检索深度和广度，通过混合评估方法提升检索效用和报告相关性，验证了个性化知识获取的可行性。

Comments Accepted to SIGIR 2026

FLARE: Full-Modality Long-Video Audiovisual Retrieval Benchmark with User-Simulated Queries

FLARE：全模态长视频音频视觉检索基准测试与用户模拟查询

Qijie You, Hao Liang, Mingrui Chen, Bohan Zeng, Meiyi Qiang, Zhenhao Wong, Wentao Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 FLARE基准测试通过全模态长视频和用户模拟查询，评估视频检索在多模态大语言模型中的表现，揭示用户查询对模型行为的影响及音频语言对齐的关键瓶颈。

Med-StepBench: A Hierarchical Reasoning Framework for Evaluating Hallucinations in Medical Vision-Language Models

Med-StepBench：一种用于评估医学视觉-语言模型幻觉的分层推理框架

Minh Khoi Nguyen, Dai Lam Le, Amir Reza Jafari, Tuan Dung Nguyen, Mai Hong Son, Mai Huy Thong, Quang Huy Nguyen, Thanh Trung Nguyen, Reza Farahbakhsh, Noel Crespi, Phi Le Nguyen

机构 * AI4LIFE, Hanoi University of Science and Technology, Vietnam（AI4LIFE，越南科学与技术大学） ； SAMOVAR, Télécom SudParis, Institut Polytechnique de Paris, France（SAMOVAR，法国电信南巴黎学院，巴黎理工学院） ； Military Central Hospital, Vietnam（越南108军中心医院） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出Med-StepBench，首个针对3D肿瘤PET/CT图像的分步幻觉检测基准，通过12000张图像和100万对图像-陈述数据，揭示了现有VLMs在多步临床推理中的系统性缺陷。

Comments Accepted at IJCAI-ECAI 2026