大模型对齐与安全

Relevance as a Vulnerability: How Web Retrieval Degrades Safety Alignment in LLM Agents

相关性即漏洞：网络检索如何削弱LLM智能体的安全对齐

Aditya Nawal, Manit Baser, Mohan Gurusamy

机构 * Department of Electrical and Computer Engineering（电子与计算机工程系） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出AgentREVEAL框架，分析检索集成方式和内容属性如何导致LLM智能体安全退化，发现相关性是共同激活条件，并引入HarmURLBench基准。

Beyond English and Evasion: A Human-Annotated Multi-Domain Benchmark for High-Stakes LLM Safety Evaluation in Chinese

超越英语与规避：用于高风险LLM中文安全评估的人工标注多领域基准

Wajdi Zaghouani, Kholoud K. Aldous, Yicheng Gao

机构 * Northwestern University in Qatar（卡塔尔西北大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL

AI总结 针对LLM在中文环境下安全系统失效的问题，构建了包含1,897个对抗性提示的人工标注基准ChiSafe-PAS，覆盖四个高风险领域，并提供完整标注以评估模型安全对齐。

Journal ref Proceedings of The fourth international workshop on the role of resources in the age of large language models RESOURCEFUL-2026 at LREC 2026, Palma de Mallorca, Spain, 2026

Aligned but Fragile: Enhancing LLM Safety Robustness via Zeroth-Order Optimization

对齐但脆弱：通过零阶优化增强LLM安全鲁棒性

Zhihao Liu, Yifan Wu, Jian Lou, Di Wang, Yuxi Zhou, Yuke Hu

机构 * The State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高科技园区（滨江）区块链与数据安全研究院） ； Sun Yat-sen University（中山大学） ； KAUST（卡塔尔大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI

AI总结 针对大语言模型安全对齐后易受轻量级后处理（如参数噪声、激活噪声或量化）影响的问题，提出基于零阶优化的混合框架，通过先标准一阶安全对齐再零阶精炼提升鲁棒性，并利用扰动评估估计层鲁棒性敏感性以高效聚焦关键层更新。

MechELK: A Mechanistic Interpretability Framework for Eliciting Latent Knowledge in Large Language Models

MechELK：一种用于激发大型语言模型中潜在知识的机制可解释性框架

Ji-jun Park, Soo-joon Choi, Jiwon Jeong, Taeyang Yoon, Ju-Wan Lee

机构 * Dongguk University（东国大学） 纠错

专题命中 安全评测 ：alignment(abstract,abstract_cn)；safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 提出MechELK框架，通过定位、验证和激发三个阶段，利用稀疏自编码器特征分析和因果探测等方法，从大型语言模型中提取隐藏知识，在TruthfulQA等基准上平均激发准确率达84.7%。

Benchmarking Open-Source Safety Guard Models: A Comprehensive Evaluation

开源安全防护模型基准测试：全面评估

Reetu Raj Harsh, Bhaskarjit Sarmah, Stefano Pasquali

机构 * Domyn 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究对14个开源安全防护模型在8个NIST AI风险框架安全类别上进行全面评估，发现召回率是关键指标，且模型大小与安全检测性能不相关。

AlbanianLLMSafety: A Safety Evaluation Dataset for Large Language Models in Albanian

AlbanianLLMSafety：面向阿尔巴尼亚语大语言模型的安全评估数据集

Wajdi Zaghouani, Kholoud K. Aldous, Isra Fejzullaj

机构 * Northwestern University in Qatar（卡塔尔西北大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL

AI总结 针对低资源语言阿尔巴尼亚语，构建了首个公开的安全评估数据集，包含11个安全类别的2951条提示，以填补安全评估基础设施的空白。

Comments Accepted at SIGUL2026 Workshop co-located with LREC2026

Journal ref In Proceedings of the SIGUL2026 Workshop co-located with LREC 2026, Palma de Mallorca, Spain, 2026

KZ-SafetyPrompts: A Kazakh Safety Evaluation Prompt Dataset for Large Language Models

KZ-SafetyPrompts：用于大型语言模型的哈萨克语安全评估提示数据集

Wajdi Zaghouani, Shimaa Amer Ibrahim, Aruzhan Muratbek, Olzhasbek Zhakenov, Adiya Akhmetzhanova

机构 * Northwestern University in Qatar（卡塔尔西北大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL

AI总结 针对哈萨克语在大型语言模型安全评估中资源不足的问题，构建了一个包含11个风险类别、5717条原生哈萨克语提示的数据集，并基于GPT-4o基线测试发现跨类别拒绝率差异显著，揭示了仅英语评估无法捕获的类别特定安全漏洞。

Comments Accepted at the SIGUL2026 Workshop co-located with LREC2026

Journal ref In Proceedings of the SIGUL2026 Workshop co-located with LREC 2026, Palma de Mallorca, Spain, 2026

A Study on Question-Answer Dataset for LLM Safety Evaluation with a Focus on Illegal Activities

面向LLM安全评估的问答数据集研究：聚焦非法活动

Kenji Imamura, Masao Ideuchi, Atsushi Fujita

机构 * National Institute of Information and Communications Technology（日本信息与通信技术研究所） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL

AI总结 本文通过人工分析AnswerCarefully数据集，提出额外信息、问答示例创建方法和评估准则，用于评估LLM在非法活动方面的安全性。

Comments 10 pages, 1 figure

Prototype-Guided Latent Alignment for Data-Efficient Fine-Tuning of Molecular Foundation Models

原型引导的潜在对齐用于分子基础模型的数据高效微调

Rushikesh Pawar, Harshit Rawat, Ayush Kumar, Phani Motamarri

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出基于原型的对齐方法，通过将目标域原子的能量贡献对齐到源域原型，实现分子基础模型在低数据下的高效微调，在rMD17和SPICE数据集上能量MAE降低高达18%。

Comments 17 pages, 3 figures

When Models Learn to Ask Why: Adaptive Causal Reasoning for Trustworthy Medical Vision-Language Models

当模型学会问为什么：面向可信医疗视觉语言模型的自适应因果推理

Jianxin Lin, Chunzheng Zhu, Peter J. Kneuertz, Yunfei Bai, Yuan Xue

机构 * The Ohio State University（俄亥俄州立大学） ； Hunan University（湖南大学） ； Amazon（亚马逊） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出MedCausalX框架，通过因果推理链、自适应反射架构和轨迹级因果校正，解决医疗VLM中的虚假相关和推理不一致问题，显著提升诊断一致性和减少幻觉。

Comments Accepted by CVPR 2026 Findings

SURGENT: A Surgical Multi-Agent Assistance System Across the Perioperative Workflow

SURGENT: 一种跨围手术期工作流程的手术多智能体辅助系统

Dongsheng Shi, Yue Li, Xin Yi, Yongyi Cui, Huawei Feng, Linlin Wang

机构 * East China Normal University（华东师范大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 提出SURGENT手术多智能体辅助系统，结合思维树规划器、多科室协作智能体和检索增强推理，通过新型记忆设计管理长期患者病史和短期工作摘要，在五项围手术期任务中优于基线LLM和现有医疗多智能体框架。

Comments preprint

A Review of Learning-Based Motion Planning: Toward a Data-Driven Optimal Control Approach

基于学习的运动规划综述：迈向数据驱动的最优控制方法

Jia Hu, Yang Chang, Haoran Wang

机构 * College of Transportation Key Laboratory of Road and Traffic Engineering of the Ministry of Education（交通运输学院 道路交通工程教育部重点实验室） ； Institute for Advanced Study（先进研究院） ； Tongji University（同济大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文系统综述了数据驱动最优控制范式，通过融合最优控制的理论保证与机器学习的自适应能力，为自动驾驶运动规划提供了三维实现路线图，并指出了四个未来研究方向。

Comments 44 pages, 14 figures

Quantum-Enhanced Adversarial Robustness in Artificial Intelligence

人工智能中的量子增强对抗鲁棒性

Jaydip Sen

机构 * Praxis Business School（普拉斯业务学校） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文综述了对抗性机器学习与量子计算交叉领域，提出利用量子优化、特征映射和混合量子-经典架构来增强人工智能系统的对抗鲁棒性。

Comments This is the pre-print of the chapter which has been accepted for publication in the edited volume titled "Quantum Enhancements to the AI Industry", edited by Eduard Babulak. The volume will be published by IGI Global, USA. This is not the final version of the chapter published in the book

AliMark: Enhancing Robustness of Sentence-Level Watermarking Against Text Paraphrasing

AliMark: 增强句子级水印对文本释义的鲁棒性

Yuexin Li, Wenjie Qu, Linyu Wu, Yulin Chen, Yufei He, Tri Cao, Bryan Hooi, Jiaheng Zhang

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出AliMark框架，将句子级水印重构为比特序列编码与对齐问题，通过多候选对齐检测策略提升对句子拆分合并等结构扰动的鲁棒性。

Comments Accepted by ICML 2026

Genetically Aligned Patient Representations Improve Hematological Diagnosis

基因对齐的患者表示改善血液学诊断

Muhammed Furkan Dasdelen, Fatih Ozlugedik, Ilaria Looser, Rao Muhammad Umer, Christian Pohlkamp, Carsten Marr

机构 * Institute of AI for Health, Helmholtz Munich, Germany International School of Medicine, Istanbul Medipol University, T\"urkiye Munich Leukemia Laboratory, Germany Department of Medicine III, Ludwig-Maximilian-University Hospital, Germany Department of Physics, University of Munich, Germany Munich Center for Machine Learning (MCML), Germany DKTK, German Cancer Consortium, Germany 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种两阶段框架，通过自监督视觉预训练和监督对比学习对齐白细胞图像与染色体畸变及体细胞突变，提升血液学诊断性能。

Comments Accepted for publication at the 29th International Conference on Medical Image Computing and Computer Assisted Intervention - MICCAI 2026

GICDM: Mitigating Hubness for Reliable Distance-Based Generative Model Evaluation

GICDM: 缓解枢纽性以实现可靠的基于距离的生成模型评估

Nicolas Salvy, Hugues Talbot, Bertrand Thirion

机构 * Inria, Palaiseau, France（法国帕莱索研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 针对生成模型评估中高维嵌入空间的枢纽性现象，提出GICDM方法（基于迭代上下文不相似度度量），通过多尺度扩展校正邻域估计，恢复可靠度量并与人类评估对齐。

Comments Forty-third International Conference on Machine Learning, 2026

Revisiting the Reliability of Language Models in Instruction-Following

重新审视指令跟随中语言模型的可靠性

Jianshuo Dong, Yutong Zhang, Yan Liu, Zhenyu Zhong, Tao Wei, Chao Zhang, Han Qiu

机构 * Tsinghua University（清华大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出可靠@k指标和自动生成相似提示的流水线，构建IFEval++基准，发现当前模型在细微差异提示下性能下降高达61.8%，并探索了三种改进方法。

Comments ACL 2026 main oral

Towards Human-Like Interactive Speech Recognition With Agentic Correction and Semantic Evaluation

迈向具有智能体纠正和语义评估的类人交互式语音识别

Zixuan Jiang, Yanqiao Zhu, Peng Wang, Qinyuan Chen, Xinjian Zhao, Xipeng Qiu, Wupeng Wang, Zhifu Gao, Xiangang Li, Kai Yu, Xie Chen

机构 * College of Artificial Intelligence, Xi’an Jiaotong University（西安交通大学人工智能学院） ； X-LANCE Lab, School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University（上海交通大学电子信息与电气工程学院X-LANCE实验室） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Fudan University（复旦大学） ； Tongyi Fun Team, Alibaba Group（阿里云通义团队） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出Agentic ASR闭环框架，通过多轮交互和语义纠正减少语义错误，并引入句子级语义错误率（S^2ER）作为评估指标。

Beyond Recall: Behavioral Specification as an Interpretive Layer for AI Personalization

超越回忆：行为规范作为AI个性化的解释层

Aarik Gulaya

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出行为规范作为解释层，通过压缩用户数据为解释性模式，显著提升AI代理对用户意图的表示准确性，减少模型规避，并在解释型问题上优于原始语料和商业记忆系统。

Comments 134 pages, 4 figures. Code, data, judge prompts, and reproduction instructions: github.com/agulaya24/beyond-recall

GPF-LiveNews: A Streaming Evaluation Protocol for Group-Conditioned Framing in Large Language Models

GPF-LiveNews: 大型语言模型中群体条件框架的流式评估协议

Mohd Ariful Haque, Fahad Rahman, Kishor Datta Gupta, Roy George

机构 * Clark Atlanta University（克拉克阿特兰大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出GPF-LiveNews流式评估协议，通过实时新闻锚点与身份标签组合，检测LLM输出中针对不同受众的语义敏感性和情感差异，用于审计群体条件框架。

Empathic Prompting: Non-Verbal Context Integration for Multimodal LLM Conversations

共情提示：多模态大语言模型对话中的非语言上下文整合

Lorenzo Stacchio, Andrea Ubaldi, Alessandro Galdelli, Maurizio Mauri, Emanuele Frontoni, Andrea Gaggioli

机构 * University of Macerata（马切拉塔大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出共情提示框架，通过集成面部表情识别服务将非语言情感线索隐式融入大语言模型对话，实现无需用户显式控制的流畅多模态交互。

GPIC: A Giant Permissive Image Corpus for Visual Generation

GPIC：用于视觉生成的大型许可图像数据集

Keshigeyan Chandrasegaran, Kyle Sargent, Suchir Agarwal, Michael Jang, Michael Poli, Juan Carlos Niebles, Justin Johnson, Jiajun Wu, Li Fei-Fei

机构 * Stanford University（斯坦福大学） ； Radical Numerics ； University of Michigan（密歇根大学） ； Salesforce Research（Salesforce研究） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出GPIC，一个约28万亿像素的大型许可图像数据集，包含1亿训练样本，通过最先进的视觉语言模型标注，用于视觉生成建模研究。

Comments 25 pages; Dataset: https://huggingface.co/datasets/stanford-vision-lab/giant-permissive-image-corpus; Project website: https://gpic.stanford.edu

ProjectionBench: Evaluating Scientific Hypothesis Generation in LLMs Under Progressive Information Disclosure

ProjectionBench: 在渐进信息揭示下评估大语言模型的科学假设生成

A. J. Lew, Y. Cao, M. J. Buehler

机构 * Unreasonable Labs 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出ProjectionBench框架，通过渐进式信息揭示评估大语言模型在科学发现中的创新性和推理能力，实验表明GPT-5.4在最小上下文下仍保持0.7 F1分数与真实结论对齐。

Comments 19 pages, 4 figures

RL2ML: Finite-Rollout Surrogate Objectives from Reinforcement Learning to Maximum Likelihood

RL2ML: 从强化学习到最大似然的有限rollout替代目标

Yifu Zheng

机构 * University of Southern California（南加州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出RL2ML系列有限rollout替代目标，具有闭式无偏梯度估计，连接标准强化学习、类最大似然训练及超越最大似然目标，并揭示群体级更新尺度相变，将剩余自由度转化为一维优化问题。

Convergence Theory for Iterative LLM-Based Neural Architecture Search: A Parametric Cross-Entropy Framework with Closed-Form Proxy Reliability

基于迭代式LLM的神经架构搜索的收敛理论：一个具有闭式代理可靠性的参数化交叉熵框架

Santosh Premi Adhikari, Radu Timofte, Dmitry Ignatov

机构 * Computer Vision Lab, CAIDAS & IFI, University of Würzburg, Germany（计算机视觉实验室，CAIDAS与IFI，乌尔姆大学，德国） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 将迭代式LLM-NAS建模为参数化交叉熵方法，证明了收敛性、精英集概率几何收敛、增量生成有效性、MinHash-Jaccard去重防止模式崩溃以及代理可靠性闭式公式，并通过实验验证了理论预测。

Comments 14 pages, 2 figures, 2 tables. Submitted to NeurIPS 2026

DirectorBench: Diagnosing Long-Form Video Generation with Personalized Multi-Agent Evaluation

DirectorBench: 通过个性化多智能体评估诊断长视频生成

Jiamin Chen, Qianben Chen, Jiawen Zhang, Yidi Wu, Yuchen Li, Xiaokun Zhang, Wangchunshu Zhou, Chen Ma

机构 * ByteDance Inc.（字节跳动公司） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出DirectorBench，一种基于多智能体的诊断基准，通过80个结构化元数据、7个用户画像和40个检查点标准，在脚本、视觉、音频、跨模态和稳定性五个维度上评估长视频生成，并定位瓶颈和用户偏好依赖。

NICE: A Theory-Grounded Diagnostic Benchmark for Social Intelligence of LLMs

NICE：一个基于理论的LLM社交智能诊断基准

Yunjin Qi, Zhaojun Jiang, Xuan Wu, Hanxi Pan, Yixuan Wang, Yanfang Liu, Xiang Ji, Churu Yu, Chunyuan Zheng, Yingze Chen, Jie He, Liuqing Chen, Zaifeng Gao

机构 * Department of Psychology and Behavioral Sciences, Zhejiang University（浙江大学心理学与行为科学系） ； College of Artificial Intelligence, Zhejiang University（浙江大学人工智能学院） ； Human Machine Interaction Lab, Huawei Technologies Co., Ltd.（华为技术有限公司人机交互实验室） ； Zhejiang Key Laboratory of Neurocognitive Development and Mental Health（浙江省神经认知发展与心理健康重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文通过构建基于社会理论的社交智能框架，提出诊断基准NICE，用于细粒度评估大语言模型在社交交互中的能力弱点。

Verifiable Rewards Beyond Math and Code: Lightweight Corpus-Grounded Process Supervision for Factual Question Answering

超越数学与代码的可验证奖励：面向事实问答的轻量级语料库基础过程监督

Shicheng Fan, Haochang Hao, Dehai Min, Weihao Liu, Philip S. Yu, Lu Cheng

机构 * University of Illinois Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出CorVer，一种基于语料库共现统计的轻量级过程奖励方法，通过句子级信用分配和令牌级优势映射，在多个模型和基准上显著提升事实问答准确性且训练速度更快。

Evaluating Cross-lingual Knowledge Consistency in Code-Mixed vis-a-vis Indian Languages using IndicKLAR

评估混合语码与印度语言中的跨语言知识一致性：基于IndiKLAR

Debajyoti Mazumder, Divyansh Pathak, Prashant Kodali, Aditya Joshi, Akshay Agarwal, Jasabanta Patro

机构 * Indian Institute of Science Education and Research（印度科学教育与研究学院） ； Microsoft Corporation（微软公司） ； UNSW Sydney（新南威尔士大学悉尼分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过构建IndiKLAR基准，评估大语言模型在英语、混合语码和印度本土语言上的知识召回一致性，发现混合语码输入能显著缩小与英语的性能差距，并识别出从本土语言到混合语码的“翻转点”。

Comments 23 pages

Benchmarking and Mitigating Sycophancy in Medical Vision Language Models

医疗视觉语言模型中的谄媚行为基准测试与缓解

Juangui Xu, Zikun Guo, Jingwei Lv, Hongbin Lin, Shu Yang, Jun Wen, Di Wang, Lijie Hu

机构 * MBZUAI ； Saarland University（萨尔兰大学） ； HKUST(GZ)（香港科技大学（广州）） ； KAUST（卡塔尔大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对医疗视觉语言模型中的谄媚问题，提出分层医疗视觉问答基准和VIPER策略，通过过滤非证据社会线索减少谄媚，提升模型鲁棒性。

Comments 19figures, 61pages. The first two authors contributed equally