大模型对齐与安全

When Choices Become Risks: Safety Failures of Large Language Models under Multiple-Choice Constraints

当选择成为风险：在多选约束下大型语言模型的安全失败

Yuheng Chen, Zhiyu Wu, Bowen Cheng, Tetsuro Takahashi

机构 * Kagoshima University（鹿儿岛大学） ； Fudan University（复旦大学） ； China University of Petroleum-Beijing（中国石油大学（北京）） 纠错

专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL

AI总结 研究发现，在多选约束下，LLM可能绕过拒绝行为，导致安全风险增加，揭示当前安全评估在结构化任务中的不足。

TWGuard: A Case Study of LLM Safety Guardrails for Localized Linguistic Contexts

TWGuard：LLM安全护栏在本地化语言环境中的案例研究

Hua-Rong Chu, Kuan-Chun Wang, Yao-Te Huang

机构 * Chunghwa Telecom Laboratories（中华电信实验室） 纠错

专题命中 安全训练 ：safety(title,abstract)；AI safety(abstract)；分类 cs.CL

AI总结 本文提出通过定制数据集优化语言环境特定的LLM安全护栏模型，以解决语言和文化差异导致的性能与实际效果差距问题，TWGuard在F1指标上提升显著，并在误报率上表现优异。

Comments This work has been submitted to the IEEE for possible publication

Using large language models for embodied planning introduces systematic safety risks

使用大型语言模型进行具身规划引入了系统性的安全风险

Tao Zhang, Kaixian Qu, Zhibin Li, Jiajun Wu, Marco Hutter, Manling Li, Fan Shi

机构 * ETH Zurich（苏黎世联邦理工学院） ； University College London（伦敦大学学院） ； Stanford University（斯坦福大学） ； Northwestern University（西北大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究评估了大型语言模型在机器人规划中的安全性，发现即使规划能力高，安全风险仍显著存在，揭示了规划能力与安全意识之间的乘法关系。

Comments Project page: https://despite-safety.github.io/

HEALing Entropy Collapse: Enhancing Exploration in Few-Shot RLVR via Hybrid-Domain Entropy Dynamics Alignment

HEALing Entropy Collapse: 通过混合领域熵动力学对齐增强少样本RLVR的探索

Zhanyu Liu, Qingguo Hu, Ante Wang, Chenqing Liu, Zhishang Xiang, Hui Li, Delai Qiu, Jinsong Su

机构 * School of Informatics, Xiamen University（厦门大学信息学院） ； Tsinghua University（清华大学） ； Xiamen Unisound Intelligence Technology Co., Ltd（厦门Unisound智能科技有限公司） ； Key Laboratory of Digital Protection and Intelligent Processing of Intangible Cultural Heritage of Fujian and Taiwan (Xiamen University), Ministry of Culture and Tourism, China（福建省和台湾非物质文化遗产数字化保护与智能处理重点实验室（厦门大学），中华人民共和国文化和旅游部，中国） 纠错

专题命中 安全训练 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出HEAL框架，通过混合领域熵动力学对齐缓解少样本RLVR中的熵崩溃问题，提升探索多样性与推理性能。

Comments Accepted by ACL 2026 Main Conference

Bielik Guard: Efficient Polish Language Safety Classifiers for LLM Content Moderation

Bielik Guard：高效的波兰语安全分类器用于LLM内容审核

Krzysztof Wróbel, Jan Maria Kowalski, Jerzy Surma, Igor Ciuciura, Maciej Szymański

专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 Bielik Guard通过高效波兰语安全分类器提升LLM内容审核效果，0.5B模型在F1分数上表现最佳，0.1B模型在效率与低误报率上优于现有方案。

Safe for Whom? Rethinking How We Evaluate the Safety of LLMs for Real Users

为谁安全？重新思考如何为真实用户评估LLM的安全性

Manon Kempermann, Sai Suresh Macharla Vasu, Mahalakshmi Raveenthiran, Theo Farrell, Ingmar Weber

机构 * Interdisciplinary Institute for Societal Computing（社会计算跨学科研究所） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨了评估LLM对真实用户安全性的挑战，指出需考虑用户情境差异，通过测试不同LLM在金融和健康建议上的表现，发现用户背景影响评估结果，且仅依赖用户披露信息不足以提升安全性评估。

Comments Paper accepted at IASEAI'26; please cite that peer-reviewed version instead

On Safety Risks in Experience-Driven Self-Evolving Agents

经验驱动自演化代理中的安全风险

Weixiang Zhao, Yichen Zhang, Yingshuo Wang, Yang Deng, Yanyan Zhao, Xuda Zhi, Yongbo Huang, HaoHe, Wanxiang Che, Bing Qin, Ting Liu

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Singapore Management University（新加坡管理大学） ； SERES 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL

AI总结 研究经验积累与利用对自演化代理在网页和具身环境中的安全性能影响，揭示经验驱动导致的安全性下降及安全-效用权衡问题。

Comments Findings of ACL 2026

Learning from AVA: Early Lessons from a Curated and Trustworthy Generative AI for Policy and Development Research

从AVA学习：为政策与发展研究构建的可信生成式AI的早期经验

Nimisha Karnatak, Mohamad Chatila, Daniel Alejandro Pinzón Hernández, Reza Yazdanfar, Michelle Dugas, Renos Vakis

机构 * University of Oxford（牛津大学） ； Nouswise, Inc.（Nouswise公司） 纠错

专题命中 安全训练 ：trustworthy(title)；分类 cs.AI

AI总结 AVA通过多代理流程为政策研究提供证据合成，通过引用可验证性和合理回避机制实现认知谦逊，实验证明其能节省用户时间，为专用AI设计提供指导。

Comments Accepted at ACM CHI'26

OPSDL: On-Policy Self-Distillation for Long-Context Language Models

OPSDL：针对长上下文语言模型的在线自蒸馏

Xinsen Zhang, Zhenkai Ding, Tianjun Pan, Run Yang, Chun Kang, Xue Xiong, Jingnan Gu

机构 * Baidu Inc（百度公司） 纠错

专题命中 安全训练 ：DPO(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 OPSDL通过在线自蒸馏方法提升长上下文能力，利用模型自身短上下文能力作为自教师，通过点-wise KL散度提供每token监督信号，有效减少幻觉并提升样本效率，优于传统后训练方法。

Comments 9 pages, 1 figure

Multimodal Policy Internalization for Conversational Agents

多模态策略内化用于对话代理

Zhenhailong Wang, Jiateng Liu, Amin Fazel, Ritesh Sarkhel, Xing Fan, Xiang Li, Chenlei Guo, Heng Ji, Ruhi Sarikaya

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出多模态策略内化任务，通过将复杂策略内化为模型参数，提升对话代理的策略遵循能力，同时提供新数据集和训练框架TriMPI以促进研究。

Towards Intrinsic Interpretability of Large Language Models:A Survey of Design Principles and Architectures

面向大语言模型内在可解释性的探索：设计原则与架构的综述

Yutong Gao, Qinglin Meng, Yuan Zhou, Liangming Pan

机构 * MOE Key Lab of Computational Linguistics, Peking University（计算语言学MOE实验室，北京大学） ； Beijing Academy of Artificial Intelligence, Beijing, China（北京人工智能研究院，北京，中国） ； Nanjing University of Science and Technology（南京理工大学） ； Purdue University（普渡大学） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文综述了大语言模型内在可解释性的发展，分类现有方法为五种设计范式，并讨论开放挑战与未来研究方向。

Comments Accepted to the Main Conference of ACL 2026. 14 pages, 4 figures, 1 table

Different Paths to Harmful Compliance: Behavioral Side Effects and Mechanistic Divergence Across LLM Jailbreaks

有害合规的不同路径：跨大语言模型劫持的行为主效应和机制差异

Md Rysul Kabir, Zoran Tiganj

机构 * Department of Computer Science（计算机科学系） ； Luddy School of Informatics, Computing, and Engineering（信息学、计算与工程学院） ； Indiana University Bloomington（印第安纳大学布卢明顿分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了三种不同劫持方法对模型行为和机制的影响，发现RLVR劫持模型在安全性和合规性上表现更稳定，而SFT和ablation劫持则导致显著的性能下降和行为漂移。

Jupiter-N Technical Report

木星-N技术报告

George Drayson

机构 * Locai Labs, University College London（Locai实验室，伦敦大学学院） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 木星-N通过混合推理模型在Nemotron 3 Super基础上进行微调，提升代理能力、文化对齐和威尔士语支持，同时保留基础模型能力。

Heterogeneous Self-Play for Realistic Highway Traffic Simulation

异质自博弈用于逼真高速公路交通模拟

Jinkai Qiu, Alessandro Saviolo, Chaojie Wang, Mingke Wang, Xiaoyu Huang

机构 * PlusAI 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出PHASE框架，通过自博弈生成逼真高速公路场景，支持不同车辆类型并提升交互真实性，实现零样本迁移至512个真实场景。

Comments 8 pages, 2026 CVPR SAD Workshop

SafeConstellations: Mitigating Over-Refusals in LLMs Through Task-Aware Representation Steering

SafeConstellations: 通过任务感知的表示引导缓解大语言模型的过度拒绝行为

Utsav Maskey, Sumit Yadav, Mark Dras, Usman Naseem

机构 * Macquarie University（麦考瑞大学） ； IOE, Pulchowk Campus（IOE普楚克校区） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 本文提出SafeConstellations方法，通过任务感知的表示引导在推理时调整表示轨迹，减少大语言模型在处理良性指令时的过度拒绝现象，同时保持模型实用性。

Comments ACL 2026 Main

WISV: Wireless-Informed Semantic Verification for Distributed Speculative Decoding in Device-Edge LLM Inference

WISV：无线感知语义验证用于设备-边缘分布式推测解码

Zixuan Liu, Zhiyong Chen, Nan Xue, Shengkang Chen, Jiangchao Yao, Meixia Tao, Wenjun Zhang

机构 * Cooperative Medianet Innovation Center（联合中位网创新中心） ； Department of Electronic Engineering, Shanghai Jiao Tong University（上海交通大学电子工程系） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出WISV框架，通过通道感知语义接受策略优化分布式推测解码，提升接受长度和降低交互轮次，实验证明在设备边缘LLM推理中具有显著性能优势。

Comments submitted to IEEE Trans

Cognitive Policy-Driven LLM for Diagnosis and Intervention of Cognitive Distortions in Emotional Support Conversation

认知驱动的LLM用于情绪支持对话中认知扭曲的诊断与干预

Lin Zhong, Renjin Zhu, Shujuan Ma, Jinhao Cui, Lingzhi Wang, Hao Chen, Qing Liao

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） ； City University of Macau, Macao SAR, China（澳门城市大学） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 本文提出CogBiasESC数据集和CoPoLLM框架，用于提升LLM在情绪支持对话中识别和干预认知扭曲的能力，实验显示其在诊断准确性和安全性方面优于现有方法。

Comments Accepted at ACL 2026 (Main Conference)

Please refuse to answer me! Mitigating Over-Refusal in Large Language Models via Adaptive Contrastive Decoding

请拒绝回答我！通过自适应对比解码缓解大语言模型中的过度拒绝问题

Yupeng Qi, Ziyu Lyu, Lixin Cui, Lu Bai, Feng Xia

机构 * School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University（中山大学信息科学与技术学院深圳校区） ； School of Information, Central University of Finance and Economics（中央财经大学信息学院） ； School of Artificial Intelligence, Beijing Normal University（北京师范大学人工智能学院） ； School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 本文提出自适应对比解码方法，通过对比安全提示下的输出分布，缓解大语言模型的过度拒绝问题，同时保持对恶意查询的高拒绝率。

Comments Accepted by ACL 2026 Main Conference

B-PASTE: Beam-Aware Pattern-Guided Speculative Execution for Resource-Constrained LLM Agents

B-PASTE：面向资源受限LLM代理的束感知模式引导推测执行

Yanfei Song

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 B-PASTE通过束感知技术，在资源受限条件下实现局部分支假设的推测执行，优先执行快路径并利用安全并行，提升端到端效率。

EvoMarket: A High-Fidelity and Scalable Financial Market Simulator

EvoMarket：一种高保真且可扩展的金融市场模拟器

Muyao Zhong, Zhenhua Yang, Yuxiang Liu, Ke Tang, Peng Yang

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出EvoMarket，一种多资产和跨日环境下的多智能体金融市场模拟器，通过高吞吐量执行核心和显式机构机制，实现高保真度、可扩展性和计算可行性。

GuardPhish: Securing Open-Source LLMs from Phishing Abuse

GuardPhish: 保护开源大语言模型免受钓鱼攻击

Rina Mishra, Gaurav Varshney, Doddipatla Sesha Sahithi

专题命中 安全训练 ：safety(abstract)

AI总结 本文通过GuardPhish数据集研究开源大语言模型在静态安全配置下的钓鱼风险，发现即使模型能识别钓鱼意图，仍可能生成有效钓鱼内容，提出基于GuardPhish的分类器提升防御能力。

Chance-Constrained Neural MPC under Uncontrollable Agents via Sequential Convex Programming

在不可控代理下通过序列凸编程实现机会约束神经MPC

Shuqi Wang, Mingyang Feng, Yu Chen, Yue Gao, Xiang Yin

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种神经MPC框架，通过学习离线数据预测不可控代理轨迹，并采用区域鲁棒符合预测方案构建时间依赖性不确定性界，以确保预测误差的正式概率保证，实验表明该方法在自动驾驶场景中安全性和效率优于基线方法。

Comments Extended version of a paper accepted to the 23rd IFAC World Congress 2026, Busan, Korea, under the journal publication option

Rethinking Jailbreak Detection of Large Vision Language Models with Representational Contrastive Scoring

重新思考大型视觉语言模型的 Jailbreak 检测：基于表示对比评分

Peichun Hua, Hao Li, Shanghao Shi, Zhiyuan Yu, Ning Zhang

机构 * Washington University in St. Louis（圣路易斯华盛顿大学） ； Texas A&M University（德克萨斯农工大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,title_cn)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于内部表示对比评分的框架，通过学习轻量投影分离良性与恶意输入，实现有效 Jailbreak 检测，改进现有方法的泛化能力和效率。

Comments To appear at ACL 2026 main

SafeDream: Safety World Model for Proactive Early Jailbreak Detection

SafeDream: 用于主动早期对抗检测的安全世界模型

Bo Yan, Weikai Lin, Yada Zhu, Song Wang

机构 * University of Central Florida（中央佛罗里达大学） ； University of Rochester（罗切斯特大学） ； IBM Research（IBM研究院） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(title,abstract)；alignment(abstract)；分类 cs.AI

AI总结 本文提出SafeDream，一种轻量级世界模型框架，通过安全状态模型、CUSUM检测和对比想象组件，实现早期对抗检测，提升检测及时性并降低误报率。

HarmChip: Evaluating Hardware Security Centric LLM Safety via Jailbreak Benchmarking

HarmChip：通过禁用基准测试评估以硬件安全为中心的LLM安全

Zeng Wang, Minghao Shao, Weimin Fu, Prithwish Basu Roy, Xiaolong Guo, Ramesh Karri, Muhammad Shafique, Johann Knechtel, Ozgur Sinanoglu

专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(title,abstract)；alignment(abstract)

AI总结 本文提出HarmChip基准测试，评估LLM在硬件安全领域的禁用脆弱性，涵盖16个领域、120种威胁和360个提示，揭示了先进LLM在安全查询与伪装攻击间的矛盾表现。

Benign Fine-Tuning Breaks Safety Alignment in Audio LLMs

良性微调破坏音频大语言模型的安全对齐

Jaechul Roh, Amir Houmansadr

机构 * University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；alignment(title)；jailbreak(abstract,abstract_cn)

AI总结 研究探讨了音频大语言模型中良性微调对安全对齐的影响，发现通过嵌入空间距离筛选良性音频可降低安全风险，但不同架构和模态的微调风险存在差异，提出两种防御措施以降低安全漏洞。

Uncovering Logit Suppression Vulnerabilities in LLM Safety Alignment

揭示LLM安全对齐中的logit抑制漏洞

Yuxi Li, Yi Liu, Yuekang Li, Ling Shi, Gelei Deng, Shengquan Chen, Kailong Wang

机构 * Huazhong University of Science and Technology（华中科技大学） ； Nanyang Technological University（南洋理工大学） ； University of New South Wales（新南威尔士大学） ； Nankai University（南开大学） 纠错

专题命中 越狱攻击 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SSAG方法，通过系统操控输出层logit揭示LLM安全对齐的漏洞，实验显示其在五种主流模型上以95%成功率暴露有害响应，同时减少86%的响应时间。

ASTRA: An Automated Framework for Strategy Discovery, Retrieval, and Evolution for Jailbreaking LLMs

ASTRA：一种用于对抗大语言模型 jailbreak 的自动化框架

Xu Liu, Yan Chen, Kan Ling, Yichi Zhu, Hengrun Zhang, Guisheng Fan, Huiqun Yu

机构 * School of Information Science and Engineering, East China University of Science and Technology, Shanghai, China（东华大学信息科学与工程学院，上海，中国） 纠错

专题命中 越狱攻击 ：jailbreak(title_cn,abstract)；alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 ASTRA 提出了一种自动化框架，通过闭环机制自动发现、检索和演化攻击策略，提升攻击策略的多样性和适应性。

Comments Acccepted by ACL 2026, 20 pages, 7 figures, 13 tables

Jailbreaking Large Language Models with Morality Attacks

通过道德攻击 jailbreak 大型语言模型

Ying Su, Mingen Zheng, Weili Diao, Haoran Li

机构 * South China University of Technology（南方科技大学） ； HKUST（香港科技大学） ； Beihang University（北航大学） 纠错

专题命中 越狱攻击 ：jailbreak(title_cn,abstract)；alignment(abstract)；分类 cs.CL

AI总结 本文通过道德攻击研究大型语言模型的内部道德价值观，构建了包含10300个实例的道德数据集，提出了四种对抗攻击方法，揭示了LLM和防护模型在道德感知攻击中的关键漏洞。

Comments 27 pages, 6 figures, 18 tables. Accepted by ACL 2026 Findings

Beyond Single-Turn: A Survey on Multi-Turn Interactions with Large Language Models

超越单轮：大型语言模型多轮交互的综述

Yubo Li, Xiaobin Shen, Yidi Miao, Xinyu Yao, Xueying Ding, Ramayya Krishnan, Rema Padman

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 越狱攻击 ：jailbreak(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文综述了大型语言模型在多轮交互中的评估与增强进展，探讨了多轮对话中上下文、连贯性、公平性和响应性等挑战，并总结了模型优化、外部整合和协作技术等方法。