大模型对齐与安全

Enhancing Value Alignment of LLMs with Multi-agent system and Combinatorial Fusion

通过多智能体系统和组合融合增强大语言模型的价值对齐

Yuanhong Wu, Djallel Bouneffouf, D. Frank Hsu

专题命中 偏好对齐 ：alignment(title,abstract)；RLHF(abstract)；trustworthy(abstract)；分类 cs.CL

AI总结 本文提出VAS-CFA框架，通过多智能体和组合融合提升大语言模型的价值对齐，实验证明其在标准度量上优于现有方法。

Comments 5 pages, 3 figures, accepted to 2026 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP)

Bielik-Minitron-7B: Compressing Large Language Models via Structured Pruning and Knowledge Distillation for the Polish Language

Bielik-Minitron-7B：通过结构化剪枝和知识蒸馏压缩大型语言模型以适应波兰语

Remigiusz Kinas, Paweł Kiszczak, Sergio P. Perez, Krzysztof Ociepa, Łukasz Flis, Krzysztof Wróbel, Adrian Gwoździej

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)；分类 cs.CL、cs.AI

AI总结 Bielik-Minitron-7B通过结构化剪枝和知识蒸馏将Bielik-11B-v3.0模型压缩至7.35B参数，优化波兰语性能，实现90%的性能恢复和50%的推理加速。

Examining Reasoning LLMs-as-Judges in Non-Verifiable LLM Post-Training

检验推理LLM作为裁判在不可验证LLM后续训练中的表现

Yixin Liu, Yue Yu, DiJia Su, Sid Wang, Xuewei Wang, Song Jiang, Bo Liu, Arman Cohan, Yuandong Tian, Zhengxing Chen

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究通过受控合成设置检验推理LLM作为裁判在非验证LLM后续训练中的效果，发现推理裁判能生成高性能策略，但易受对抗性输出影响，揭示了其在实际政策训练中的潜力与挑战。

Resonate: Reinforcing Text-to-Audio Generation via Online Feedback from Large Audio Language Models

Resonate：通过来自大音频语言模型的在线反馈强化文本到音频生成

Xiquan Li, Junxi Liu, Wenxi Chen, Haina Zhu, Ziyang Ma, Xie Chen

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)

AI总结 Resonate通过整合在线GRPO和大音频语言模型奖励，提升文本到音频生成的音频质量和语义对齐性能。

SVLL: Staged Vision-Language Learning for Physically Grounded Embodied Task Planning

SVLL：分阶段视觉-语言学习用于物理基础的具身任务规划

Yuyuan Yang, Junkun Hong, Hongrong Wang, Honghao Cai, Xunpeng Ren, Ge Wang, Mingcong Lei, Shenhao Yan, Jiahao Yang, Chengsi Yao, Xi Li, Yiming Zhao, Yatong Han, Jinke Ren

机构 * FNii-Shenzhen, CUHKSZ（FNii深圳，CUHKSZ） ； SSE, CUHKSZ（SSE，CUHKSZ） ； SAI, CUHKSZ（SAI，CUHKSZ） ； Shenzhen University（深圳大学） ； University of Sydney（悉尼大学） ； Harbin Engineering University（哈尔滨工程大学） ； Ising AI 纠错

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)

AI总结 SVLL 通过分阶段学习和 Bias-DPO 对齐目标，实现稳健的物理基础具身任务规划，提升任务成功率并减少物理约束违规。

Subliminal Signals in Preference Labels

偏好标签中的潜意识信号

Isotta Magistrali, Frédéric Berdoz, Sam Dauncey, Roger Wattenhofer

机构 * ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.LG

AI总结 研究揭示偏好标签可能传递潜意识行为特征，挑战传统二进制监督假设，强调需机制检测并缓解潜意识偏好传输以确保超对齐的稳健监督。

Comments Accepted at AITW@ICLR 2026

Trust Your Critic: Robust Reward Modeling and Reinforcement Learning for Faithful Image Editing and Generation

相信你的批评者：用于忠实图像编辑和生成的鲁棒奖励建模与强化学习

Xiangyu Zhao, Peiyuan Zhang, Junming Lin, Tianhao Liang, Yuchen Duan, Shengyuan Ding, Changyao Tian, Yuhang Zang, Junchi Yan, Xue Yang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Wuhan University（武汉大学） ； BUPT（北京邮电大学） ； CUHK（香港中文大学） ； Fudan University（复旦大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 偏好对齐 ：alignment(abstract)

AI总结 本文提出FIRM框架，通过定制数据集和鲁棒奖励模型，提升图像编辑和生成的忠实性与指令遵循，采用'基础与奖励'策略平衡一致性与质量，实现性能突破。

PRMB: Benchmarking Reward Models in Long-Horizon CBT-based Counseling Dialogue

PRMB：基于长期horizon认知行为疗法对话的奖励模型基准测试

Yougen Zhou, Qin Chen, Ningning Zhou, Jie Zhou, Liang He

专题命中 偏好对齐 ：alignment(abstract)

AI总结 PRMB提出了一种用于评估奖励模型在多会话CBT咨询中长期效果的基准，揭示了现有方法的不足并展示了生成奖励模型的潜力。

Deactivating Refusal Triggers: Understanding and Mitigating Overrefusal in Safety Alignment

消除拒绝触发：理解并缓解安全对齐中的过度拒绝问题

Zhiyu Xue, Zimo Qi, Guangliang Liu, Bocheng Chen, Ramtin Pedarsani

机构 * University of California, Santa Barbara（加州大学圣巴巴拉分校） ； Johns Hopkins University（约翰霍普金斯大学） ； Michigan State University（密歇根州立大学） ； University of Mississippi（密苏里州立大学） 纠错

专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 本文研究了安全对齐中过度拒绝问题的成因，提出了一种考虑拒绝触发的缓解策略，通过优化训练过程提高模型对良性查询的响应能力。

Senna-2: Aligning VLM and End-to-End Driving Policy for Consistent Decision Making and Planning

Senna-2：对齐视觉语言模型与端到端驾驶策略以实现一致的决策与规划

Yuehao Song, Shaoyu Chen, Hao Gao, Yifan Zhu, Weixiang Yue, Jialv Zou, Bo Jiang, Zihao Lu, Yu Wang, Qian Zhang, Xinggang Wang

机构 * Huazhong University of Science & Technology（华中科技大学） ； Horizon Robotics 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)

AI总结 Senna-2通过三阶段训练范式对齐视觉语言模型与端到端驾驶策略，提升决策与规划的一致性，增强驾驶安全性和效率。

Comments 15 pages, 8 figures. Project page: https://ambitious-idiot.github.io/senna2-project

LaST-VLA: Thinking in Latent Spatio-Temporal Space for Vision-Language-Action in Autonomous Driving

LaST-VLA: 在自动驾驶的视觉-语言-动作中思考于潜在的空间-时间空间

Yuechen Luo, Fang Li, Shaoqing Xu, Yang Ji, Zehan Zhang, Bing Wang, Yuannan Shen, Jianwei Cui, Long Chen, Guang Chen, Hangjun Ye, Zhi-Xin Yang, Fuxi Wen

专题命中 安全训练 ：alignment(abstract)；safety(abstract)

AI总结 LaST-VLA通过潜在空间-时间推理框架，结合双特征对齐机制和渐进式SFT训练策略，提升自动驾驶中的视觉-语言-动作处理能力，实现更安全的物理基础推理。

Sim-to-reality adaptation for Deep Reinforcement Learning applied to an underwater docking application

深度强化学习在水下对接应用中的仿真到现实适应

Alaaeddine Chaarani, Narcis Palomeras, Pere Ridao

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出利用高保真数字双胞胎环境和PPO算法，开发了用于水下对接的深度强化学习控制器，通过仿真到现实适应提升了对接成功率，并在物理测试中验证了其有效性。

Comments Currently under review by IROS 2026

Understanding LLM Behavior When Encountering User-Supplied Harmful Content in Harmless Tasks

理解LLM在执行无害任务时遇到用户提供的有害内容的行为

Junjie Chu, Yiting Qu, Ye Leng, Michael Backes, Yun Shen, Savvas Zannettou, Yang Zhang

机构 * CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全研究中心） ； Flexera（Flexera公司） ； Delft University of Technology（代尔夫特理工大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本研究探讨了LLM在执行无害任务时遇到用户提供的有害内容时的行为，发现主流LLM在处理有害内容时未能维持伦理标准，且某些类别和任务更易引发有害响应。

Comments 21 pages, 11 figures

MedEyes: Learning Dynamic Visual Focus for Medical Progressive Diagnosis

MedEyes: 学习动态视觉聚焦以进行医学逐步诊断

Chunzheng Zhu, Yangfang Lin, Shen Chen, Yijun Wang, Jianxin Lin

专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI

AI总结 MedEyes通过动态视觉聚焦和双模式探索策略，提升医学逐步诊断的准确性与临床相关性。

Comments AAAI 2026, Medical Chain-of-Thought (CoT), Reinforcement Learning with Verifiable Rewards (RLVR), Multimodal Grounded Reasoning

SliceFed: Federated Constrained Multi-Agent DRL for Dynamic Spectrum Slicing in 6G

SliceFed: 6G动态频谱切片中的联邦约束多智能体深度强化学习

Hossein Mohammadi, Seyed Bagher Hashemi Natanzi, Ramak Nassiri, Jamshid Hassanpour, Bo Tang, Vuk Marojevic

专题命中 安全训练 ：safety(abstract)

AI总结 SliceFed通过联邦约束多智能体深度强化学习框架，解决6G动态频谱切片中的资源分配问题，实现高频谱效率和严格的服务质量要求。

Comments 4 figures, 3 algorithms charts

Safe and Stylized Trajectory Planning for Autonomous Driving via Diffusion Model

通过扩散模型实现自动驾驶的安全且风格化的轨迹规划

Shuo Pei, Yong Wang, Yuanchen Zhu, Chen Sun, Qin Li, Yanan Zhao, Huachun Tan

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出SDD Planner，通过结合多源风格感知编码器和风格引导动态轨迹生成器，实现自动驾驶中安全与风格化轨迹规划的平衡，实验表明其在多个基准测试中表现优异。

Comments 12 pages, 7 figures, submitted to IEEE Transactions on Intelligent Transportation Systems

Cascade: Composing Software-Hardware Attack Gadgets for Adversarial Threat Amplification in Compound AI Systems

级联：组合软件硬件攻击工具以在复合AI系统中实现对抗性威胁放大

Sarbartha Banerjee, Prateek Sahu, Anjo Vahldiek-Oberwagner, Jose Sanchez Vicarte, Mohit Tiwari

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文提出通过结合传统软件硬件漏洞与LLM算法攻击，实现复合AI系统中的对抗性威胁放大，展示两种新型攻击方法并系统化分析其组合。

Comments 11 pages, 8 figures, 1 table

Hiding in Plain Sight: A Steganographic Approach to Stealthy LLM Jailbreaks

明目张胆：一种用于隐蔽大语言模型劫持的隐写术方法

Jianing Geng, Biao Yi, Zekun Fei, Ruiqi He, Lihai Nie, Tong Li, Zheli Liu

机构 * College of Cyber Science, Key Laboratory of DISSec, Nankai University（网络安全学院、DISSec重点实验室、南开大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 StegoAttack通过隐写术在无害段落中嵌入有害查询，实现对大语言模型的高效隐蔽劫持。

Detecting LLM-Generated Peer Reviews

检测由大语言模型生成的同行评审

Vishisht Rao, Aounon Kumar, Himabindu Lakkaraju, Nihar B. Shah

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出了一种通过间接提示注入在同行评审中嵌入隐蔽水印的方法，用于检测由大语言模型生成的评审，该方法具有强统计保证并能有效应对常见防御措施。

Comments 27 pages, 2 figures

Taming OpenClaw: Security Analysis and Mitigation of Autonomous LLM Agent Threats

驯服OpenClaw：自主LLM代理威胁的分析与缓解

Xinhao Deng, Yixiang Zhang, Jiaqing Wu, Jiaqi Bai, Sibo Yi, Zhuoheng Zou, Yue Xiao, Rennai Qiu, Jianan Ma, Jialuo Chen, Xiaohu Du, Xiaofang Yang, Shiwen Cui, Changhua Meng, Weiqiang Wang, Jiaxing Song, Ke Xu, Qi Li

机构 * Ant Group & Tsinghua University（蚂蚁集团与清华大学） ； Tsinghua University（清华大学） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文分析了自主LLM代理OpenClaw的安全威胁，提出五层安全框架，揭示现有防御机制的不足，并提出包括插件审查、上下文过滤等在内的综合防御策略。

LLLMs: A Data-Driven Survey of Evolving Research on Limitations of Large Language Models

LLMs: 一种数据驱动的关于大语言模型局限性研究演变的调查

Aida Kostikova, Zhipin Wang, Deidamea Bajri, Ole Pütz, Benjamin Paaßen, Steffen Eger

机构 * University of Bielefeld（比勒菲尔德大学） ； University of Technology Nuremberg（纽伦堡技术大学） ； University of Mannheim（曼海姆大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过数据驱动的方法分析了大语言模型局限性研究的演变趋势，揭示了推理、泛化等关键问题的热点及研究进展。

Comments ACM Computing Surveys (CSUR); 56 pages

CHiL(L)Grader: Calibrated Human-in-the-Loop Short-Answer Grading

CHiL(L)Grader: 带校准置信度的循环人工参与简答评分

Pranav Raikote, Korbinian Randl, Ioanna Miliou, Athanasios Lakes, Panagiotis Papapetrou

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 CHiL(L)Grader通过校准置信度估计和人类参与流程，实现高置信度自动评分与不确定情况的人工处理，提升AI辅助评分的可靠性。

Quantifying Aleatoric Uncertainty of the Treatment Effect: A Novel Orthogonal Learner

量化治疗效应的偶然不确定性：一种新的正交学习者

Valentyn Melnychuk, Stefan Feuerriegel, Mihaela van der Schaar

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出了一种新的正交学习者（AU-learner），用于量化治疗效应的偶然不确定性，通过部分可识别性方法获得CDTE的精确界限，并展示了其在Neyman正交性和准Oracle效率方面的优势。

Journal ref Proceedings of the 38th Conference on Neural Information Processing Systems (NeurIPS 2024), Vancouver, Canada, 2024

A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms

自动驾驶系统推理的综述：开放挑战与新兴范式

Kejin Yu, Yuhan Sun, Taiqiang Wu, Ruixu Zhang, Zhiqiang Lin, Yuxin Meng, Junjie Wang, Yujiu Yang

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文综述了自动驾驶系统推理的挑战与新兴范式，提出认知层次分解驾驶任务，并系统化七个核心推理挑战，强调发展可验证的神经符号架构以解决高延迟推理与安全需求的矛盾。

Comments Published in TMLR (March 2026) | OpenReview: https://openreview.net/forum?id=XwQ7dc4bqn

Decision-Aware Uncertainty Evaluation of Vision-Language Model-Based Early Action Anticipation for Human-Robot Interaction

基于视觉语言模型的早期动作预测在人机交互中的决策感知不确定性评估

Zhaoda Du, Michael Bowman, Qiaojie Zheng, Xiaoli Zhang

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 本文提出了一种系统评估基于视觉语言模型的短期动作识别在人机交互中的不确定性方法，通过引入时间前缀评估协议和校准度量标准，揭示了部分观测下的误校准模式和失败模式，为信心门控的人机交互模块提供了可靠性证据。

Decoupling Perception from Reasoning for Hallucination-Resistant Video Understanding

解耦感知与推理以实现抗幻觉的视频理解

Bowei Pu, Chuanbin Liu, Yifan Ge, Peicheng Zhou, Yiwei Sun, Zhiying Lu, Zhangchi Hu, Hongtao Xie

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文提出DPL模型，通过解耦感知与推理以提升视频理解的抗幻觉能力，引入感知奖励和FAE评估器，有效提高训练后性能和数据效率。

Comments 17 pages, 8 figures

CTIGuardian: A Few-Shot Framework for Mitigating Privacy Leakage in Fine-Tuned LLMs

CTIGuardian：一种缓解微调大语言模型隐私泄露的少样本框架

Shashie Dilhara Batan Arachchige, Benjamin Zi Hao Zhao, Hassan Jameel Asghar, Dinusha Vatsalan, Dali Kaafar

专题命中 隐私与版权 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 CTIGuardian通过少样本监督整合隐私分类器和红员，提升微调大语言模型的隐私保护与效用平衡。

Comments Accepted at the 18th Cybersecurity Experimentation and Test Workshop (CSET), in conjunction with ACSAC 2025

Journal ref 2025 Annual Computer Security Applications Conference Workshops (ACSAC Workshops), Honolulu, HI, USA, 2025, pp. 510-522

You Told Me to Do It: Measuring Instructional Text-induced Private Data Leakage in LLM Agents

你让我这么做：测量LLM代理中指令文本诱导的私有数据泄露

Ching-Yu Kao, Xinfeng Li, Shenyu Dai, Tianze Qiu, Pengcheng Zhou, Eric Hanchen Jiang, Philip Sperl

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 研究发现LLM代理在处理嵌入文档指令时存在安全漏洞，导致高比例的数据泄露，且现有防御措施无法有效检测此类攻击。

Comments 14 pages

Silent Speech Interfaces in the Era of Large Language Models: A Comprehensive Taxonomy and Systematic Review

在大语言模型时代的大声接口：全面的分类法和系统性综述

Kele Xu, Yifan Wang, Ming Feng, Qisheng Xu, Wuyang Chen, Yutao Dou, Cheng Yang, Huaimin Wang

专题命中 隐私与版权 ：alignment(abstract)

AI总结 本文综述了在大语言模型时代无声语音接口的发展，探讨了从传统传感器到意图执行的分类法，分析了生物信号处理的转变，并提出了未来发展方向和伦理边界。

Comments 20 pages, 4 figures

AI Chatbots or Human Therapists? Belief-Based Predictors of Mental Health Help-Seeking Intentions in the Age of Generative AI

人工智能聊天机器人还是人类治疗师？在生成式人工智能时代的基于信念的心理健康求助意图预测

Junsang Park, Sarah Brown, David L. Vogel, Nan Zhao, Sharon Lynn Chu

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 本研究探讨了生成式人工智能时代人们在使用AI聊天机器人和人类治疗师之间的选择，发现人际支持和经济因素影响求助意图。

Comments v2: Corrected analysis; updated results, introduction, and discussion accordingly