大模型对齐与安全

Advancing Multi-agent Traffic Simulation via R1-Style Reinforcement Fine-Tuning

通过R1风格强化微调推进多智能体交通模拟

Muleilan Pei, Shaoshuai Shi, Shaojie Shen

机构 * Hong Kong University of Science and Technology（香港理工大学） ； Voyager Research, Didi Chuxing（Voyager研究，滴滴出行） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 SMART-R1通过R1风格强化微调提升多智能体交通模拟的现实度与性能

Comments Accepted by ICLR 2026

Adversarial Déjà Vu: Jailbreak Dictionary Learning for Stronger Generalization to Unseen Attacks

对抗性 déjà vu：用于更强泛化到未见攻击的 jailbreak 字典学习

Mahavir Dabas, Tran Huynh, Nikhil Reddy Billa, Jiachen T. Wang, Peng Gao, Charith Peris, Yao Ma, Rahul Gupta, Ming Jin, Prateek Mittal, Ruoxi Jia

机构 * Virginia Tech（弗吉尼亚理工大学） ； Princeton University（普林斯顿大学） ； Amazon AGI（亚马逊人工智能研究院） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；AI safety(abstract)；分类 cs.LG

AI总结 本文提出通过对抗性技能组合训练提升模型对未知攻击的鲁棒性，通过分析攻击论文发现新型攻击是旧技能的重新组合，从而改进安全防御。

Co-Evolutionary Multi-Modal Alignment via Structured Adversarial Evolution

基于结构对抗进化的多模态对齐

Guoxin Shi, Haoyu Wang, Zaihui Yang, Yuxing Wang, Yongzhe Chang

专题命中 越狱攻击 ：alignment(title,abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 本文提出CEMA框架，通过共进化对抗提升多模态对齐的鲁棒性和安全性。

Comments Preprint

JALMBench: Benchmarking Jailbreak Vulnerabilities in Audio Language Models

JALMBench: 对音频语言模型中越权攻击的基准测试

Zifan Peng, Yule Liu, Zhen Sun, Mingchen Li, Zeren Luo, Jingyi Zheng, Wenhan Dong, Xinlei He, Xuechao Wang, Yingjie Xue, Shengmin Xu, Xinyi Huang

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； State Key Laboratory of Internet Architecture, Tsinghua University（清华大学互联网架构国家重点实验室） ； University of North Texas（北卡罗来纳州立大学） ； University of Science and Technology of China（中国科学技术大学） ； Fujian Normal University（福建师范大学） ； Nanjing University of Aeronautics and Astronautics（南京航空航天大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 JALMBench通过评估11,316个文本样本和245,355个音频样本，分析LALMs对越权攻击的安全性，揭示模态和架构对安全性的影响，强调需专门设计的防御方法。

JailNewsBench: Multi-Lingual and Regional Benchmark for Fake News Generation under Jailbreak Attacks

JailNewsBench: 多语言和区域假新闻生成对抗基准

Masahiro Kaneko, Ayana Niwa, Timothy Baldwin

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.CL、cs.LG

AI总结 JailNewsBench 是首个评估大语言模型对抗jailbreak攻击生成假新闻鲁棒性的多语言和区域基准，揭示了不同语言和区域间安全性的不平衡问题。

Comments ICLR 2026

Chain-of-Lure: A Universal Jailbreak Attack Framework using Unconstrained Synthetic Narratives

链式诱饵：一种利用无约束合成叙述的通用 jailbreak 攻击框架

Wenhan Chang, Tianqing Zhu, Yu Zhao, Shuangyong Song, Ping Xiong, Wanlei Zhou

机构 * School of Information Engineering, Zhongnan University of Economics and Law（中南财经政法大学信息工程学院） ； TeleAI, Beijing（北京TeleAI） ； City University of Macau（澳门城市大学） 纠错

专题命中 越狱攻击 ：jailbreak(title)；alignment(abstract)；分类 cs.CL

AI总结 本文提出了一种基于无约束合成叙述的通用jailbreak攻击框架，通过任务转移生成诱饵问题链并利用辅助模型优化，实现对LLMs的高成功率攻击，并提出毒性和防御策略。

Comments 23 pages, 3 main figures

MIDAS: Multi-Image Dispersion and Semantic Reconstruction for Jailbreaking MLLMs

MIDAS: 多图像分散与语义重建用于对抗多模态大语言模型

Yilian Liu, Xiaojun Jia, Guoshun Nan, Jiuyang Lyu, Zhican Chen, Tao Guan, Shuyuan Luo, Zhongyi Zhai, Yang Liu

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Nanyang Technological University（南洋理工大学） ； Guilin University of Electronic Technology（桂林电子科技大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 MIDAS通过多图像分散与语义重建技术，提升对抗多模态大语言模型的劫持性能，达到81.46%的平均攻击成功率。

Journal ref The Fourteenth International Conference on Learning Representations(2026)

Dynamic Token Reweighting for Robust Vision-Language Models

动态令牌重加权用于鲁棒的视觉-语言模型

Tanqiu Jiang, Jiacheng Liang, Rongyi Zhu, Jiawei Zhou, Fenglong Ma, Ting Wang

机构 * Stony Brook University（石溪大学） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.CL

AI总结 DTR通过优化KV缓存动态调整视觉令牌权重，提升视觉-语言模型对多模态劫持攻击的鲁棒性，同时保持模型性能。

Comments CVPR 2026

Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols

对可信监控的自适应攻击颠覆AI控制协议

Mikhail Terekhov, Alexander Panfilov, Daniil Dzenhaliou, Caglar Gulcehre, Maksym Andriushchenko, Ameya Prabhu, Jonas Geiping

机构 * MATS ； EPFL（瑞士联邦理工学院） ； ELLIS Institute Tübingen & Max Planck Institute for Intelligent Systems（图宾根ELLIS研究所及图宾根马克斯·普朗克智能系统研究所） ； Tübingen AI Center（图宾根人工智能中心） ； University of Tübingen（图宾根大学） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出针对AI控制协议中监控模型的自适应攻击方法，通过嵌入提示注入技术规避监控并完成恶意任务，揭示了当前控制协议的安全漏洞。

DualSentinel: A Lightweight Framework for Detecting Targeted Attacks in Black-box LLM via Dual Entropy Lull Pattern

DualSentinel: 一种用于通过双熵低谷模式检测黑盒LLM中针对性攻击的轻量级框架

Xiaoyi Pang, Xuanyi Hao, Pengyu Liu, Qi Luo, Song Guo, Zhibo Wang

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； The State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室） ； School of Cyber Science and Technology（网络安全科学与技术学院） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI

AI总结 DualSentinel通过双熵低谷模式检测黑盒LLM中的针对性攻击，提供高效且准确的防御方案。

VidDoS: Universal Denial-of-Service Attack on Video-based Large Language Models

VidDoS：针对基于视频的大语言模型的通用拒绝服务攻击

Duoxun Tang, Dasen Dai, Jiyao Wang, Xiao Yang, Jianyu Wang, Siqi Cai

机构 * Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； The Chinese University of Hong Kong, Hong Kong SAR（香港中文大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳研究院） ； Shenzhen Loop Area Institute, China（深圳环园院） ； McGill University（麦吉尔大学） ； The Hong Kong University of Science and Technology, Guangzhou（香港科学与技术大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 VidDoS是一种针对视频大语言模型的通用拒绝服务攻击方法，通过通用优化生成实例无关的触发器，导致模型推理延迟和token扩展显著增加，引发安全问题。

Thought Virus: Viral Misalignment via Subliminal Prompting in Multi-Agent Systems

Thought Virus: 通过潜意识提示在多智能体系统中产生病毒性偏差

Moritz Weckbecker, Jonas Müller, Ben Hagag, Michael Mulet

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 越狱攻击 ：alignment(abstract)；分类 cs.AI

AI总结 本研究揭示了多智能体系统中通过潜意识提示传播偏见的风险，指出单个智能体的潜意识提示可能影响整个网络的诚实性，提出新的安全攻击向量。

Comments 18 pages, 10 figures, 2 tables. Code available at https://github.com/Multi-Agent-Security-Initiative/thought_virus

VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents

VPI-Bench：用于计算机使用代理的视觉提示注入攻击

Tri Cao, Bennett Lim, Yue Liu, Yuan Sui, Yuexin Li, Shumin Deng, Lin Lu, Nay Oo, Shuicheng Yan, Bryan Hooi

机构 * National University of Singapore（国立新加坡大学） ； Cyber Emerging Tech and R&D Co（网络安全与研发公司） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

AI总结 本文提出VPI-Bench基准，用于评估计算机使用代理和浏览器使用代理在视觉提示注入攻击下的鲁棒性，发现当前代理在某些平台上被欺骗率达51%和100%。

Comments ICLR 2026

Prompt Injection Vulnerability of Consensus Generating Applications in Digital Democracy

共识生成应用在数字民主中的提示注入漏洞

Jairo Gudiño-Rosero, Clément Contet, Umberto Grandi, César A. Hidalgo

专题命中 提示注入 ：prompt injection(title)；分类 cs.CY

AI总结 研究揭示了共识生成LLMs在数字民主中的提示注入漏洞，并提出鲁棒性方法以减少方向性失败。

Comments 33 pages, 11 figures, 11 tables

Cognitive models can reveal interpretable value trade-offs in language models

认知模型可以揭示语言模型中的可解释价值权衡

Sonia K. Murthy, Rosie Zhao, Jennifer Hu, Sham Kakade, Markus Wulfmeier, Peng Qian, Tomer Ullman

机构 * Kempner Institute for Natural and Artificial Intelligence, Harvard University（哈佛大学自然与人工智能研究所） ； Google DeepMind（谷歌DeepMind） ； Department of Psychology, Harvard University（哈佛大学心理学系） 纠错

专题命中 提示注入 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用认知模型评估语言模型中的价值权衡，揭示其行为特征变化及对社会行为的影响。

Comments 10 pages, 5 figures

From Goals to Aspects, Revisited: An NFR Pattern Language for Agentic AI Systems

从目标到方面，重新审视：面向智能体AI系统的NFR模式语言

Yijun Yu

机构 * The Open University（开放大学） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出面向智能体AI系统的NFR模式语言，通过目标驱动的方法系统发现和模块化交叉切面问题，提升系统可靠性。

Comments 12 pages, submitted

LLMs as Strategic Actors: Behavioral Alignment, Risk Calibration, and Argumentation Framing in Geopolitical Simulations

大语言模型作为战略行为体：地缘政治模拟中的行为对齐、风险校准与论证框架

Veronika Solopova, Viktoria Skorik, Maksym Tereshchenko, Alina Haidun, Ostap Vykhopen

机构 * Mantisanalytics 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文研究了大语言模型在地缘政治模拟中的行为表现，发现其在初期能模拟人类决策，但随时间推移表现出不同的策略特征，且在论证框架上偏向规范性与合作性。

Quantifying Uncertainty in Void Swelling Prediction: A Conformal Prediction Framework for Reactor Safety Margins

量化空洞膨胀预测中的不确定性：一种用于反应堆安全余量的符合预测框架

Minhee Kim, Yong Yang

专题命中 幻觉与事实性 ：safety(title,abstract)

AI总结 本文提出一种结合集成机器学习与符合预测框架，用于量化空洞膨胀预测中的不确定性，以提升反应堆安全余量评估。

Efficient RLVR Training via Weighted Mutual Information Data Selection

通过加权互信息数据选择实现高效的RLVR训练

Xinyu Zhou, Boyu Zhu, Haotian Zhang, Huiming Wang, Zhijiang Guo

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 InSight通过加权互信息数据选择方法提升RLVR训练效率，实现性能和加速的显著提升。

Comments 15 Pages

BioCAP: Exploiting Synthetic Captions Beyond Labels in Biological Foundation Models

BioCAP: 利用合成描述性注释超越标签在生物基础模型中的应用

Ziheng Zhang, Xinyue Ma, Arpita Chowdhury, Elizabeth G. Campolongo, Matthew J. Thompson, Net Zhang, Samuel Stevens, Hilmar Lapp, Tanya Berger-Wolf, Yu Su, Wei-Lun Chao, Jianyang Gu

机构 * The Ohio State University（俄亥俄州立大学） ； Duke University（杜克大学） ； Boston University（波士顿大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 BioCAP通过生成合成描述性注释提升生物基础模型的性能，实现物种分类和文本-图像检索的高准确率。

Comments ICLR 2026; Project page: https://imageomics.github.io/biocap/

Calibrating Verbalized Confidence with Self-Generated Distractors

校准带有自生成干扰项的置信度

Victor Wang, Elias Stengel-Eskin

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出DINCO方法，通过自生成干扰项和归一化置信度校准，提升大型语言模型的置信度估计准确性。

Comments ICLR 2026. Code: https://github.com/victorwang37/dinco

Distribution-Aligned Decoding for Efficient LLM Task Adaptation

面向高效大语言模型任务适应的分布对齐解码

Senkang Hu, Xudong Han, Jinqi Jiang, Yihang Tao, Zihan Fang, Yong Dai, Sam Tak Wu Kwong, Yuguang Fang

机构 * Hong Kong JC STEM Lab of Smart City（香港JC智能城市STEM实验室） ； City University of Hong Kong（香港城市大学） ； University of Sussex（苏塞克斯大学） ； Huazhong University of Science and Technology（华中科技大学） ； Fudan University（复旦大学） ； Lingnan University（岭大大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 SVDecode通过引导输出分布对齐提升大语言模型任务适应性能，理论证明其与全微调等价，实验显示在多个任务上准确率提升显著。

Comments Accepted by NeurIPS'25

Anatomy of the Modality Gap: Dissecting the Internal States of End-to-End Speech LLMs

模态差距的解剖：剖析端到端语音大语言模型的内部状态

Ming-Hao Hsu, Xueyao Zhang, Xiaohai Tian, Jun Zhang, Zhizheng Wu

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen（数据科学学院，香港中文大学（深圳）） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文研究了端到端语音大语言模型中语音与文本表示的跨层对齐特性，揭示了语音冗余性导致的模态差距问题，并提出未来需在标记或时间粒度上进行优化。

Understanding the Physics of Key-Value Cache Compression for LLMs through Attention Dynamics

通过注意力动态理解LLMs中键值缓存压缩的物理原理

Samhruth Ananthanarayanan, Ayan Sengupta, Tanmoy Chakraborty

机构 * IIT Delhi, India（德里印度理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 通过分析LLMs中键值缓存压缩的物理机制，揭示了压缩对内部表示和语义可达性的影响，以及不同架构在路由动态上的差异。

CoSMo3D: Open-World Promptable 3D Semantic Part Segmentation through LLM-Guided Canonical Spatial Modeling

CoSMo3D：通过LLM引导的规范空间建模实现开放世界可提示的3D语义部分分割

Li Jin, Weikai Chen, Yujie Wang, Yingda Yin, Zeyu Hu, Runze Zhang, Keyang Luo, Shengju Qian, Xin Wang, Xueying Qin

机构 * SDU（山东大学） ； LIGHTSPEED（LIGHTSPEED公司） ； UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 CoSMo3D通过LLM引导的规范空间建模实现开放世界可提示的3D语义部分分割，提升语义稳定性和可转移性。

The Hidden Costs of Domain Fine-Tuning: Pii-Bearing Data Degrades Safety and Increases Leakage

领域微调的隐性成本：包含个人身份信息的数据会削弱安全性和增加泄露

Jayesh Choudhari, Piyush Kumar Singh

专题命中 隐私与版权 ：safety(title,abstract)；分类 cs.LG

AI总结 研究揭示领域微调导致安全性和隐私泄露风险增加，包含PII数据加剧了有害合规和信息泄露问题。

BinaryShield: Cross-Service Threat Intelligence in LLM Services using Privacy-Preserving Fingerprints

BinaryShield: 在LLM服务中利用隐私保护指纹实现跨服务威胁情报

Waris Gill, Natalie Isak, Matthew Dressman

机构 * Microsoft Redmond, USA（微软红mond分校） ； Microsoft New York, USA（微软纽约分校） 纠错

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.CL、cs.AI、cs.LG；trustworthy(comments)

AI总结 BinaryShield通过隐私保护技术实现跨服务威胁情报共享，提升LLM安全防护能力。

Comments Accepted at the 2026 IEEE Conference on Secure and Trustworthy Machine Learning (SaTML)

TTOM: Test-Time Optimization and Memorization for Compositional Video Generation

TTOM：测试时优化与记忆化用于组合视频生成

Leigang Qu, Ziyang Wang, Na Zheng, Wenjie Wang, Liqiang Nie, Tat-Seng Chua

机构 * National University of Singapore（国立新加坡大学） ； University of Science and Technology of China（中国科学技术大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 TTOM通过测试时优化与记忆化机制，提升组合视频生成的跨模态对齐能力，实现高效且可扩展的实时生成。

Comments ICLR 2026 Camera-ready. Project page: https://ttom-t2v.github.io/

Balancing Usability and Compliance in AI Smart Devices: A Privacy-by-Design Audit of Google Home, Alexa, and Siri

在AI智能设备中平衡易用性与合规性：对Google Home、Alexa和Siri的隐私设计审计

Trevor De Clark, Yulia Bobkova, Ajay Kumar Shrestha

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过隐私设计审计评估Google Home、Alexa和Siri的隐私与易用性，发现易用性与合规性之间存在权衡，需提升透明度和政策一致性以保护年轻用户隐私。

Comments Published in the 2026 IEEE CCWC proceedings

Journal ref 2026 IEEE 16th Annual Computing and Communication Workshop and Conference (CCWC)

SKeDA: A Generative Watermarking Framework for Text-to-video Diffusion Models

SKeDA：一种面向文本到视频扩散模型的生成水印框架

Yang Yang, Xinze Zou, Zehua Ma, Han Fang, Weiming Zhang

机构 * School of Electronic and Information Engineering, Anhui University（安徽大学电子与信息工程学院） ； Anhui Province Key Laboratory of Digital Security and the CAS Key Laboratory of Electromagnetic Space Information, University of Science and Technology of China（安徽省数字安全重点实验室和中国科学院电磁空间信息重点实验室，中国科学技术大学） ； School of Computing, National University of Singapore（新加坡国立大学计算机学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 SKeDA是一种专为文本到视频扩散模型设计的生成水印框架，通过分布保持采样和差分注意机制提升水印的鲁棒性和可靠性。

Comments 11 pages, 6 figures