大模型对齐与安全

TAPO: Translation Augmented Policy Optimization for Multilingual Mathematical Reasoning

TAPO：多语言数学推理中的翻译增强策略优化

Xu Huang, Zhejian Lai, Zixian Huang, Jiajun Chen, Shujian Huang

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

AI总结 TAPO通过引入翻译增强策略优化框架，提升多语言数学推理能力，有效结合语言理解和推理能力，优于基线方法并在未见语言和领域任务中表现良好。

From Logic Monopoly to Social Contract: Separation of Power and the Institutional Foundations for Autonomous Agent Economies

从逻辑垄断到社会契约：权力分离与自主代理经济制度的基础

Anbang Ruan

机构 * NetX Foundation（NetX 基金会） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出通过社会契约实现权力分离，解决多智能体框架中的逻辑垄断问题，引入Agent Enterprise paradigm并构建NetX Enterprise Framework，建立自主代理经济体系。

Comments 143 pages, 15 tables, 23 figures, 173 references, 4 appendices. Working paper -- pre-peer-review preprint. LaTeX source with arXiv-style template. Three companion manuscripts under development targeting peer-reviewed venues

Mechanistically Interpreting Compression in Vision-Language Models

视觉语言模型压缩的机理解释

Veeraraju Elluru, Arth Singh, Roberto Aguero, Ajay Agarwal, Debojyoti Das, Hreetam Paul

机构 * Indian Institute of Technology Jodhpur（印度理工学院焦特布尔分校） ； AIM Intelligence ； National Institute of Technology Agartala（国立阿加尔塔拉理工学院） ； Fordham University（福特汉姆大学） ； University of Fukui（福井大学） ； Independent Researcher（独立研究员） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文通过因果电路分析和交叉编码器特征比较，研究了剪枝和量化对视觉语言模型内部结构的影响，并提出VLMSafe-420基准测试，揭示压缩对安全行为的影响。

Comments 15 pages, 7 figures, 12 tables

Integrated Multi-Drone Task Allocation, Sequencing, and Optimal Trajectory Generation in Obstacle-Rich 3D Environments

集成多无人机任务分配、任务序列和最优轨迹生成在障碍密集的3D环境中

Yunes Alqudsi, Murat Makaraci

机构 * Aerospace Engineering Department, Faculty of Aeronautics and Astronautics, Kocaeli University（科贾埃利大学航空与航天学院航空航天工程系） ； Interdisciplinary Research Center for Aviation and Space Exploration, KFUPM（法赫德国王石油矿产大学航空与空间探索跨学科研究中心） ； Mechanical Engineering Department, Faculty of Aeronautics and Astronautics, Kocaeli University（科贾埃利大学航空与航天学院机械工程系） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出IMD-TAPP框架，通过结合离散任务规划和连续轨迹合成，解决多无人机在障碍密集环境中的任务分配、序列规划和安全轨迹生成问题，实现动态可行且无碰撞的高效路径。

Comments Resubmission following accepted appeal (MOD-78958). Resubmitting to cs.RO with cross-lists cs.MA and cs.AI as advised by arXiv Support

Model2Kernel: Model-Aware Symbolic Execution For Safe CUDA Kernels

Model2Kernel: 用于安全CUDA内核的模型感知符号执行

Mengting He, Shihao Xia, Haomin Jia, Wenfei Wu, Linhai Song

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； State Key Lab of Processors, Institute of Computing Technology, CAS（中国科学院计算技术研究所处理器实验室） ； Peking University（北京大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出Model2Kernel，通过模型感知动态分析验证LLM推理中CUDA内核的内存安全，利用专门的符号执行技术发现353个未知bug，仅产生9个误报。

Can GRPO Boost Complex Multimodal Table Understanding?

GRPO能否提升复杂多模态表格理解？

Xiaoqiang Kang, Shengen Wu, Zimu Wang, Yilin Liu, Xiaobo Jin, Kaizhu Huang, Wei Wang, Yutao Yue, Xiaowei Huang, Qiufeng Wang

机构 * School of Advanced Technology, Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学先进科技学院） ； Department of Computer Science, University of Liverpool（利物浦大学计算机科学系） ； Information Hub, Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）信息中心） ； University of Southern California（南加州大学） ； Duke Kunshan University（杜克大学昆山分校） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Table-R1框架，通过预热、感知对齐GRPO和提示-完成GRPO三阶段提升多模态表格理解性能，优于SFT和GRPO。

Comments EMNLP 2025

Journal ref EMNLP 2025

C-STEP: Continuous Space-Time Empowerment for Physics-informed Safe Reinforcement Learning of Mobile Agents

C-STEP：连续时空赋能用于物理引导的移动智能体安全强化学习

Guihlerme Daubt, Adrian Redder

机构 * Faculty of Technology, Bielefeld University, Germany（比勒菲尔德大学技术学院，德国） ； Department of Electrical Engineering and Information Technology, Paderborn University, Germany（帕德博恩大学电气工程与信息科技系，德国） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文提出C-STEP方法，通过结合导航奖励设计物理引导的内在奖励，提升移动智能体在复杂环境中的安全导航能力，减少碰撞并优化任务完成。

AI-driven Intent-Based Networking Approach for Self-configuration of Next Generation Networks

基于人工智能的意图驱动网络方法用于下一代网络的自配置

Md. Kamrul Hossain, Walid Aljoby

机构 * Information and Computer Science Department, King Fahd University of Petroleum and Minerals（信息与计算机科学系，国王法赫德石油与矿物大学） ； IRC for Intelligent Secure Systems, King Fahd University of Petroleum and Minerals（智能安全系统研究院，国王法赫德石油与矿物大学） 纠错

专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种端到端闭环IBN流程，利用大语言模型和结构化验证将自然语言意图转化为可执行策略，并通过多意图故障预测提升自动化可靠性。

Comments Accepted for presentation in IEEE/IFIP NOMS 2026

Trojan's Whisper: Stealthy Manipulation of OpenClaw through Injected Bootstrapped Guidance

Trojan's Whisper：通过注入的Bootstrap引导 stealthily操纵OpenClaw

Fazhong Liu, Zhuoyan Chen, Tu Lan, Haozhen Tan, Zhenyu Xu, Xiang Li, Guoxing Chen, Yan Meng, Haojin Zhu

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 安全训练 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文研究了通过注入引导文件进行的隐蔽攻击，揭示了自主代理生态系统设计中的根本矛盾，强调了基于能力隔离、运行时策略执行和透明引导溯源的防御需求。

PowerLens: Taming LLM Agents for Safe and Personalized Mobile Power Management

PowerLens：利用大语言模型安全且个性化地管理移动设备电源

Xingyu Feng, Chang Sun, Yuzhu Wang, Zhangbing Zhou, Chengwen Luo, Zhuangzhuang Chen, Xiaomin Ouyang, Huanqi Yang

机构 * China University of Geosciences (Beijing)（中国地质大学（北京）） ； Shenzhen University（深圳大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 PowerLens通过利用大语言模型的常识推理，实现安全且个性化的移动电源管理。系统通过用户活动与系统参数之间的语义桥梁，生成适应个人偏好的零样本策略，通过隐式反馈学习用户偏好，无需显式配置，3-5天内收敛。

From Intuition to Investigation: A Tool-Augmented Reasoning MLLM Framework for Generalizable Face Anti-Spoofing

从直觉到探究：一种工具增强的推理MLLM框架用于可推广的面部反伪装

Haoyuan Zhang, Keyao Wang, Guosheng Zhang, Haixiao Yue, Zhiwen Tan, Siran Peng, Tianshuo Zhang, Xiao Tan, Kunbin Chen, Wei He, Jingdong Wang, Ajian Liu, Xiangyu Zhu, Zhen Lei

机构 * SAI, UCAS（UCAS智能科学研究院） ； MAIS, CASIA（CASIA模式识别与智能信息处理研究院） ； Baidu Inc（百度公司） ； CAIR, HKISI, CAS（HKISI CAS计算机视觉研究院） ； M.U.S.T 纠错

专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出TAR-FAS框架，通过整合外部视觉工具提升面部反伪装的泛化能力，采用CoT-VT范式使MLLM深入分析细微伪装线索，实验表明其在跨域协议下达到SOTA性能。

Comments Accepted by CVPR 2026

Reinforcement Unlearning via Group Relative Policy Optimization

通过群体相对策略优化实现强化反学习

Efstratios Zaradoukas, Bardh Prenkaj, Gjergji Kasneci

机构 * Chair of Responsible Data Science（负责任数据科学教授职位） ； Technical University of Munich（慕尼黑技术大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文提出PURGE方法，通过群体相对策略优化框架将反学习建模为可验证问题，有效减少敏感数据影响，提升模型流畅性和鲁棒性，实验表明其在反学习效果和实用性上优于现有方法。

Comments Accepted to ICLR 2026

Efficient Cross-Domain Offline Reinforcement Learning with Dynamics- and Value-Aligned Data Filtering

高效跨领域离线强化学习中的动态与价值对齐数据筛选

Zhongjian Qiao, Rui Yang, Jiafei Lyu, Chenjia Bai, Xiu Li, Siyang Gao, Shuang Qiu

机构 * City University of Hong Kong ； University of Illinois Urbana-Champaign ； Tencent ； Institute of Artificial Intelligence, China Telecom (TeleAI) ； Tsinghua University. Corresponding Author 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出DVDF方法，通过动态和价值对齐筛选源域样本，提升跨领域离线强化学习性能，实验表明其在多种任务和数据集上表现优异。

Escaping Offline Pessimism: Vector-Field Reward Shaping for Safe Frontier Exploration

摆脱离线悲观主义：用于安全前沿探索的向量场奖励塑造

Amirhossein Roknilamouki, Arnob Ghosh, Eylem Ekici, Ness B. Shroff

专题命中 安全训练 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出向量场奖励塑造方法，通过梯度对齐和旋转向量项诱导持续安全前沿探索，验证了在连续导航任务中有效平衡安全与信息收集。

From Workflow Automation to Capability Closure: A Formal Framework for Safe and Revenue-Aware Customer Service AI

从工作流自动化到能力闭合：一种安全且收益意识的客户服务AI形式框架

Cosimo Spera

机构 * Minerva CQ 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出一种形式框架，用于安全且收益意识的客户服务AI，解决自动化转型中安全缺口问题，通过动态组合能力实现安全目标。

Toward Experimentation-as-a-Service in 5G/6G: The Plaza6G Prototype for AI-Assisted Trials

迈向5G/6G的实验即服务：Plaza6G原型用于AI辅助试验

Sergio Barrachina-Muñoz, Marc Carrascosa-Zamacois, Horacio Bleda, Umair Riaz, Yasir Maqsood, Xavier Calle, Selva Vía, Miquel Payaró, Josep Mangues-Bafalluy

机构 * Spanish MINECO（西班牙国家研究委员会） ； MCIN/AEI（西班牙国家研究委员会） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 Plaza6G是首个整合云资源与下一代无线基础设施的实验即服务平台，通过自然语言和REST API实现低门槛实验设计，结合LLM助手提升实验知识与领域微调，支持OTA试验与可重现的无线实验。

Comments 5 pages, 5 figures

VIGIL: Towards Edge-Extended Agentic AI for Enterprise IT Support

VIGIL：迈向企业IT支持的边缘扩展代理AI

Sarthak Ahuja, Neda Kordjazi, Evren Yortucboylu, Vishaal Kapoor, Mariam Dundua, Yiming Li, Derek Ho, Vaibhavi Padala, Jennifer Whitted, Rebecca Steinert

机构 * Amazon Engine, AI Center of Excellence（亚马逊引擎，人工智能卓越中心） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 VIGIL通过在用户设备上部署桌面驻留代理，实现本地诊断、企业知识检索和政策驱动的修复，减少交互轮次，提升诊断速度，支持82%的自助解决，用户反馈显示透明度对信任至关重要。

RAZOR: Ratio-Aware Layer Editing for Targeted Unlearning in Vision Transformers and Diffusion Models

RAZOR：面向视觉变换器和扩散模型的比率感知层编辑以实现针对性遗忘

Ravi Ranjan, Utkarsh Grover, Xiaomin Lin, Agoritsa Polyzou

机构 * Florida International University（佛罗里达国际大学） ； University of South Florida（佛罗里达州立大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 RAZOR通过比率感知机制实现视觉变换器和扩散模型的针对性遗忘，通过多层和多头编辑提升模型安全性与合规性，实现高效且稳定的遗忘更新。

Comments 18 pages, 6 figures, 8 tables, accepted to the CVPR 2026 and to appear in the Findings Track Proceedings of IEEE/CVF Conference

Sirens' Whisper: Inaudible Near-Ultrasonic Jailbreaks of Speech-Driven LLMs

sirens的低语：通过语音驱动的大语言模型的不可听近超声 jailbreak

Zijian Ling, Pingyi Hu, Xiuyong Gao, Xiaojing Ma, Man Zhou, Jun Feng, Songfeng Lu, Dongmei Zhang, Bin Benjamin Zhu

专题命中 安全训练 ：jailbreak(abstract)；分类 cs.AI

AI总结 本文提出Sirens' Whisper框架，通过近超声波形在商用硬件上实现隐蔽的语音驱动LLM攻击，展示其在黑盒环境下的有效性及高保真度。

Comments USENIX Security'26 Camera-ready

Helping LLMs Improve Code Generation Using Feedback from Testing and Static Analysis

通过测试和静态分析反馈帮助LLM提升代码生成

Greta Dolcetti, Vincenzo Arceri, Eleonora Iotti, Sergio Maffeis, Agostino Cortesi, Enea Zaffanella

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出利用测试和静态分析评估和指导通用开源LLM生成代码的质量及自我改进，发现生成代码常存在错误和安全问题，但提供反馈后能有效修复代码缺陷。

Journal ref Discover Artificial Intelligence, 2026

Adaptive Vision-Language Model Routing for Computer Use Agents

自适应视觉-语言模型路由用于计算机使用代理

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project（vLLM语义路由项目） ； MBZUAI ； McGill University（麦吉尔大学） ； AMD ； Red Hat（红帽公司） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 本文提出自适应VLM路由框架，通过动态选择模型降低推理成本，同时保持可靠性。在ScreenSpot-Pro数据集和OpenClaw基准测试中，AVR实现了高达78%的推理成本降低，并结合视觉困惑代理机制提升安全性。

Sim-to-reality adaptation for Deep Reinforcement Learning applied to an underwater docking application

深度强化学习在水下对接应用中的仿真到现实适应

Alaaeddine Chaarani, Narcis Palomeras, Pere Ridao

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出利用高保真数字双胞胎环境和PPO算法，开发了用于水下对接的深度强化学习控制器，通过仿真到现实适应提升了对接成功率，并在物理测试中验证了其有效性。

Comments Currently under review by IROS 2026

Understanding LLM Behavior When Encountering User-Supplied Harmful Content in Harmless Tasks

理解LLM在执行无害任务时遇到用户提供的有害内容的行为

Junjie Chu, Yiting Qu, Ye Leng, Michael Backes, Yun Shen, Savvas Zannettou, Yang Zhang

机构 * CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全研究中心） ； Flexera（Flexera公司） ； Delft University of Technology（代尔夫特理工大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本研究探讨了LLM在执行无害任务时遇到用户提供的有害内容时的行为，发现主流LLM在处理有害内容时未能维持伦理标准，且某些类别和任务更易引发有害响应。

Comments 21 pages, 11 figures

MedEyes: Learning Dynamic Visual Focus for Medical Progressive Diagnosis

MedEyes: 学习动态视觉聚焦以进行医学逐步诊断

Chunzheng Zhu, Yangfang Lin, Shen Chen, Yijun Wang, Jianxin Lin

专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI

AI总结 MedEyes通过动态视觉聚焦和双模式探索策略，提升医学逐步诊断的准确性与临床相关性。

Comments AAAI 2026, Medical Chain-of-Thought (CoT), Reinforcement Learning with Verifiable Rewards (RLVR), Multimodal Grounded Reasoning

Naïve Exposure of Generative AI Capabilities Undermines Deepfake Detection

生成AI能力的盲目暴露削弱了深度伪造检测

Sunpill Kim, Chanwoo Hwang, Minsu Kim, Jae Hong Seo

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 生成AI能力的盲目暴露导致深度伪造检测失效，商业AI系统因高逼真度和易用性成为更大安全风险。

Real-Time Trust Verification for Safe Agentic Actions using TrustBench

基于TrustBench的安全代理行为实时信任验证

Tavishi Sharma, Vinayak Sharma, Pragya Sharma

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 TrustBench通过双模式框架在代理行动前验证安全性，有效减少有害行为，提升自主代理的可信度

Comments Accepted at the AAAI 2026 Workshop on Trust and Control in Agentic AI (TrustAgent)

Learning responsibility allocations for multi-agent interactions: A differentiable optimization approach with control barrier functions

多智能体交互中的责任分配学习：一种基于可微优化与控制屏障函数的方法

Isaac Remy, David Fridovich-Keil, Karen Leung

机构 * University of Washington, Department of Aeronautics and Astronautics（华盛顿大学航空航天系） ； University of Texas, Austin, Department of Aerospace Engineering and Engineering Mechanics（得克萨斯大学奥斯汀分校航空航天工程与工程力学系） ； NVIDIA 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种基于控制屏障函数和可微优化的方法，用于学习多智能体交互中的责任分配，通过数据驱动的方式实现对安全交互行为的可解释性分析。

Comments 8 pages, 7 figures

Overcoming Valid Action Suppression in Unmasked Policy Gradient Algorithms

克服未遮蔽策略梯度算法中的有效动作抑制

Renos Zabounidis, Roy Siegelmann, Mohamad Qadri, Woojun Kim, Simon Stepputtis, Katia P. Sycara

专题命中 安全训练 ：alignment(abstract)；分类 cs.LG

AI总结 该研究揭示了未遮蔽策略梯度算法中有效动作抑制的机制，并通过实验验证了可行性分类在无需oracle遮蔽的部署中的有效性。

ALOOD: Exploiting Language Representations for LiDAR-based Out-of-Distribution Object Detection

ALOOD：利用语言表示进行基于LiDAR的分布外物体检测

Michael Kösel, Marcel Schreiber, Michael Ulrich, Claudius Gläser, Klaus Dietmayer

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 ALOOD通过整合语言表示，提出了一种基于LiDAR的分布外物体检测新方法，利用视觉-语言模型实现零样本分类。

Comments Accepted for publication at the 2025 IEEE Intelligent Transportation Systems Conference (ITSC)

VoiceSHIELD-Small: Real-Time Malicious Speech Detection and Transcription

VoiceSHIELD-Small: 实时恶意语音检测与转录

Sumit Ranjan, Sugandha Sharma, Ubaid Abbas, Puneeth N Ail

机构 * Emvo 纠错

专题命中 安全训练 ：prompt injection(abstract)；分类 cs.AI

AI总结 VoiceSHIELD-Small通过实时转录和检测恶意语音，提供轻量级的安全解决方案，实现99.16%的准确率和0.9865的F1分数。

Comments 17 pages, 9 figures