大模型对齐与安全

Incompleteness of AI Safety Verification via Kolmogorov Complexity

通过克利福德复杂性验证AI安全的不完全性

Munawar Hasan

机构 * Michigan Technological University（密歇根理工大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；AI safety(title,abstract)；分类 cs.AI

AI总结 本文通过克利福德复杂性分析AI安全验证的固有限制，证明任何固定验证器都无法认证复杂度超过阈值的真正合规实例，揭示了验证方法的内在局限。

DoubleAgents: Human-Agent Alignment in a Socially Embedded Workflow

DoubleAgents：社会嵌入式工作流中的人机对齐

Tao Long, Xuanming Zhang, Sitong Wang, Zhou Yu, Lydia B Chilton

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 安全训练 ：alignment(title,abstract)；分类 cs.AI、cs.CY

AI总结 DoubleAgents通过分布式认知框架实现人机对齐，整合协调代理、可视化仪表板和策略模块，提升复杂社会嵌入式任务的执行效率与用户信任。

Comments 21 pages, 10 figures

DRAFT: Task Decoupled Latent Reasoning for Agent Safety

草稿：任务解耦的潜在推理用于代理安全

Lin Wang, Junfeng Fang, Dan Zhang, Fei Shen, Xiang Wang, Tat-Seng Chua

机构 * National University of Singapore, Singapore（新加坡国立大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.LG

AI总结 本文提出DRAFT框架，通过解耦安全判断为提取器和推理器两个阶段，利用潜在空间证据聚合提升代理安全性，在多个基准测试中表现优异。

Saliency-R1: Enforcing Interpretable and Faithful Vision-language Reasoning via Saliency-map Alignment Reward

Saliency-R1: 通过显著图对齐奖励增强可解释性和忠实的视觉-语言推理

Shizhan Gong, Minda Hu, Qiyuan Zhang, Chen Ma, Qi Dou

机构 * The Chinese University of Hong Kong（香港中文大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全训练 ：alignment(title,abstract)

AI总结 Saliency-R1通过显著图对齐奖励提升视觉-语言模型的推理可解释性和忠实性，利用显著图技术高效突出关键图像区域，结合GRPO优化策略增强模型对相关区域的关注，实验显示提升推理忠实性和任务性能。

Comments CVPR 2026

ClawSafety: "Safe" LLMs, Unsafe Agents

ClawSafety: 安全的LLM，不安全的代理

Bowen Wei, Yunbei Zhang, Jinhao Pan, Kai Mei, Xiao Wang, Jihun Hamm, Ziwei Zhu, Yingqiang Ge

机构 * George Mason University（乔治梅森大学） ； Tulane University（杜兰大学） ； Rutgers University（罗格斯大学） ； Oak Ridge National Laboratory（橡树岭国家实验室） 纠错

专题命中 安全训练 ：safety(abstract)；prompt injection(abstract)；分类 cs.AI

AI总结 ClawSafety评估了120个对抗性测试场景，揭示了高权限工作环境中LLM的安全性问题，强调部署栈对安全性的关键影响。

Self-Improving Pretraining: using post-trained models to pretrain better models

自我改进预训练：利用后训练模型来预训练更好的模型

Ellen Xiaoqing Tan, Jack Lanchantin, Shehzaad Dhuliawala, Danwei Li, Thao Nguyen, Jing Xu, Ping Yu, Ilia Kulikov, Sainbayar Sukhbaatar, Jason Weston, Xian Li, Olga Golovneva

机构 * FAIR at Meta（Meta FAIR） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种新的预训练和中训练方法，通过利用已有的强后训练模型来重写预训练数据并判断策略模型的 rollout，从而在早期训练中引入安全、事实性、生成质量和推理能力等关键行为，提升模型整体性能。

HatePrototypes: Interpretable and Transferable Representations for Implicit and Explicit Hate Speech Detection

HatePrototypes: 用于隐性与显性仇恨言论检测的可解释且可迁移的表示

Irina Proskurina, Marc-Antoine Carpentier, Julien Velcin

机构 * Laboratoire Hubert Curien, UMR CNRS 5516（于贝尔·居里实验室，法国国家科学研究中心5516联合研究单位） ； Université Lumière Lyon 2（里昂第二大学） ； Université Claude Bernard Lyon 1（克洛德·贝尔纳里昂第一大学） ； ERIC, Lyon（里昂ERIC实验室） ； École Centrale de Lyon（里昂中央理工学院） ； LIRIS CNRS UMR 5205（LIRIS实验室，法国国家科学研究中心5205联合研究单位） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HatePrototypes，通过语言模型优化的类级向量表示，实现显性和隐性仇恨言论的跨任务迁移，无需重复微调。

ENCRUST: Encapsulated Substitution and Agentic Refinement on a Live Scaffold for Safe C-to-Rust Translation

ENCRUST：在活体支架上进行封装替换和代理细化以实现安全的C到Rust翻译

Hohyun Sim, Hyeonjoong Cho, Ali Shokri, Zhoulai Fu, Binoy Ravindran

机构 * Korea University（高丽大学） ； University of Houston（休斯顿大学） ； State University of New York Korea（纽约州立大学韩国分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 ENCRUST通过封装替换和代理细化方法，解决C到Rust翻译中的类型不匹配和不安全构造问题，通过ABI保持封装模式和整体代码库验证，实现安全且可编译的转换。

ShieldNet: Network-Level Guardrails against Emerging Supply-Chain Injections in Agentic Systems

ShieldNet: 针对代理系统中新兴供应链注入的网络级防护

Zhuowen Yuan, Zhaorun Chen, Zhen Xiang, Nathaniel D. Bastian, Seyyed Hadi Hashemi, Chaowei Xiao, Wenbo Guo, Bo Li

机构 * UIUC（伊利诺伊大学厄巴纳-香槟分校） ； University of Chicago（芝加哥大学） ； University of Georgia（佐治亚大学） ； United States Military Academy（美国军事学院） ； eBay ； Johns Hopkins University（约翰霍普金斯大学） ； UCSB（加州大学圣塔芭芭拉分校） ； Virtue AI 纠错

专题命中 安全训练 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出ShieldNet，通过观察真实网络交互检测供应链注入，优于现有工具，检测性能达0.995 F-1，误报率低。

AI Runtime Infrastructure

AI 运行时基础设施

Christopher Cruz

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出AI运行时基础设施，通过在模型与应用之间引入执行层，主动监控和干预智能体行为，优化任务成功率、延迟、令牌效率、可靠性和安全性。

Safe Decentralized Operation of EV Virtual Power Plant with Limited Network Visibility via Multi-Agent Reinforcement Learning

通过多智能体强化学习实现有限网络可见性的电动汽车虚拟电厂安全分布式运行

Chenghao Huang, Jiarong Fan, Weiqing Wang, Hao Wang

机构 * Department of Data Science and AI, Faculty of IT, Monash University（蒙纳士大学信息技术学院数据科学与人工智能系） ； Monash Energy Institute, Monash University（蒙纳士大学蒙纳士能源研究所） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出一种安全增强的虚拟电厂框架，利用多智能体强化学习在有限信息约束下协调多个电动汽车充电站，确保电压安全并维持经济运行。

Comments The 2026 IEEE Power & Energy Society General Meeting, 7 pages including appendix

IC3-Evolve: Proof-/Witness-Gated Offline LLM-Driven Heuristic Evolution for IC3 Hardware Model Checking

IC3-Evolve: 用于IC3硬件模型检查的自动离线LLM驱动启发式进化

Mingkai Miao, Guangyu Hu, Ziyi Yang, Hongce Zhang

机构 * Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 IC3-Evolve通过离线LLM提出小范围修正，实现IC3硬件模型检查的自动优化，确保正确性验证下的启发式改进。

Distributed Covariance Steering via Non-Convex ADMM for Large-Scale Multi-Agent Systems

通过非凸ADMM实现分布式协方差控制用于大规模多智能体系统

Augustinos D. Saravanos, Isin M. Balci, Arshiya Taj Abdul, Efstathios Bakolas, Evangelos A. Theodorou

专题命中 安全训练 ：safety(abstract)

AI总结 本文研究在概率碰撞避免约束下，通过非凸ADMM实现分布式协方差控制，提出三种方法在保守性和计算效率间平衡，验证了算法的收敛性和可扩展性。

Search-Based Multi-Trajectory Refinement for Safe C-to-Rust Translation with Large Language Models

基于搜索的多轨迹优化用于大型语言模型驱动的安全C到Rust转换

HoHyun Sim, Hyeonjoong Cho, Yeonghyeon Go, Sadegh AlMahdi Kazemi Zarkouei, Zhoulai Fu, Ali Shokri, Binoy Ravindran

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出LAC2R方法，利用MCTS系统探索多轨迹优化，提升C到Rust转换的安全性和准确性，实验表明其在大规模和小规模基准测试中均表现优异。

A Systematic Study of Cross-Modal Typographic Attacks on Audio-Visual Reasoning

多模态字体攻击在音频视觉推理中的系统研究

Tianle Chen, Deepti Ghadiyaram

机构 * Boston University（波士顿大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文研究多模态字体攻击对多模态大语言模型的影响，发现跨模态攻击比单模态攻击更有效，揭示了多模态推理中的关键安全漏洞。