大模型对齐与安全

Refusal is Not Safety! Benchmarking Latent Safety Risks of LLM-Driven Content Humorization

拒绝并非安全！评估大语言模型驱动的内容幽默化中的潜在安全风险

Yu Cui, Ruiqing Yue, Tingyu Li, Sicheng Pan, Zhuoyu Sun, Xufeng Zhang, Baohan Huang, Haibin Zhang, Cong Zuo

专题命中 安全训练 ：safety(title,abstract)；jailbreak(abstract)；prompt injection(abstract)

AI总结 研究基于LLM的内容幽默化潜在安全风险，提出HumorSafe框架评估风险传播，发现LLMs幽默化时会引入刻板印象和毒性，还提出HumorPIA攻击，揭示现有LLM安全评估在幽默化设置下的差距。

Safe-SAIL: Towards a Fine-grained Safety Landscape of Large Language Models via Sparse Autoencoder Interpretation Framework

Safe-SAIL: 通过稀疏自编码解释框架构建大语言模型的细粒度安全景观

Jiaqi Weng, Han Zheng, Hanyu Zhang, Ej Zhou, Qinqin He, Jialing Tao, Hui Xue, Zhixuan Chu, Xiting Wang

机构 * Alibaba Group（阿里巴巴集团） ； The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室） ； Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室） ； Renmin University of China（中国人民大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Safe-SAIL框架，通过稀疏自编码解释方法高效识别安全领域特征，减少解释成本55%，并系统评估1758个安全相关特征，揭示风险特征识别和安全关键实体编码机制。

Journal ref Findings of the Association for Computational Linguistics: ACL 2026, pages 18916-18935 (2026)

More with Less: a Large Scale Remote Sensing VLM with a Simple Recipe

以少胜多：一种简单方法构建的大规模遥感视觉语言模型

Stefan Maria Ailuro, Mario Markov, Mohammad Mahdi, Luc Van Gool, Danda Pani Paudel

机构 * INSAIT, Sofia University “St. Kliment Ohridski”（索非亚大学“圣克莱门特·奥赫里德斯基”信息与自动化研究所） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.LG

AI总结 研究针对遥感视觉语言模型，质疑架构专业化必要性，提出通用模型经大规模跨数据和任务训练可获好性能。核心方法是用单一语言策略及多任务强化学习框架训练。主要贡献是在多基准测试中取得竞争力结果，证明数据规模更关键。

EduGuard: A Safe RAG-Based LLM Tutor for Programming Education

EduGuard：一种用于编程教育的基于安全检索增强生成的语言模型导师

S M Asif Hossain, Ruksat Khan Shayoni, M. F. Mridha, Jungpil Shin

专题命中 安全训练 ：alignment(abstract)；分类 cs.CY

AI总结 研究针对学生使用GenAI进行编程学习时的问题，提出EduGuard安全RAG辅导框架，集成多种功能。通过构建基准测试并与强基线比较，在正确性、基础等方面表现最佳，能提升准确率并降低过度依赖，证明安全GenAI辅导需多方面保障。

AnovaX: A Local, Multi-Agent Voice Assistant with LLM Planning, Typed Executors, and Adaptive Recovery

AnovaX：一个具有大语言模型规划、类型化执行器和自适应恢复功能的本地多智能体语音助手

Raunak B Sinha

机构 * BITS Pilani（贝拉理工学院皮拉尼分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 研究桌面语音助手局限，提出AnovaX本地多智能体语音助手，通过Python进程连接多组件，含规划器、安全层等，各工具对应专用智能体类，有递归元智能体及自适应恢复循环，还介绍配套服务器功能，展示其独特优势。

Human-Inspired Neuro-Symbolic World Modeling and Logic Reasoning for Interpretable Safe UAV Landing Site Assessment

受人类启发的神经符号世界建模与逻辑推理用于可解释的安全无人机着陆点评估

Weixian Qian, Tianyi Yang, Sebastian Schroder, Yao Deng, Jiaohong Yao, Xiao Cheng, Richard Han, Xi Zheng

机构 * Macquarie University（麦考瑞大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 NeuroSymLand通过结合神经符号方法，实现了可解释的安全无人机着陆点评估，优于现有基线方法。

Comments The paper has a major update, which is uploaded to https://arxiv.org/abs/2607.02277

Precision positioning in free-space optical communication systems via PID control tuned by RL

基于强化学习调谐PID控制的自由空间光通信系统精确位置控制

K. Prikhodko, S. Kuznetsov, S. Vorobey, A. Katanskiy, V. Balakirev, A. Reutov

专题命中 安全训练 ：alignment(abstract)

AI总结 研究自由空间光通信系统中光学组件精确位置控制问题，采用深度确定性策略梯度（DDPG）智能体调谐PID控制器，经实验表明其在动态定位任务中有潜力，不同目标轨迹下效果有差异，需多模式优化。