大模型对齐与安全

MOSAIC: Composable Safety Alignment with Modular Control Tokens

MOSAIC：通过模块化控制令牌实现可组合的安全对齐

Jingyu Peng, Hongyu Chen, Jiancheng Dong, Maolin Wang, Wenxi Li, Yuchen Li, Kai Zhang, Xiangyu Zhao

机构 * University of Science and Technology of China（中国科学技术大学） ； City University of Hong Kong（香港城市大学） ； Baidu Inc（百度公司） ； Minzu University of China（民族大学） 纠错

专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI

AI总结 MOSAIC通过可学习的控制令牌实现可组合的安全对齐，解决传统方法在动态安全规则下的局限性，实验显示其在降低过拒绝率的同时保持模型效用。

KidsNanny: A Two-Stage Multimodal Content Moderation Pipeline Integrating Visual Classification, Object Detection, OCR, and Contextual Reasoning for Child Safety

KidsNanny：一种集成视觉分类、目标检测、OCR和上下文推理的双阶段多模态内容审查流水线，用于儿童安全

Viraj Panchal, Tanmay Talsaniya, Parag Patel, Meet Patel

机构 * KidsNanny Research Team, Vartit Technology Inc.（KidsNanny研究团队，Vartit技术公司） 纠错

专题命中 安全训练 ：safety(title,abstract)

AI总结 本文提出KidsNanny，一种双阶段多模态内容审查架构，通过视觉Transformer和目标检测器进行视觉筛查，结合OCR和基于文本的7B语言模型进行上下文推理，以提高儿童安全的内容审查效率和准确性。

Comments 12 pages, 2 figures, 6 tables

Fanar 2.0: Arabic Generative AI Stack

Fanar 2.0：阿拉伯生成AI堆栈

FANAR TEAM, Ummar Abbas, Mohammad Shahmeer Ahmad, Minhaj Ahmad, Abdulaziz Al-Homaid, Anas Al-Nuaimi, Enes Altinisik, Ehsaneddin Asgari, Sanjay Chawla, Shammur Chowdhury, Fahim Dalvi, Kareem Darwish, Nadir Durrani, Mohamed Elfeky, Ahmed Elmagarmid, Mohamed Eltabakh, Asim Ersoy, Masoomali Fatehkia, Mohammed Qusay Hashim, Majd Hawasly, Mohamed Hefeeda, Mus'ab Husaini, Keivin Isufaj, Soon-Gyo Jung, Houssam Lachemat, Ji Kim Lucas, Abubakr Mohamed, Tasnim Mohiuddin, Basel Mousi, Hamdy Mubarak, Ahmad Musleh, Mourad Ouzzani, Amin Sadeghi, Husrev Taha Sencar, Mohammed Shinoy, Omar Sinan, Yifan Zhang

机构 * Qatar Computing Research Institute (QCRI)（卡塔尔计算研究 institute） ； Hamad Bin Khalifa University（哈马德·本·卡西姆大学） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 Fanar 2.0在资源受限条件下实现卓越性能，通过数据质量优先、持续预训练和模型融合，提升阿拉伯语知识、语言、方言及英语能力，同时引入多项新功能。

Differential Harm Propensity in Personalized LLM Agents: The Curious Case of Mental Health Disclosure

个性化LLM代理中的差异性伤害倾向：心理健康披露的奇特案例

Caglar Yildirim

机构 * Khoury College of Computer Sciences（科里学院计算机科学学院） 纠错

专题命中 安全训练 ：safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 研究探讨了心理健康披露对代理有害行为的影响，发现个性化设置可降低伤害，但易受对抗性压力影响，需加强个性化评估与安全措施。

Toward Experimentation-as-a-Service in 5G/6G: The Plaza6G Prototype for AI-Assisted Trials

迈向5G/6G的实验即服务：Plaza6G原型用于AI辅助试验

Sergio Barrachina-Muñoz, Marc Carrascosa-Zamacois, Horacio Bleda, Umair Riaz, Yasir Maqsood, Xavier Calle, Selva Vía, Miquel Payaró, Josep Mangues-Bafalluy

机构 * Spanish MINECO（西班牙国家研究委员会） ； MCIN/AEI（西班牙国家研究委员会） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 Plaza6G是首个整合云资源与下一代无线基础设施的实验即服务平台，通过自然语言和REST API实现低门槛实验设计，结合LLM助手提升实验知识与领域微调，支持OTA试验与可重现的无线实验。

Comments 5 pages, 5 figures

VIGIL: Towards Edge-Extended Agentic AI for Enterprise IT Support

VIGIL：迈向企业IT支持的边缘扩展代理AI

Sarthak Ahuja, Neda Kordjazi, Evren Yortucboylu, Vishaal Kapoor, Mariam Dundua, Yiming Li, Derek Ho, Vaibhavi Padala, Jennifer Whitted, Rebecca Steinert

机构 * Amazon Engine, AI Center of Excellence（亚马逊引擎，人工智能卓越中心） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 VIGIL通过在用户设备上部署桌面驻留代理，实现本地诊断、企业知识检索和政策驱动的修复，减少交互轮次，提升诊断速度，支持82%的自助解决，用户反馈显示透明度对信任至关重要。

CompliantVLA-adaptor: VLM-Guided Variable Impedance Action for Safe Contact-Rich Manipulation

CompliantVLA-adaptor：基于视觉-语言模型的变量阻抗控制用于安全的高接触密度操作

Heng Zhang, Wei-Hsing Huang, Qiyi Tong, Gokhan Solak, Puze Liu, Kaidi Zhang, Sheng Liu, Jan Peters, Yu She, Arash Ajoudani

机构 * Human-Robot Interfaces and Interaction Lab, Istituto Italiano di Tecnologia, Genoa, Italy（人机交互实验室，意大利理工学院，热那亚，意大利） ； Ph.D. program of national interest in Robotics and Intelligent Machines (DRIM) and Università di Genova, Genoa, Italy（机器人与智能机器国家利益博士项目和热那亚大学，热那亚，意大利） ； Edwardson School of Industrial Engineering, Purdue University, West Lafayette, IN 47907, USA（工业工程埃德华森学校，普渡大学，西拉法克萨，印第安纳州47907，美国） ； Georgia Institute of Technology, Atlanta, USA（佐治亚理工学院，亚特兰大，美国） ； German Research Center for AI, Germany（德国人工智能研究中心，德国） ； TU Darmstadt, Darmstadt, Germany（图宾根大学，图宾根，德国） ； Karlsruhe Institute of Technology, Karlsruhe, Germany（卡尔斯鲁厄理工学院，卡尔斯鲁厄，德国） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出CompliantVLA-adaptor，通过引入基于视觉语言模型的上下文感知变量阻抗控制，提升接触密集任务的安全性和有效性。方法通过图像和自然语言解读任务上下文，调节阻抗控制器的刚度和阻尼参数，并利用实时力/扭矩反馈确保安全。实验表明在模拟和现实任务中均优于基线方法。

Comments under review