大模型对齐与安全

Detection of Illicit Content on Online Marketplaces using Large Language Models

利用大语言模型检测在线市场上的非法内容

Quoc Khoa Tran, Thanh Thi Nguyen, Campbell Wilson

机构 * AiLECS Lab Monash University（AiLECS实验室 莫纳什大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了利用大语言模型检测在线市场非法内容的有效性，发现LLM在复杂分类任务中表现优于传统方法。

Comments Accepted for publication in the Proceedings of the 8th International Conference on Natural Language Processing (ICNLP 2026)

Graph-theoretic Agreement Framework for Multi-agent LLM Systems

图论同意框架用于多智能体大语言模型系统

Muhammad Umar Javed

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出图论框架用于分析多智能体大语言模型中的共识稳定性，通过映射Transformer交叉熵到带符号拉普拉斯矩阵，解决不可观测死锁问题，并验证了共识定理和多项式时间算法。

Comments arXiv admin comment: This version has been removed by arXiv administrators as the submitter did not have the rights to agree to the license at the time of submission

Dual-Interaction-Aware Cooperative Control Strategy for Alleviating Mixed Traffic Congestion

双交互感知的协同控制策略用于缓解混合交通拥堵

Zhengxuan Liu, Yuxin Cai, Yijing Wang, Xiangkun He, Chen Lv, Zhiqiang Zuo

机构 * Tianjin Key Laboratory of Intelligent Unmanned Swarm Technology and System, School of Electrical and Information Engineering, Tianjin University（天津智能无人群技术与系统重点实验室，电气与信息工程学院，天津大学） ； School of Mechanical and Aerospace Engineering, Nanyang Technological University（机械与航空航天工程学院，南洋理工大学） ； Shenzhen Institute for Advanced Study, University of Electronic Science and Technology of China（深圳高等研究院，电子科学与技术大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出双交互感知协同控制策略，通过去中心化决策模块、集中化批评者和奖励设计，提升混合交通瓶颈场景下的交通效率和适应性。

Vision Language Model-based Testing of Industrial Autonomous Mobile Robots

基于视觉语言模型的工业自主移动机器人测试

Jiahui Wu, Chengjie Lu, Aitor Arrieta, Shaukat Ali, Thomas Peyrucain

机构 * Simula Research Laboratory and University of Oslo（Simula研究实验室和奥斯陆大学） ； Mondragon University（蒙dragon大学） ； Simula Research Laboratory（Simula研究实验室） ； PAL Robotics（PAL机器人技术） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出基于视觉语言模型的测试方法，用于生成违反功能和安全要求的机器人交互场景，以提高自主移动机器人在复杂环境中的安全性和可靠性。