大模型对齐与安全

ClawsBench: Evaluating Capability and Safety of LLM Productivity Agents in Simulated Workspaces

ClawsBench: 评估LLM生产力代理在模拟工作区中的能力和安全性

Xiangyi Li, Kyoung Whan Choe, Yimin Liu, Xiaokun Chen, Chujun Tao, Bingran You, Wenbo Chen, Zonglin Di, Jiankai Sun, Shenghan Zheng, Jiajun Bao, Yuanli Wang, Weixiang Yan, Yiyuan Li, Han-chung Lee

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 ClawsBench通过高保真模拟服务和结构化任务评估LLM代理在真实生产力场景中的能力与安全性，揭示了代理在多服务协作和安全关键场景中的表现及潜在风险。

Comments 25 pages, 5 figures

Towards provable probabilistic safety for scalable embodied AI systems

迈向可证明的可扩展具身AI系统的概率安全

Linxuan He, Lingxiang Fan, Qing-Shan Jia, Ang Li, Hongyan Sang, Ling Wang, Guanghui Wen, Jiwen Lu, Tao Zhang, Jie Zhou, Yi Zhang, Yisen Wang, Peng Wei, Zhongyuan Wang, Henry X. Liu, Shuo Feng

机构 * Department of Automation, Tsinghua University（清华大学自动化系） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院） ； School of Computer, Liaocheng University（聊城大学计算机学院） ； Department of Automation, Southeast University（东南大学自动化学院） ； Department of Mechanical and Aerospace Engineering, George Washington University（乔治华盛顿大学机械与航空航天工程系） ； University of Michigan Transportation Research Institute（密歇根大学交通研究所） ； Department of Civil and Environmental Engineering, University of Michigan（密歇根大学土木与环境工程系） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出可证明的概率安全范式，旨在解决具身AI系统在复杂环境中安全验证的挑战，通过结合可证明保证与渐进式达成概率安全边界，提升系统可行性和可扩展性。

Spike-based alignment learning solves the weight transport problem

基于尖峰的对齐学习解决权重传输问题

Timo Gierlich, Andreas Baumbach, Akos F. Kungl, Kevin Max, Mihai A. Petrovici

机构 * Department of Physiology, Bern University（伯尔尼大学生理学系） ； Neural Computation Unit, Okinawa Institute of Science and Technology（冲绳科学技术大学院大学神经计算单元） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出基于尖峰的对齐学习方法，利用尖峰时间统计消除有效互惠连接间的不对称性，提升spiking网络在权重传输问题中的性能。

Comments 28 pages, 15 figures. Updated with a comparison to the STDWI algorithm

Between Help and Harm: An Evaluation of Mental Health Crisis Handling by LLMs

在帮助与伤害之间：对LLM处理心理健康危机的评估

Adrian Arnaiz-Rodriguez, Miguel Baidal, Erik Derner, Jenn Layton Annable, Mark Ball, Mark Ince, Elvira Perez Vallejos, Nuria Oliver

机构 * ELLIS Alicante（ELLIS 阿利坎特） ； CTU in Prague（捷克布拉格理工大学） ； School of Health Science, The University of Nottingham（诺丁汉大学健康科学学院） ； School of Psychology, Public Health and Social Care, Derby University（德比大学心理学、公共卫生与社会关怀学院） ； Mental Health Practitioner, Social Worker & Independent Scholar（心理健康从业者、社会工作者与独立学者） ； School of Computer Science & School of Medicine, The University of Nottingham（诺丁汉大学计算机科学学院与医学院） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.CY

AI总结 本文评估了LLM在处理心理健康危机时的性能，提出六类危机分类、2252个示例数据集及临床评估协议，发现部分模型在自残和自杀类别中存在不安全输出，强调需加强安全防护和上下文感知能力。

Comments Accepted for publication in JMIR Mental Health. DOI: 10.2196/88435

VLMShield: Efficient and Robust Defense of Vision-Language Models against Malicious Prompts

VLMShield: 有效且稳健的视觉语言模型对抗恶意提示防御

Peigui Qi, Kunsheng Tang, Yanpu Yu, Jialin Wu, Yide Song, Wenbo Zhou, Zhicong Huang, Cheng Hong, Weiming Zhang, Nenghai Yu

机构 * University of Science and Technology of China（中国科学技术大学） ； University of Washington（华盛顿大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 本文提出VLMShield，通过多模态聚合特征提取框架提升视觉语言模型对恶意提示的防御能力，实验显示其在鲁棒性、效率和实用性方面表现优异。

Diagnosing and Mitigating Sycophancy and Skepticism in LLM Causal Judgment

诊断和缓解大语言模型因果判断中的阿谀和怀疑

Edward Y. Chang

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出CAUSALT3基准测试，通过三个轴评估分解性能，识别并缓解因果判断中的阿谀和怀疑陷阱，通过Regulated Causal Anchoring方法改进推理控制。

Comments 19 pages, 3 figures, 15 tables

CHiQPM: Calibrated Hierarchical Interpretable Image Classification

CHiQPM：校准的分层可解释图像分类

Thomas Norrenbrock, Timo Kaiser, Sovan Biswas, Neslihan Kose, Ramesh Manuvinakurike, Bodo Rosenhahn

机构 * Institute for Information Processing (tnt) L3S - Leibniz Universität Hannover（信息处理研究所 (tnt) L3S - 莱布尼茨汉诺威大学） ； Intel Labs（英特尔实验室） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.LG

AI总结 CHiQPM提出了一种兼具全局和局部可解释性的图像分类模型，通过对比解释多数类和分层解释方法，实现高准确率和可解释性，为人类与AI协作提供支持。

Comments Accepted to NeurIPS 2025, updated version with correction

HingeMem: Boundary Guided Long-Term Memory with Query Adaptive Retrieval for Scalable Dialogues

HingeMem: 基于边界的长期记忆与查询自适应检索用于可扩展对话

Yijie Zhong, Yunfan Gao, Haofen Wang

机构 * College of Design and Innovation, Tongji University（同济大学设计创意学院） ； Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University（同济大学上海自主智能无人系统科学中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 HingeMem通过边界引导的长期记忆和查询自适应检索，提升对话系统在多轮交互中的记忆效率与适应性，实验表明在不同规模的LLM上实现20%的性能提升并降低计算成本。

Comments Accepted by TheWebConf 2026

Blending Human and LLM Expertise to Detect Hallucinations and Omissions in Mental Health Chatbot Responses

融合人类与LLM专业知识以检测心理健康聊天机器人中的幻觉与遗漏

Khizar Hussain, Bradley A. Malin, Zhijun Yin, Susannah Leigh Rose, Murat Kantarcioglu

机构 * Vanderbilt University Medical Center, Nashville, TN, USA（范德比尔特大学医学中心，纳什维尔，田纳西州，美国） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出融合人类专业知识与LLM的框架，通过五个分析维度提取可解释特征，提升心理健康聊天机器人中幻觉与遗漏检测的准确性和透明度。

LLM Spirals of Delusion: A Benchmarking Audit Study of AI Chatbot Interfaces

大语言模型的幻觉螺旋：AI聊天机器人界面的基准测试审计研究

Peter Kirgis, Ben Hawriluk, Sherrie Feng, Aslan Bilimer, Sam Paech, Zeynep Tufekci

机构 * Princeton University（普林斯顿大学） ； Phillips Exeter Academy（菲利普斯埃克塞特学院） ； Independent（独立） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过56次20轮对话测试ChatGPT-4o和ChatGPT-5，发现API与聊天界面环境存在显著差异，揭示了自动化测试方法的不足及政策选择对行为的影响。

Comments Accepted at the 2nd Annual Conference of the International Association for Safe and Ethical Artificial Intelligence

CODE-GEN: A Human-in-the-Loop RAG-Based Agentic AI System for Multiple-Choice Question Generation

CODE-GEN：一种基于检索增强生成的多选题生成人机协作人工智能系统

Xiaojing Duan, Frederick Nwanganga, Chaoli Wang

机构 * University of Notre Dame（圣母大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 CODE-GEN通过生成与课程目标一致的多选题提升学生代码推理能力，采用生成器和验证器代理，结合专用工具提高准确性，评估结果显示系统在七个教学维度上表现优异，但人类专家仍需参与设计教学性干扰项和反馈质量。

Comments Full version of the paper accepted as a short paper at the 27th International Conference on Artificial Intelligence in Education (AIED 2026)

Towards transparent and data-driven fault detection in manufacturing: A case study on univariate, discrete time series

面向透明和数据驱动的制造业故障检测：一个关于单变量离散时间序列的案例研究

Bernd Hofmann, Patrick Bruendl, Huong Giang Nguyen, Joerg Franke

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种结合机器学习和可解释方法的故障检测方法，通过量化扰动分析和专家评估验证其有效性，在单变量离散时间序列中实现95.9%的检测准确率。

Are LLMs Ready for Computer Science Education? A Cross-Domain, Cross-Lingual and Cognitive-Level Evaluation Using Professional Certification Exams

LLMs是否准备好用于计算机科学教育？通过专业认证考试进行跨领域、跨语言和认知层面的评估

Chen Gao, Chi Liu, Zhengquan Luo, Dongfu Xiao, Maiying Sui, Sheng Shen, Congcong Zhu, Huajie Chen, Xuhan Zuo, Zongyuan Ge, Tianqing Zhu, Wanlei Zhou, Xiaotong Han

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY

AI总结 本文通过专业认证考试数据评估了四个LLM在跨语言、认知层次和领域知识上的表现，发现GPT-5在英文考试中表现最佳，Qwen-Plus在中文环境中更优，DeepSeek-R1在跨语言表现最平衡，但Llama-3.3在高阶推理和鲁棒性上存在明显不足。

Comments 40 pages including Appendix

Context-Aware Dialectal Arabic Machine Translation with Interactive Region and Register Selection

具有交互区域和语域选择的上下文感知方言阿拉伯语机器翻译

Afroza Nowshin, Prithweeraj Acharjee Porag, Haziq Jeelani, Fayeq Jeelani Syed

机构 * University of Toledo（托莱多大学） ； Claremont Graduate University（克莱蒙特研究生大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种上下文感知的阿拉伯语方言机器翻译框架，通过规则基于的数据增强生成多区域语料，提升翻译输出的方言和语域可控性。

Comments 14 pages, 5 figures, 5 tables. Preprint under review

State-of-the-Art Arabic Language Modeling with Sparse MoE Fine-Tuning and Chain-of-Thought Distillation

最先进的阿拉伯语言建模：基于稀疏MoE微调和链式思维蒸馏

Navan Preet Singh, Anurag Garikipati, Ahmed Abulkhair, Jyani Akshay Jagdishbhai, Atul Yaduvanshi, Amarendra Chaudhary, Madalina Ciobanu, Qingqing Mao, Ritankar Das

机构 * Incept Labs（因塞普特实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出阿拉伯-DeepSeek-R1，通过稀疏MoE架构和链式思维蒸馏，在开放阿拉伯LLM排行榜上实现SOTA，展示了稀疏MoE与文化导向的蒸馏方法在阿拉伯语言任务中的优势。

Qualixar OS: A Universal Operating System for AI Agent Orchestration

Qualixar OS：面向AI代理编排的通用操作系统

Varun Pratap Bhardwaj

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Qualixar OS是首个应用层操作系统，支持异构多代理系统，提供10个LLM供应商、8+代理框架和7种传输的完整运行时，包含12种多代理拓扑执行语义、LLM驱动的团队设计引擎、三层模型路由、共识判断管道、四层内容归属和通用兼容性等功能。

Comments 20 pages, 7 figures, 8 tables. Zenodo DOI: 10.5281/zenodo.19454219

Harnessing Hyperbolic Geometry for Harmful Prompt Detection and Sanitization

利用双曲几何进行有害提示检测与净化

Igor Maljkovic, Maria Rosaria Briglia, Iacopo Masi, Antonio Emanuele Cinà, Fabio Roli

机构 * University of Genoa（热那亚大学） ； Sapienza University of Rome（罗马大学） ； University of Cagliari（卡利亚里大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出HyPE和HyPS方法，利用双曲几何空间检测和净化有害提示，提升视觉语言模型的安全性与鲁棒性。

Comments Paper accepted at ICLR 2026. Webpage available at: https://hype-vlm.github.io

Towards the Development of an LLM-Based Methodology for Automated Security Profiling in Compliance with Ukrainian Cybersecurity Regulations

迈向基于大语言模型的自动化安全配置方法的开发：符合乌克兰网络安全法规

Daniil Shafranskyi, Iryna Stopochkina, Mykola Ilin

机构 * National Technical University of Ukraine “Igor Sikorsky Kyiv Polytechnic Institute”（乌克兰国立技术大学“伊戈尔·西科尔斯基基辅理工学院”） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文探讨将国际最佳实践整合到国家监管体系中，提出利用大语言模型实现自动化安全配置的方法，以应对高密度混合威胁环境下的网络安全挑战。

Comments 12 pages, 2 figures

ToxReason: A Benchmark for Mechanistic Chemical Toxicity Reasoning via Adverse Outcome Pathway

ToxReason: 一个通过不良后果途径进行机理化学毒性推理的基准

Jueon Park, Wonjune Jang, Chanhwi Kim, Yein Park, Jaewoo Kang

机构 * Korea University（高丽大学） ； Myongji University（明知大学） ； University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心） ； AIGEN Sciences 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 ToxReason基准通过整合药物-靶点相互作用证据与毒性标签，评估多器官水平的毒性推理能力，发现强预测性能不等于可靠推理，且推理意识训练能提升机理推理和毒性预测性能。

Comments Accepted to ACL 2026 Findings

TelcoAgent-Bench: A Multilingual Benchmark for Telecom AI Agents

TelcoAgent-Bench：电信AI代理的多语言基准测试

Lina Bariah, Brahim Mefgouda, Farbod Tavakkoli, Enrique Molero, Louis Powell, Merouane Debbah

机构 * Research Institute for Digital Future, Khalifa University（哈利法大学数字未来研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出TelcoAgent-Bench和TelcoAgent-Metrics，用于评估多语言电信LLM代理，通过结构化指标评估意图识别、工具执行、解决正确性和稳定性，以量化LLM代理在电信环境中的可靠性。

Temporal Inversion for Learning Interval Change in Chest X-Rays

时间倒置用于学习胸部X光片的区间变化

Hanbin Ko, Kyungmin Jeon, Doowoong Choi, Chang Min Park

机构 * Interdisciplinary Program in Bioengineering, Seoul National University Graduate School（首尔大学研究生院生物工程跨学科项目） ； Integrated Major in Innovative Medical Science, Seoul National University Graduate School（首尔大学研究生院创新医学科学综合专业） ； Dept. of Radiology, Seoul National University Hospital（首尔大学医院放射科） ； Seoul National University College of Medicine（首尔大学医学院） ； Inst. of Medical and Biological Engineering, Seoul National University Medical Research Center（首尔大学医学研究中心医学与生物工程研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出TILA框架，通过时间倒置增强模型对时间变化的敏感性，改进了胸部X光片的区间变化检测与分类。

Comments 10 pages, 5 figures

PEEM: Prompt Engineering Evaluation Metrics for Interpretable Joint Evaluation of Prompts and Responses

PEEM：提示工程评估指标用于可解释地联合评估提示和响应

Minki Hong, Eunsoo Lee, Sohyun Park, Jihie Kim

机构 * Department of Computer Science and Artificial Intelligence, Dongguk University（东国大学计算机科学与人工智能系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出PEEM，一种联合且可解释的提示和响应评估框架，通过9个轴线评估提示和响应质量，结合LLM评估器输出评分和解释，提升提示设计的可解释性和优化效果。

Comments This is a preprint version of a paper accepted to IEEE Access. The final published version is available at DOI: 10.1109/ACCESS.2026.3679809

Before We Trust Them: Decision-Making Failures in Navigation of Foundation Models

在我们信任之前：基础模型导航决策中的失败

Jua Han, Jaeyoon Seo, Jungbin Min, Sieun Choi, Huichan Seo, Jihie Kim, Jean Oh

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究发现基础模型在导航任务中存在显著决策失败，需更细致评估以理解其局限性。

Comments Corrected author order in metadata; manuscript changed

AudioRole: An Audio Dataset for Character Role-Playing in Large Language Models

AudioRole: 一个用于大型语言模型角色扮演的音频数据集

Wenyu Li, Xiaoqi Jiao, Yi Chang, Guangyan Zhang, Yiwen Guo

机构 * Westlake University（西湖大学） ； Tencent LIGHTSPEED STUDIOS（腾讯LIGHTSPEED STUDIOS） ； Independent Researcher（独立研究员） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出AudioRole数据集，通过13部电视剧1000+小时的100万+角色对话，提供同步音频文本对及角色身份标注，结合ARP-Eval评估框架，验证了GLM-4-Voice在角色扮演中的优越性能。

Appear2Meaning: A Cross-Cultural Benchmark for Structured Cultural Metadata Inference from Images

Appear2Meaning: 一个跨文化的结构化文化元数据图像推理基准

Yuechen Jiang, Enze Zhang, Md Mohsinul Kabir, Qianqian Xie, Stavroula Golfomitsou, Konstantinos Arvanitis, Sophia Ananiadou

机构 * University of Manchester（曼彻斯特大学） ； School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院） ； Getty Conservation Institute（盖蒂保护研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一个跨文化的结构化文化元数据图像推理基准，评估VLMs在文化元数据推断中的表现，发现模型在不同文化和元数据类型上存在显著性能差异。

Validated Intent Compilation for Constrained Routing in LEO Mega-Constellations

面向低轨巨型星座受限路由的意图验证编译

Yuanhang Li

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出端到端系统，通过图神经网络路由器、语言模型意图编译器和确定性验证器，实现高阶意图到低阶路由约束的转换，确保路由安全性和网络配置的准确性。

Comments 9 pages, 2 figures

ARuleCon: Agentic Security Rule Conversion

ARuleCon：代理安全规则转换

Ming Xu, Hongtai Wang, Yanpei Guo, Zhengmin Yu, Weili Han, Hoon Wei Lim, Jin Song Dong, Jiaheng Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 ARuleCon通过自动化规则转换框架，解决跨平台安全规则复用难题，提升SIEM规则转换的准确性和效率，平均优于基线LLM模型15%。

Comments This paper has been accepted for publication at WWW 2026

Evidence-Based Actor-Verifier Reasoning for Echocardiographic Agents

基于证据的Actor-验证者推理用于超声波代理

Peng Huang, Yiming Wang, Yineng Chen, Liangqiao Gui, Hui Guo, Bo Peng, Shu Hu, Xi Wu, Tsao Connie, Hongtu Zhu, Balakrishnan Prabhakaran, Xin Wang

机构 * University at Albany, SUNY（纽约州立大学奥尔巴尼分校） ； Southwest Jiaotong University（西南交通大学） ； Purdue University（普渡大学） ； Chengdu University of Information Technology（成都信息工程大学） ； Harvard Medical School（哈佛医学院） ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出EchoTrust框架，通过结构化中间表示和不同角色分析，提升超声波临床决策支持系统中推理的可靠性与可解释性。

Comments cvprw 2026(AIMS)

dMLLM-TTS: Self-Verified and Efficient Test-Time Scaling for Diffusion Multi-Modal Large Language Models

dMLLM-TTS：用于扩散多模态大语言模型的自验证和高效测试时间扩展

Yi Xin, Siqi Luo, Tianxiang Xu, Qi Qin, Haoxing Chen, Kaiwen Zhu, Zhiwei Zhang, Yangfan He, Rongchao Zhang, Jinbin Bai, Shuo Cao, Bin Fu, Junjun He, Yihao Liu, Yuewen Cao, Xiaohong Liu

机构 * Nanjing University（南京大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai AI Lab（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Peking University（北京大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出dMLLM-TTS框架，通过轨迹探索扩展和迭代细化扩展两个互补的扩展轴，提升生成多样性和稳定性，同时通过自验证机制提高效率，实验表明在GenEval基准上生成质量显著提升且效率提高6倍。

Comments Project page: https://github.com/Alpha-VLLM/Lumina-DiMOO

Focus on What Really Matters in Low-Altitude Governance: A Management-Centric Multi-Modal Benchmark with Implicitly Coordinated Vision-Language Reasoning Framework

聚焦低空治理中真正重要的问题：一种以管理为中心的多模态基准与隐式协调的视觉-语言推理框架

Hao Chang, Zhihui Wang, Lingxiang Wu, Wei An, Boyang Li, Zaiping Lin, Weidong Sheng, Jinqiao Wang

机构 * National University of Defense Technology（国防科技大学） ； Zidong Taichu (Beijing) Technology Co., Ltd.（紫东太初（北京）科技有限公司） ； Foundation Model Research Center, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所基础模型研究中心） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Wuhan AI Research（武汉人工智能研究院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出GovLA-10K多模态基准和GovLA-Reasoner框架，通过功能显著目标和隐式协调的视觉-语言推理提升低空治理中的管理需求理解与执行能力。