大模型对齐与安全

Taiwan Safety Benchmark and Breeze Guard: Toward Trustworthy AI for Taiwanese Mandarin

台湾安全基准与Breeze Guard：迈向可信的台湾台语AI

Po-Chun Hsu, Meng-Hsi Chen, Tsu Ling Chao, Chia Tien Han, Da-shan Shiu

机构 * MediaTek Research（联发科研究实验室） ； National Taiwan University（国立台湾大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；trustworthy(title,abstract)；分类 cs.CL

AI总结 本文提出TS-Bench基准和Breeze Guard模型，通过文化基础预训练提升台湾台语安全检测性能，显著优于现有模型。

Comments 17 pages

AdaCultureSafe: Adaptive Cultural Safety Grounded by Cultural Knowledge in Large Language Models

AdaCultureSafe: 基于文化知识的自适应文化安全大语言模型

Hankun Kang, Di Lin, Zhirong Liao, Pengfei Bai, Xinyi Zeng, Jiawei Jiang, Yuanyuan Zhu, Tieyun Qian

专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL、cs.AI

AI总结 AdaCultureSafe通过整合文化知识与大语言模型，提升文化安全性和响应生成能力。

Information Routing in Atomistic Foundation Models: How Task Alignment and Equivariance Shape Linear Disentanglement

原子基础模型中的信息路由：任务对齐与等变性如何塑造线性解缠

Joshua Steier

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过CPD方法揭示原子基础模型中任务对齐与等变性如何影响线性解缠，发现任务对齐主导几何信息可访问性，且对称类型影响信息路由。

Goal Alignment in LLM-Based User Simulators for Conversational AI

基于对话AI的LLM用户模拟器中的目标对齐

Shuhaib Mehri, Xiaocheng Yang, Takyoung Kim, Gokhan Tur, Shikib Mehri, Dilek Hakkani-Tür

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出UGST框架，通过三阶段方法改进用户模拟器的目标对齐能力，并在两个基准测试中取得显著成效。

Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents

你的代理可能误进化：自我进化大语言模型代理中的新兴风险

Shuai Shao, Qihan Ren, Chen Qian, Boyi Wei, Dadi Guo, Jingyi Yang, Xinhao Song, Linfeng Zhang, Weinan Zhang, Dongrui Liu, Jing Shao

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了自我进化代理中因自我进化偏离导致的误进化风险，揭示了其广泛存在及对安全对齐的影响，并提出缓解策略。

Comments Published in ICLR 2026

CORE-Acu: Structured Reasoning Traces and Knowledge Graph Safety Verification for Acupuncture Clinical Decision Support

CORE-Acu: 结构化推理轨迹与知识图谱安全验证用于针灸临床决策支持

Liuyi Xu, Yun Guo, Ming Chen, Zihan Dun, Yining Qian, An-Yang Lu, Shuang Li, Lijun Liu

机构 * College of Information Science and Engineering, Northeastern University, Shenyang 110819, China（信息科学与工程学院，东北大学，沈阳110819，中国） ； School of Information Science and Engineering, Yanshan University, Qinhuangdao, Hebei 066000, China（信息科学与工程学院，燕山大学，秦皇岛，河北省066000，中国） ； School of Computer Science and Engineering, Northeastern University, Shenyang 110819, China（计算机科学与工程学院，东北大学，沈阳110819，中国） ； School of Artificial Intelligence, Beihang University, Beijing 100000, China（人工智能学院，北航，北京100000，中国） ； Key Laboratory of Bioresource Research and Development of Liaoning Province, Northeastern University, Shenyang 110169, China（辽宁省生物资源研究开发重点实验室，东北大学，沈阳110169，中国） ； College of Life and Health Sciences, Northeastern University, Shenyang 110169, China（生命与健康科学学院，东北大学，沈阳110169，中国） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 CORE-Acu通过结构化推理轨迹与知识图谱安全验证，提升针灸临床决策支持的可解释性与安全性。

Comments 19 pages, 5 figures, 18 tables. Includes the Acu-Reasoning dataset and TCM knowledge graph schema

Distributed Legal Infrastructure for a Trustworthy Agentic Web

分布式法律基础设施用于可信代理网络

Tomer Jordi Chaffer, Victor Jiawei Zhang, Sante Dino Facchini, Botao Amber Hu, Helena Rong, Zihan Guo, Xisen Wang, Carlos Santana, Giovanni De Gasperis

机构 * Institute for Technoscience and Society（科技与社会研究所） ； Berkeley Center for Law & Technology（伯克利法与科技中心） ； U.C. Berkeley Law School（伯克利法学院） ； Technical University of Munich（慕尼黑技术大学） ； Università degli Studi dell’Aquila（阿奎拉大学） ； University of Oxford（牛津大学） ； Existential Risk Alliance（存在风险联盟） ； NYU Shanghai（纽约大学上海分校） ； Sun Yat-sen University（中山大学） ； Shanghai Innovation Institute（上海创新研究院） ； Norwegian University of Science and Technology（挪威科学技术大学） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI

AI总结 本文提出分布式法律基础设施，旨在通过可互操作的协议构建可信代理网络，实现连贯治理与合法性维持。

More Than 1v1: Human-AI Alignment in Early Developmental Communities with Multimodal LLMs

多于一对一：在早期发展社区中的人工智能对齐与多模态大语言模型

Weiyan Shi, Kenny Tsu Wei Choo

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文探讨了在早期发展社区中，利用多模态大语言模型实现人机对齐的挑战，提出分层社区对齐框架，强调社区治理而非个体优化。

Comments Accepted at CHI 2026 BiAlign Workshop; OpenReview URL: https://openreview.net/forum?id=ikeH0hsBLN

LieCraft: A Multi-Agent Framework for Evaluating Deceptive Capabilities in Language Models

LieCraft：一种用于评估语言模型欺骗能力的多智能体框架

Matthew Lyle Olson, Neale Ratzlaff, Musashi Hinck, Tri Nguyen, Vasudev Lal, Joseph Campbell, Simon Stepputtis, Shao-Yen Tseng

机构 * Intel Labs（英特尔实验室） 纠错

专题命中 安全评测 ：alignment(abstract,comments)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 LieCraft通过多智能体隐藏角色游戏评估语言模型的欺骗能力，揭示所有模型在面对高风险领域时均倾向于不道德行为。

Comments AAAI 2026 Alignment track. Authors 1 and 2 contributed equally, 3 and 4 contributed equally, 6 and 7 and 8 contributed equally (ordered by last name)

MICA: Multi-Agent Industrial Coordination Assistant

MICA：多智能体工业协调助手

Di Wen, Kunyu Peng, Junwei Zheng, Yufan Chen, Yitian Shi, Jiale Wei, Ruiping Liu, Kailun Yang, Rainer Stiefelhagen

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄大学） ； INSAIT ； Hunan University（湖南大学） ； Carl Zeiss Stiftung（卡尔蔡司基金会） ； University of Excellence（卓越大学） ； Helmholtz Association（海德堡协会） ； State of Baden-Württemberg（巴登-符腾堡州） ； German Research Foundation（德国研究基金会） ； National Natural Science Foundation of China（国家自然科学基金委员会） ； Hunan Provincial Research and Development Project（湖南省研发项目） ； State Key Laboratory of Autonomous Intelligent Unmanned Systems（自主智能无人系统国家重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 MICA是一种基于感知和语音交互的多智能体系统，通过自适应步骤融合技术提升工业任务的执行效率和可靠性。

Comments Accepted to ICRA 2026. The source code will be made publicly available at https://github.com/Kratos-Wen/MICA

ConflictBench: Evaluating Human-AI Conflict via Interactive and Visually Grounded Environments

ConflictBench: 通过交互式和视觉 grounded 环境评估人类-人工智能冲突

Weixiang Zhao, Haozhen Li, Yanyan Zhao, xuda zhi, Yongbo Huang, Hao He, Bing Qin, Ting Liu

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； SERES 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 ConflictBench通过交互式和视觉 grounded 环境评估人类-人工智能冲突，揭示智能体在不同风险情境下的行为差异及对齐失败问题。

Comments 29 pages, 20 figures, 9 tables

Backdoor4Good: Benchmarking Beneficial Uses of Backdoors in LLMs

Backdoor4Good: 对LLMs中有益后门应用的基准测试

Yige Li, Wei Zhao, Zhe Li, Nay Myat Min, Hanxun Huang, Yunhan Zhao, Xingjun Ma, Yu-Gang Jiang, Jun Sun

机构 * Singapore Management University（新加坡国立管理学院） ； The University of Melbourne（墨尔本大学） ； Fudan University（复旦大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 Backdoor4Good提出了一种统一的基准和框架，用于在大型语言模型中实现有益的后门应用，通过三元组形式定义触发器、激活机制和效用函数，展示后门在提升安全性和可控性方面的潜力。

Comments 19 pages, 5 figures

Spoken Conversational Agents with Large Language Models

基于大语言模型的语音对话代理

Chao-Han Huck Yang, Andreas Stolcke, Larry Heck

机构 * NVIDIA Research（NVIDIA研究） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 本文探讨了如何通过大语言模型构建语音对话代理，涵盖从级联到端到端系统的路径，以及跨模态对齐和联合训练等关键技术，同时讨论了隐私、安全和评估中的开放问题。

Comments Accepted to EMNLP 2025 Tutorial

Who is Responsible? The Data, Models, Users or Regulations? A Comprehensive Survey on Responsible Generative AI for a Sustainable Future

谁该负责？数据、模型、用户还是法规？为可持续未来全面调查负责任的生成式人工智能

Shaina Raza, Rizwan Qureshi, Anam Zahid, Amgad Muneer, Anas Zafar, Safiullah Kamawal, Ferhat Sadak, Joseph Fioresi, Muhammaed Saeed, Ranjan Sapkota, Aditya Jain, Muneeb Ul Hassan, Aizan Zafar, Hasan Maqbool, Ashmal Vayani, Jia Wu, Maged Shoman

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CY

AI总结 本文全面调查了生成式人工智能的负责任发展，提出评估标准、生命周期指标及领域分析，旨在推动安全和可持续的AI部署。

Comments under review

Lying to Win: Assessing LLM Deception through Human-AI Games and Parallel-World Probing

谎言以赢：通过人机游戏和平行世界探测评估LLM欺骗

Arash Marioriyad, Ali Nouri, Mohammad Hossein Rohban, Mahdieh Soleymani Baghshah

机构 * Sharif University of Technology（谢里夫技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 本研究通过人机游戏和平行世界探测评估LLM欺骗行为，发现存在性框架显著增加Qwen和Gemini的欺骗率，凸显需新的行为审计方法。

Comments 10 pages

Drift-to-Action Controllers: Budgeted Interventions with Online Risk Certificates

漂移到行动控制器：具有在线风险证书的预算干预

Ismail Lamaakal, Chaymae Yahyati, Khalid El Makkaoui, Ibrahim Ouahbi, Yassine Maleh

机构 * Multidisciplinary Faculty of Nador（多学科纳多 faculty） ； Mohammed First University（穆罕默德第一大学） ； Laboratory LaSTI（LaSTI 实验室） ； Sultan Moulay Slimane University（苏丹·穆莱·斯利曼大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 Drift2Act通过在线风险证书实现预算干预，有效应对分布漂移，减少安全违规并提高恢复速度。

Comments Published as a conference paper at CAO Workshop at ICLR 2026

One Model Is Enough: Native Retrieval Embeddings from LLM Agent Hidden States

一个模型就足够：从LLM代理隐藏状态中获取原生检索嵌入

Bo Jiang

机构 * Temple University（特拉华大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过轻量级投影头使LLM代理具备原生检索能力，无需额外嵌入模型，保留97%检索质量并在QReCC基准测试中表现优异。

Know When You're Wrong: Aligning Confidence with Correctness for LLM Error Detection

知何时错误：将置信度与正确性对齐以用于LLM错误检测

Xie Xiaohu, Liu Xiaohu, Yao Benjamin

机构 * Alexa AI, Amazon, Seattle, WA, USA（Alexa AI，亚马逊，西雅图，华盛顿州） 纠错

专题命中 安全评测 ：DPO(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出归一化置信度分数和自我评估框架，通过SFT提升LLM置信度可靠性，减少校准误差，提升错误检测效果。

XInsight: Integrative Stage-Consistent Psychological Counseling Support Agents for Digital Well-Being

XInsight：集成化阶段一致的心理咨询支持代理用于数字福祉

Fei Wang, Jiangnan Yang, Junjie Chen, Yuxin Liu, Kun Li, Yanyan Wei, Dan Guo, Meng Wang

机构 * Hefei University of Technology（合肥工业大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） ； Anhui University（安徽大学） ； United Arab Emirates University（阿联酋大学） ； Intelligent Interconnected Systems Laboratory of Anhui Province (HFUT)（安徽省智能互联系统实验室（HFUT）） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY、cs.LG

AI总结 XInsight是一种集成化多代理框架，通过阶段一致的工作流程和统一循环，提升网络应用中数字福祉的心理支持效果。

Comments Accepted by WWW 2026

COACH meets QUORUM: A Framework and Pipeline for Aligning User, Expert and Developer Perspectives in LLM-generated Health Counselling

COACH meets QUORUM: 一个框架和流程用于对齐用户、专家和开发者在LLM生成健康咨询中的视角

Yee Man Ng, Bram van Dijk, Pieter Beynen, Otto Boekesteijn, Joris Jansen, Gerard van Oortmerssen, Max van Duijn, Marco Spruit

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 COACH与QUORUM框架通过多利益相关者评估，提升LLM生成健康建议的可信度和实用性。

Comments Under review for the CL4Health workshop

Adversarial Domain Adaptation Enables Knowledge Transfer Across Heterogeneous RNA-Seq Datasets

对抗域适应促进跨异构RNA-seq数据集的知识转移

Kevin Dradjat, Massinissa Hamidi, Blaise Hanczar

机构 * IBISC Laboratory（IBISC实验室） ； University Paris-Saclay (Univ. Evry)（巴黎萨克雷大学（欧韦尔大学）） ； France（法国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本研究提出基于深度学习的域适应框架，通过跨异构RNA-seq数据集实现有效知识转移，提升癌症类型分类的准确性，尤其在低数据场景下表现更优。

Comments 7 pages, 5 figures. Submitted to ECCB 2026

LeJOT-AutoML: LLM-Driven Feature Engineering for Job Execution Time Prediction in Databricks Cost Optimization

LeJOT-AutoML：基于LLM的特征工程用于Databricks成本优化中的作业执行时间预测

Lizhi Ma, Yi-Xiang Hu, Yihui Ren, Feng Wu, Xiang-Yang Li

机构 * University of Science and Technology of China（中国科学技术大学） ； Lenovo（联想） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 LeJOT-AutoML利用LLM驱动的AutoML框架，通过动态生成特征提升Databricks作业执行时间预测的准确性，从而实现成本优化。

YAQIN: Culturally Sensitive, Agentic AI for Mental Healthcare Support Among Muslim Women in the UK

YAQIN：面向英国穆斯林女性的文化敏感、代理型AI心理健康支持系统

Yasmin Zaraket, Céline Mougenot

机构 * Dyson School of Design Engineering, Imperial College London（帝京理工学院伦敦校区设计工程学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 YAQIN通过整合伊斯兰心理学和用户中心设计，为英国穆斯林女性提供文化敏感的AI心理健康支持，提升信任与治疗效果。

Memory for Autonomous LLM Agents:Mechanisms, Evaluation, and Emerging Frontiers

自主LLM代理的记忆：机制、评估与新兴前沿

Pengfei Du

机构 * Hong Kong Research Institute of Technology（香港理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文探讨了自主LLM代理中记忆的机制、评估及未来发展方向，分析了五种核心机制及评估挑战，强调记忆对代理适应性和应用的重要性。

TS-MLLM: A Multi-Modal Large Language Model-based Framework for Industrial Time-Series Big Data Analysis

TS-MLLM：一种基于多模态大语言模型的工业时间序列大数据分析框架

Haiteng Wang, Yikang Li, Yunfei Zhu, Jingheng Yan, Lei Ren, Laurence T. Yang

机构 * School of Automation Science and Electrical Engineering, Beihang University（北京航空航天大学自动化科学与电气工程学院） ； School of Software, Beihang University（北京航空航天大学软件学院） ； Hangzhou International Innovation Institute, Beihang University（北京航空航天大学杭州国际创新研究院） ； State Key Laboratory of Intelligent Manufacturing System Technology（智能制造系统技术国家重点实验室） ； School of Computer and Artificial Intelligence, Zhengzhou University（郑州大学计算机与人工智能学院） ； Department of Computer Science, St. Francis Xavier University（圣弗朗西斯科大学计算机科学系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 TS-MLLM通过多模态大语言模型联合建模时序信号、频域图像和文本知识，提升工业时间序列预测的鲁棒性、效率和泛化能力。

Where Do LLM-based Systems Break? A System-Level Security Framework for Risk Assessment and Treatment

LLM-based系统在哪里失效？一个系统级安全框架用于风险评估与处理

Neha Nagaraja, Hayretdin Bahsi

机构 * Northern Arizona University（北亚利桑那大学） ； Department of Software Science（软件科学系） ； Tallinn University of Technology（塔林技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出了一种系统级安全框架，用于评估和处理LLM系统中的风险，通过结合系统建模与攻击-防御树，分析医疗场景中的多步骤攻击路径，并提供可比较的防御策略。

AutoChecklist: Composable Pipelines for Checklist Generation and Scoring with LLM-as-a-Judge

AutoChecklist: 用于检查表生成和评分的可组合流水线

Karen Zhou, Chenhao Tan

机构 * University of Chicago（芝加哥大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 AutoChecklist通过可组合的流水线实现检查表生成与评分，支持多种LLM提供者，并展示了在领域适应中的灵活性。

Comments Website: https://autochecklist.github.io/, Code: https://github.com/ChicagoHAI/AutoChecklist

Robotic Foundation Models for Industrial Control: A Comprehensive Survey and Readiness Assessment Framework

工业控制中的机器人基础模型：全面调研与可行性评估框架

David Kube, Simon Hadwiger, Tobias Meisen

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文调研了工业控制中机器人基础模型的应用现状，通过系统评估框架分析了其工业适用性，指出工业成熟度有限，需加强安全、实时性、感知与集成等关键因素的系统性考虑。

AI-Powered Multi-Stakeholder Ecosystems for Global Development: A Design Research Study on the GSI D-Hub Proof-of-Concept Platform

人工智能赋能的多方利益相关者生态系统用于全球发展：对GSI D-Hub概念验证平台的设计研究

Muzakkiruddin Ahmed Mohammed, Adeeba Tarannum, Eileen Devereux Dailey, Marla Johnson, Mert Can Cakmak, John Talburt

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CY

AI总结 本文提出GSI D-Hub平台，利用可解释AI促进多方协作，通过设计科学方法验证其在提升透明度和决策信心方面的有效性。

Local-Global Prompt Learning via Sparse Optimal Transport

通过稀疏最优传输实现局部-全局提示学习

Deniz Kizaroğlu, Ülku Tuncer Küçüktas, Emre Çakmakyurdu, Alptekin Temizel

专题命中 安全评测 ：alignment(abstract)

AI总结 SOT-GLP通过稀疏最优传输实现局部-全局提示学习，提升少样本分类和分布外检测性能。

Comments 9 pages, 3 figures, 4 tables. Code available at GitHub