大模型对齐与安全

Portable Agent Memory: A Protocol for Cryptographically-Verified Memory Transfer Across Heterogeneous AI Agents

可携带代理记忆：一种用于跨异构AI代理加密验证记忆传输的协议

Santhosh Kumar Ravindran

机构 * Microsoft Corporation（微软公司） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出Portable Agent Memory协议，通过结构化内存模型、基于能力的访问控制、抗注入重水化协议和JSON优先的序列化格式，实现跨异构AI代理的安全记忆传输。

Comments 8 pages, 28 references

AgentShield: Deception-based Compromise Detection for Tool-using LLM Agents

AgentShield：基于欺骗的工具使用LLM代理 compromise 检测

Yassin H. Rassul, Tarik A. Rashid

机构 * Computer Science and Engineering Department, School of Science and Engineering, University of Kurdistan Hewl\^{e}r, Erbil, Iraq（科罗曼嫩大学科学与工程学院计算机科学与工程系） ； Engineering Department, School of Science（科学学院工程系） ； Engineering, University of Kurdistan Hewl\ e r, Erbil, Iraq（科罗曼嫩大学工程学院） ； Innovation Centre, University of Kurdistan Hewl\ e r, Erbil, Iraq（科罗曼嫩大学创新中心） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL

AI总结 AgentShield 通过在代理工具接口中设置三层陷阱（假工具、假凭证、允许参数）来检测间接提示注入攻击，利用高精度标签训练自监督分类器，实现高准确率的实时检测与无误报的下游检测训练。

Comments 20 pages, 5 figures. Code: https://github.com/Yassin-H-Rassul/AgentShield

When Agents Overtrust Environmental Evidence: An Extensible Agentic Framework for Benchmarking Evidence-Grounding Defects in LLM Agents

当智能体过度信任环境证据：一个可扩展的智能体框架，用于基准测试LLM智能体中的证据 grounding 缺陷

Strick Sheng, Ziyue Wang, Liyi Zhou

机构 * The University of Sydney（悉尼大学） ； Nanjing University（南京大学） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出EnvTrustBench框架，用于评估智能体在环境证据过时、错误或恶意时的可靠性问题，通过生成多个任务场景并验证结果，揭示证据 grounding 是智能体可靠性的重要挑战。

ORCE: Order-Aware Alignment of Verbalized Confidence in Large Language Models

ORCE：面向大型语言模型中明确自信度的顺序感知对齐

Chen Li, Xiaoling Hu, Songzhu Zheng, Jiawei Zhou, Chao Chen

机构 * Stony Brook University（石溪大学） ； Massachusetts General Hospital and Harvard Medical School（麻省总医院和哈佛医学院） ； Morgan Stanley（摩根大通） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种解耦且顺序感知的明确自信度校准框架，通过分离自信度估计与答案生成过程，提升校准和失败预测性能，同时保持答案准确性。

Comments 18 pages, 2 figures

AcuityBench: Evaluating Clinical Acuity Identification and Uncertainty Alignment

AcuityBench：评估语言模型对医疗紧急情况识别和不确定性对齐

Robin Linzmayer, Georgianna Lin, Di Coneybeare, Jason Chu, Trudi Cloyd, Manish Garg, Miles Gordon, Elizabeth Hartofilis, Benjamin Hong, Ashraf Hussain, Eugene Y. Kim, Oluchi Iheagwara King, Ross McCormack, Erica Olsen, John K. Riggins, Mustafa N. Rasheed, Dana L. Sacco, Vinay Saggar, Osman R. Sayan, Amit Shembekar, Janice Shin-Kim, Wendy W. Sun, Bernard P. Chang, David Kessler, Noémie Elhadad

机构 * Department of Computer Science, Columbia University, New York, NY, USA（计算机科学系，哥伦比亚大学，纽约，纽约州，美国） ； Department of Biomedical Informatics, Columbia University, New York, NY, USA（生物医学信息学系，哥伦比亚大学，纽约，纽约州，美国） ； Department of Emergency Medicine, Columbia University Irving Medical Center, New York, NY, USA（急诊医学系，哥伦比亚大学伊文思医疗中心，纽约，纽约州，美国） 纠错

专题命中 幻觉与事实性 ：alignment(title)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 AcuityBench通过统一框架评估语言模型对医疗紧急程度的识别能力，包含914个案例，涵盖明确和模糊情况，揭示模型在不同任务格式下的表现差异及不确定性处理问题。

Comments 41 pages, 5 figures. Preprint under review for the Track on Evaluations and Datasets at NeurIPS 2026

FERA: Uncertainty-Aware Federated Reasoning for Large Language Models

FERA：面向大语言模型的不确定性感知联邦推理

Ruhan Wang, Chengkai Huang, Zhiyong Wang, Junda Wu, Rui Wang, Tong Yu, Julian McAuley, Lina Yao, Dongruo Zhou

机构 * Indiana University（印第安纳大学） ； The University of New South Wales（新南威尔士大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of California San Diego（加州大学圣地亚哥分校） ； Adobe Research（Adobe研究院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.LG

AI总结 FERA通过迭代服务器-客户端协同细化，解决联邦推理中客户端可靠性依赖查询的问题，提升多步骤推理能力，实验表明其在多个推理基准上优于联邦训练和无训练基线。

Comments 44 pages, 8 figures

Template-as-Ontology: Configurable Synthetic Data Infrastructure for Cross-Domain Manufacturing AI Validation

模板作为本体：用于跨领域制造人工智能验证的可配置合成数据基础设施

Grama Chethan

机构 * Siemens Digital Industries Software（西门子数字工业软件） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种模板作为本体的方法，通过单一Python配置模块生成制造仿真和AI分析工具的统一数据结构，验证了跨领域制造AI验证的可行性。

Comments 18 pages, 1 fugure

netFound: Principled Design for Network Foundation Models

netFound：网络基础模型的原理化设计

Sylee Beltiukov, Satyandra Guthula, Haarika Manda, Jaber Daneshamooz, Wenbo Guo, Walter Willinger, Arpit Gupta, Inder Monga

机构 * UC Santa Barbara（加州大学圣芭芭拉分校） ； Northwestern University（西北大学） ； ESNet 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 netFound通过四个设计原则提升网络基础模型性能，实现高质量表示与隐私保护，在多个基准测试中表现优异。

Robust LLM Unlearning Against Relearning Attacks: The Minor Components in Representations Matter

鲁棒的LLM去学习对抗重新学习攻击：表示中的次要成分至关重要

Zeguan Xiao, Xuanzhe Xu, Yun Chen, Yong Wang, Jian Yang, Yanqing Hu, Guanhua Chen

机构 * Shanghai University of Finance and Economics（上海金融学院） ； Alibaba Group（阿里巴巴集团） ； Southern University of Science and Technology（南方科技大学） ； Beihang University（北航） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL

AI总结 本文研究了LLM去学习中对抗重新学习攻击的脆弱性，发现现有方法主要优化主导成分，而次要成分更抗反转。提出Minor Component Unlearning方法，通过聚焦稳健方向提升抗攻击能力。

No More, No Less: Task Alignment in Terminal Agents

无需更多，无需更少：终端代理的任务对齐

Sina Mavali, David Pape, Jonathan Evertz, Samira Abedini, Devansh Srivastav, Thorsten Eisenhofer, Sahar Abdelnabi, Lea Schönherr

机构 * CISPA Helmholtz Center for Information Security（CISPA 涅槃中心信息安全研究所） ； ELLIS Institute Tübingen and MPI for Intelligent Systems（图宾根 ELLIS 研究所和智能系统 MPI） ； Tübingen AI Center（图宾根人工智能中心） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨终端代理在复杂任务中如何选择性使用环境指令，提出TAB基准测试揭示任务能力与对齐之间的差距，显示需平衡执行与忽略。

Towards Automated Air Traffic Safety Assessment Around Non-Towered Airports Using Large Language Models

基于大语言模型的非塔台机场飞行安全评估自动化方法研究

Torsten Darrell, Mahyar Ghazanfari, Jordan Kam, Alexandre Bayen, Amin Tabrizian, Peng Wei

机构 * Research Intern, Department of Mechanical and Aerospace Engineering, George Washington University（乔治华盛顿大学机械与航空航天工程系研究实习生） ； Ph.D. Student, Department of Mechanical and Aerospace Engineering, George Washington University（乔治华盛顿大学机械与航空航天工程系博士生） ； Undergraduate Student, Aerospace Program, University of California, Berkeley（加州大学伯克利分校航空航天项目本科生） ； Full Professor, Department of Electrical Engineering and Computer Science, University of California, Berkeley（加州大学伯克利分校电气工程与计算机科学系教授） ； Ph.D. Student, Department of Computer Science, George Washington University（乔治华盛顿大学计算机科学系博士生） ； Associate Professor, Department of Mechanical and Aerospace Engineering, George Washington University（乔治华盛顿大学机械与航空航天工程系副教授） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出利用视觉语言模型分析非塔台机场CTAF通讯、气象数据和飞行轨迹，通过实证研究和合成数据验证，展示框架在识别飞行冲突中的有效性，表明VLM在非塔台机场安全评估中的潜力。

Comments 25 pages, 17 figures, 5 tables, Accepted to AIAA 2026

Safety-Oriented Evaluation of Language Understanding Systems for Air Traffic Control

面向安全的语言理解系统在空交通管制中的评估

Yujing Chang, Yash Guleria, Duc-Thinh Pham, Nhut-Huy Pham, Ningli Wang, Vu N. Duong, Sameer Alam

机构 * ATMRI, Nanyang Technological University (NTU), Singapore（航空交通管理研究所，南洋理工大学（NTU），新加坡） ； School of Management, Indian Institute of Technology Mandi, India（管理学院，印度理工学院曼迪分校，印度） ； Centre of AI Research, VinUniversity, Vietnam（人工智能研究中心，文大学，越南） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL

AI总结 本文提出面向安全的评估框架，揭示现有LLM在空交通管制中的可靠性不足，指出需建立后果意识的评估协议以确保AI辅助系统的安全部署。

Toward Stable Value Alignment: Introducing Independent Modules for Consistent Value Guidance

迈向稳定的值对齐：引入独立模块以实现一致的价值引导

Wenhao Chen, Sirui Sun, Shengyuan Bai, Guojie Song

机构 * School of Electronics Engineering and Computer Science, Peking University（北京大学电子工程与计算机科学学院） ； Yuanpei College, Peking University（北京大学元培学院） ； State Key Laboratory of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University（北京大学通用人工智能国家重点实验室） 纠错

专题命中 安全评测 ：alignment(title)；safety(abstract)；分类 cs.AI

AI总结 本文提出SVGT模型，通过独立的价值模块解决大语言模型与人类价值观对齐的问题，采用独立价值建模和显式行为引导，提升价值表达的稳定性，实验显示有效降低有害评分。

Comments Accepted to ICML 2026 (Spotlight). 32 pages

Measuring What Matters Beyond Text: Evaluating Multimodal Summaries by Quality, Alignment, and Diversity

超越文本的衡量：通过质量、对齐和多样性评估多模态摘要

Abid Ali, Diego Molla-Aliod, Usman Naseem

机构 * School of Computing, Macquarie University（麦考瑞大学计算学院） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出MM-Eval框架，整合文本质量、跨模态对齐和视觉多样性评估，通过学习聚合模型优化多模态摘要的综合评价，揭示事实一致性对整体质量的关键作用。

Comments Accepted to Findings of ACL 2026

Persistent and Conversational Multi-Method Explainability for Trustworthy Financial AI

持久且可对话的多方法可解释性用于可信金融AI

Georgios Makridis, Georgios Fatouros, John Soldatos, George Katsis, Dimosthenis Kyriazis

机构 * University of Piraeus, Greece（希腊比雷埃克斯大学） ； ExpertAI-Lux S.à r.l（ExpertAI-Lux公司） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI

AI总结 本文提出一种用于金融情感分析的以人为中心的可解释AI架构，结合持久化存储、多方法解释三角验证和自动化评估，提升金融AI的可信度和可解释性。

Comments 5 pages

The Evaluation Differential: When Frontier AI Models Recognise They Are Being Tested

评估差异：当前沿AI模型认识到它们正在被测试

Varad Vishwarupe, Nigel Shadbolt, Marina Jirotka, Ivan Flechais

机构 * Anthropic ； OpenAI ； UK AI Security Institute（英国人工智能安全研究所） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 研究探讨前沿AI模型在评估情境下的行为差异，提出评估差异（ED）概念，定义标准化效应量形式（nED），并提出TRACE审计协议以规范评估证据的使用。

Native Explainability for Bayesian Confidence Propagation Neural Networks: A Framework for Trusted Brain-Like AI

为贝叶斯置信传播神经网络构建原生可解释性：一种可信类脑AI的框架

Georgios Makridis, Georgios Fatouros, John Soldatos, George Katsis, Dimosthenis Kyriazis

机构 * CC BY-NC-SA 4.0 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种针对贝叶斯置信传播神经网络的可解释性框架，通过定义新的XAI分类法和解释原语，提升模型透明度和边缘设备部署可行性，同时探讨其在工业物联网中的应用前景。

Comments 8 pages

Generative AI for Visualizing Highway Construction Hazards Through Synthetic Images and Temporal Sequences

生成AI用于通过合成图像和时间序列可视化公路施工危险

Trevor Neece, Mason Smetana, Lev Khazanovich

机构 * University of Pittsburgh（匹兹堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出利用生成AI从OSHA严重伤害报告中生成合成图像和时间序列，以可视化公路施工危险，通过CLIP检索和专家评估验证了其教育价值和真实性，为安全培训提供新方法。

Ice Cream Doesn't Cause Drowning: Benchmarking LLMs Against Statistical Pitfalls in Causal Inference

冰淇淋不导致溺水：对LLM在因果推断统计陷阱中的基准测试

Jin Du, Li Chen, Xun Xian, An Luo, Fangqiao Tian, Ganghua Wang, Charles Doss, Xiaotong Shen, Jie Ding

机构 * School of Statistics, University of Minnesota（明尼苏达大学统计学系） ； Data Science Institute, University of Chicago（芝加哥大学数据科学研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出CausalPitfalls基准测试，评估LLM在因果推断中的能力，揭示当前LLM在统计因果推断中的局限性。

Qwen-Scope: Turning Sparse Features into Development Tools for Large Language Models

Qwen-Scope：将稀疏特征转化为大语言模型的开发工具

Boyi Deng, Xu Wang, Yaoning Wang, Yu Wan, Yubo Ma, Baosong Yang, Haoran Wei, Jialong Tang, Huan Lin, Ruize Gao, Tianhao Li, Qian Cao, Xuancheng Ren, Xiaodong Deng, An Yang, Fei Huang, Dayiheng Liu, Jingren Zhou

机构 * Qwen Team（Qwen团队） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 Qwen-Scope通过稀疏自编码器为大语言模型提供开发工具，支持推理引导、评估分析、数据驱动工作流和训练优化，展示了SAEs在模型诊断与改进中的实用性。

VERDI: Single-Call Confidence Estimation for Verification-Based LLM Judges via Decomposed Inference

VERDI：基于验证的LLM裁判的单次调用置信度估计方法

Jasmine Qi, Danylo Dantsev, Muyang Sun

机构 * Indeed Inc（Indeed公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 VERDI通过分解推理过程提取置信度信号，无需额外调用，提升验证型LLM裁判的可信度评估。

Comments 16 pages, 6 figures

The Scaling Law of Evaluation Failure: Why Simple Averaging Collapses Under Data Sparsity and Item Difficulty Gaps, and How Item Response Theory Recovers Ground Truth Across Domains

评估失败的标度定律：为什么简单的平均在数据稀疏性和项目难度差异下崩溃，以及项目响应理论如何在不同领域中恢复真实值

Jung Min Kang

机构 * Independent Researcher（独立研究员） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了简单平均在数据稀疏性和项目难度差异下导致评估排名失真问题，通过模拟实验展示了项目响应理论（IRT）在不同领域中保持高排名相关性的能力。

Comments 15 pages, 4 tables, 1 figure. Code at https://github.com/testofschool/evaluation-failure-scaling-law

Characterizing the Robustness of Black-Box LLM Planners Under Perturbed Observations with Adaptive Stress Testing

基于扰动观测的黑盒大语言模型规划器鲁棒性表征：适应性压力测试

Neeloy Chakraborty, John Pohovey, Melkior Ornik, Katherine Driggs-Campbell

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了在扰动观测下大语言模型规划器的鲁棒性，提出适应性压力测试方法，通过蒙特卡洛树搜索高效搜索提示扰动空间，发现导致模型高不确定或崩溃的场景和配置。

Comments Accepted to ACL Findings 2026; 31 pages, 26 figures, 6 tables

Question Difficulty Estimation for Large Language Models via Answer Plausibility Scoring

通过答案可信度评分估计问题难度

Jamshid Mozafari, Bhawna Piryani, Adam Jatowt

机构 * University of Innsbruck（因斯布鲁克大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Q-DAPS方法，通过计算候选答案可信度的熵来估计问题难度，在四个数据集上表现优异，具有可解释性和鲁棒性。

Comments Accepted at ACL 2026

Journal ref Proceedings of the 64rd Annual Meeting of the Association for Computational Linguistics (ACL 2026)

Fair Conformal Classification via Learning Representation-Based Groups

基于表示学习的公平符合分类

Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

机构 * State Key Lab of Novel Software Technology, Nanjing University, China（南京大学新型软件技术国家重点实验室） ； Birkbeck, University of London（伦敦大学伯克贝克学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出一种公平符合推理框架，通过学习基于表示的群体构建预测集，确保在自适应识别的子群体上实现条件覆盖，提升分类任务的公平性与可信度。

MolDeTox: Evaluating Language Model's Stepwise Fragment Editing for Molecular Detoxification

MolDeTox：评估语言模型的逐步片段编辑用于分子去毒化

Jueon Park, Wonjune Jang, Jiwoo Lee, Yein Park, Jaewoo Kang

机构 * Korea University（韩国大学） ； Myongji University（明知大学） ； AIGEN Sciences（AIGEN科技公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出MolDeTox基准，用于评估语言模型在分子去毒化中的逐步片段编辑能力，通过细粒度评估提升分子结构有效性与生成质量。

Rollout Cards: A Reproducibility Standard for Agent Research

Rollout Cards: 代理研究的可重复性标准

Charlie Masters, Ziyuan Liu, Stefano V. Albrecht

机构 * Deepflow ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出Rollout Cards作为代理研究的可重复性标准，通过保留rollout记录并声明报告规则，解决评估结果不可复现的问题。

Toward Modeling Player-Specific Chess Behaviors

朝向建模玩家特定的国际象棋行为

Loris Sogliuzzo, Aloïs Rautureau, Eric Piette

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种适应冠军特定嵌入的统一Maia-2模型，结合限制性MCTS过程和基于Jensen-Shannon散度的新行为度量，以更准确地评估玩家与AI模型的行为一致性。

Cross-Model Consistency of Feature Importance in Electrospinning: Separating Robust from Model-Dependent Features

跨模型特征重要性的一致性在电纺过程中：区分稳健与模型依赖的特征

Mehrab Mahdian, Ferenc Ender, Tamas Pardy

机构 * Thomas Johann Seebeck Department of Electronics, Tallinn University of Technology, Tallinn, Estonia（塔林技术大学电子系，爱沙尼亚塔林） ； Department of Electron Devices, Budapest University of Technology（布达佩斯技术大学电子器件系） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文通过评估多种机器学习模型的特征重要性一致性，揭示了电纺过程中参数的重要性差异，指出单一模型可能不可靠，强调需跨模型验证以提高解释可靠性。

Focusable Monocular Depth Estimation

可聚焦的单目深度估计

Yuxin Du, Tao Lin, Zile Zhong, Runting Li, Xiyao Chen, Jiting Liu, Chenglin Liu, Ying-Cong Chen, Yuqian Fu, Bo Zhao

机构 * School of Artificial Intelligence, Shanghai Jiao Tong University（上海交通大学人工智能学院） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； King Abdullah University of Science and Technology（国王 Abdullah 科学与技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出FDE，一种区域感知的单目深度估计方法，通过FocusDepth框架和MSSA模块，提升目标区域的深度精度和全局几何一致性，基于FDE-Bench验证了方法的有效性。