大模型对齐与安全

A Four-Axis Trustworthiness Benchmark for LLM-as-Judge in Principle-Based Regulation

面向基于原则的监管的LLM作为评判者的四轴可信度基准

Dipankar Sarkar

专题命中 安全评测 ：分类 cs.CL、cs.AI、cs.CY；trustworthy(comments)

AI总结 本文提出面向基于原则监管的LLM评判者的四轴可信度基准，发布Principle-Bench并引入Ceca评估器，发现无方法在所有四轴占优，部署级LLM评判者需报告对抗性欺骗与事后校准等指标。

Comments 7 pages, 3 figures. Accepted at the KDD 2026 Workshop on Secure and Trustworthy Large Language Models (SeT-LLM), poster

From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

从二元组到三元组：中风康复中可解释人工智能需求的引出

Param Rajpura, Yogesh Kumar Meena

专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.AI

AI总结 研究针对中风康复中引出可解释人工智能需求的挑战，提出基于视频的支架协议，包含类比桥接等四种方法，揭示了参与者的需求及引导偏差，为康复中引出面向患者的XAI需求提供可复用方法，是可靠人机系统设计前提。

Comments AI and Cognitive Computing for Trustworthy Human Machine Systems Session, IEEE International Conference on Systems, Man, and Cybernetics (IEEE SMC 2026)

Copy-on-Write Scoring: Application-Specific Agent Evaluations

写时复制评分：特定应用代理评估

Joanna Roy, Sven Hoelzel

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI；safety(comments)

AI总结 研究如何在软件系统中可靠部署基于大语言模型的代理，提出写时复制（CoW）评分框架，利用PostgreSQL级机制在应用环境中直接评估代理操作，能低成本评估迭代，在开源平台上验证了该框架的有效性。

Comments 15 pages, 11 figures, accepted at ICML 2026 Second Workshop on Agents in the Wild: Safety, Security, and Beyond

AI Pluralism and the Worlds It Misses

AI多元主义及其遗漏的世界

Rashid Mushkani

机构 * Rashid Mushkani 纠错

专题命中 安全评测 ：alignment(abstract,comments)；分类 cs.AI

AI总结 本文提出AI系统施加本体论，导致本体论扁平化，并引入多元生命周期治理框架以记录本体开放性和问责条件。

Comments To be presented at the ICML Pluralistic Alignment Workshop

Rethinking Scaffolding in LLM Tutors: The Interactional Mismatch Between Benchmarks and Real-World Deployments

重新思考LLM导师中的脚手架：基准测试与真实部署之间的交互不匹配

Alexandra Neagu, Jeffrey T. H. Wong, Marcus Messer, Rhodri Nelson, Peter B. Johnson

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 安全评测 ：alignment(abstract,comments)；分类 cs.AI

AI总结 通过分析9490个聊天记录，发现AI导师基准测试假设学生积极接受脚手架，但真实场景中学生常绕过脚手架，揭示基准测试与真实部署的交互不匹配。

Comments Pluralistic Alignment Workshop @ ICML 2026, Seoul, South Korea

When Language Representations Interact: Separability and Cross-Lingual Effects in LLMs

当语言表示交互时：LLM中的可分离性与跨语言效应

Boris Marinov, Angira Sharma, Christian Schroeder de Witt, Philip Torr, Anisoara Calinescu, Jialin Yu

机构 * University of Oxford（牛津大学） ； Imperial College London（帝国理工学院） ； University of York（约克大学） 纠错

专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.LG

AI总结 通过因果几何分析，研究多语言LLM中语言表示的线性可分离性及跨语言结构依赖，发现语言概念在协方差调整内积下可分离，同语系语言呈现单纯形几何结构。

Comments Trustworthy AI for Good (AI4Good) Workshop @ ICML 2026

Quipu: A Governed Bitemporal Knowledge Graph Store

Quipu：一种受管控的双时态知识图存储系统

Steve Brown

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究针对智能体知识图存储的四项默认规则缺陷，提出受管控双时态知识图存储系统Quipu，经Census、DEMM-Bench等基准测试，其在缺陷检测、裁决准确性、管控问题回答等方面表现优于基线。

Comments 15 pages, 2 figures, 4 tables. Subtitle: "Start strict: rethinking knowledge-graph defaults for agent-written knowledge". Source and the benchmark/census/ artifacts behind every reported number are archived at doi:10.5281/zenodo.21878428 (concept DOI, resolves to newest release). Development repository: github.com/scbrown/quipu

Topological Attribution Distance (TAD): Revealing Segment-Level RAG Influence on LLM Output Geometry for Incident Log Analysis

拓扑归因距离（TAD）：揭示用于事件日志分析的RAG片段级影响对LLM输出几何的作用

Reza Fayyazi, Michael Zuzak, Shanchieh Jay Yang

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对LLM在网络安全应用中证据归因追踪的缺口，提出拓扑归因距离（TAD）方法，可自适应识别对LLM输出关键的事件日志，为证据验证提供可解释追踪。

Unsupervised Anomaly Detection for Image Dataset Quality Assurance in Multi-Center Breast MRI

面向多中心乳腺MRI图像数据集质量保证的无监督异常检测

Chiara Tappermann, Steffen Renisch, Lars Ole Schwen, Hans Meine, Horst K. Hahn, Eike Petersen

机构 * Cambridge University Hospitals（剑桥大学医院） ； Mitera Hospital（米特拉医院） ； Radboud University Medical Center（拉德堡德大学医学中心） ； University Hospital Aachen（亚琛大学医院） ； University Medical Center Utrecht（乌得勒支大学医学中心） ； Ribera Hospital（里贝拉医院） ； Duke Breast Cancer MRI（杜克乳腺癌磁共振成像项目） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究针对多中心乳腺MRI数据集，构建含17种异常类型的无监督异常检测基准，评估四种方法，发现带位置编码的投影法性能最优，为医疗AI的可扩展无监督质量保证提供基础。

MLLM-Guided Semantic Correction for Text-to-Video Generation

基于多模态大语言模型（MLLM）的文本到视频生成语义修正

Junhao Chen, Zheqi Lv, Keting Yin, Shengyu Zhang, Zhou Zhao, Feiyang Chen, Xinyu Duan, Baoxing Huai, Fei Wu

机构 * Zhejiang University（浙江大学） ； Huawei Cloud Computing Technology Co., Ltd.（华为云计算技术有限公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 该研究提出一种无需训练的MLLM引导文本到视频生成语义修正框架，通过两个关键模块在生成中修正语义偏差，提升了生成内容的语义对齐度等性能，经多基准实验验证有效。

Towards Risk-free AI Agent Deployment

迈向无风险的AI智能体部署

Yintong Huo, Rangeet Pan, Abhik Roychoudhury

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 针对LLM智能体部署的安全、合规等风险，本文提出以智能体轨迹为基础，将测试与调试作为系统性研究方向，提炼部署就绪检查表并指出需解决的开放性问题，推动可信智能体部署。

AeroCopilotBench: A Two-Tier Benchmark for Evaluating LLM Agents as Aviation Copilots in an Interactive Virtual Cockpit Environment

AeroCopilotBench：用于在交互式虚拟驾驶舱环境中评估作为航空副驾驶的大语言模型智能体的双层基准

Yuchen Yuan, Zhenghuang Wu, Yuangan Li, Liang Ma, Ke Li

机构 * School of Aeronautic Science and Engineering, Beihang University（北京航空航天大学航空科学与工程学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究提出AeroCopilot操作环境与双层航空智能体评估基准，通过12个模型测试发现静态知识表现难转化为流程执行能力，为航空智能体评估提供可复现基础。

Comments 38 pages, 7 figures, 6 tables

Defake-o3: From Speculative Rationales to Verifiable Evidence for Explainable AIGI Detection

Defake-o3：从推测性理由到可验证证据的可解释AIGI检测

Bowen Deng, Jiahui Zhan, Yikun Ji, Haozhen Yan, Jianfu Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Defake-o3是结合交互式视觉搜索与证据验证器的可解释AIGI检测器，构建了GroundFake数据集和FakeFrontier基准，在多基准上同时提升了AIGI检测准确率与解释质量。

Comments Accepted by ACMMM 2026

CompoSkill: Compositional Skill Chain Attacks from Individually Scanner-Passing LLM Agent Skills

CompoSkill：通过可单独通过扫描器的大语言模型智能体技能实现的组合技能链攻击

Mingxiao Liu, Zhoumian Jiang, Jianan Ma, Jian Zhang, Jialuo Chen, Xinhao Deng, Zhen Wang

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 CompoSkill框架揭示现有单技能认证的自主AI智能体存在系统性缺口，其通过双攻击者系统构造组合技能链攻击，在白、黑盒设置下分别实现83.3%、80.6%的风险链形成率，现有扫描器拦截效果有限。

Comments 9 pages,5 figures

REFLEX: Reflexive Equilibrium Fixed-point Learning for Endogenous eXchanges

REFLEX：用于内生交易的自反均衡不动点学习

Vignesh Nagarajan, Shriraghav Ashok

机构 * Texas A&M University（德克萨斯农工大学） ； University of California, Berkeley（加利福尼亚大学伯克利分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 REFLEX是一个用于场外公司债券市场报价模型的框架，通过交易商行为的可测量特征构建稳定性裕度，可预测再训练的收敛性，在模拟和市场数据中验证了其有效性，能将抽象收敛定理转化为市场安全裕度。

Comments 8 pages, 6 figures, 5 tables, 24 references

CrevasseSeg: A Label-Efficient UAV Crevasse Segmentation Framework

CrevasseSeg：一种标签高效的无人机冰裂缝分割框架

Steven Wallace, William D Harcourt, Richard Hann, Aiden Durrant, Somayajulu Sripada, Georgios Leontidis

机构 * School of Natural and Computing Sciences, University of Aberdeen（阿伯丁大学自然与计算科学学院） ； Interdisciplinary Institute, University of Aberdeen（阿伯丁大学跨学科研究所） ； School of Geosciences, University of Aberdeen（阿伯丁大学地球科学学院） ； Department of Engineering Cybernetics, Norwegian University of Science and Technology（挪威科技大学工程控制论系） ； School of Computing Sciences, University of East Anglia（东英吉利大学计算科学学院） ； Department of Physics and Technology, UiT The Arctic University of Norway（北极挪威大学物理与技术系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 CrevasseSeg框架针对无人机冰裂缝分割，采用多种自监督目标与架构，发现DINOv3特征在不同读出方式下表现反转，其优化 pipeline 性能优于基线，支持遥感标签高效分割研究。

Comments 13 pages, 5 figures, 7 tables

An AI-Based Adaptive Learning Platform for Multilingual and Low-Resource Educational Contexts: A Case Study on Nigeria

面向多语言与低资源教育场景的基于AI的自适应学习平台：以尼日利亚为例

Everistus Ugochukwu Nwogo, Isibor Kennedy Ihianle, Pedro Machado, Jordan J. Bird, Ahmad Lotfi, Ahmad Abdulnasir Shuaib, Isaac Ibukun Akinwumi, Jonathan Oluranti

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY

AI总结 该研究针对低资源多语言教育场景，构建了整合微调LLM的PAL自适应学习平台，经多级量化优化与多维度评估，实现了语义鲁棒性、文化相关性与计算效率的平衡，为低资源语言教育AI系统提供了可部署框架。

Agent Gym: A Framework for Continuous Evaluation and Evolution of LLM Agents Through Human-in-the-Loop Feedback

Agent Gym：通过人在回路反馈实现LLM智能体持续评估与演化的框架

Pouya Ghiasnezhad Omran, Michael Zimmermann, Duncan Cambridge, Ashmita Kapoor, Tanya Dixit

机构 * Google Cloud（谷歌云） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 Agent Gym是支持LLM智能体持续评估演化的模块化框架，通过人在回路反馈实现行为修正，其发票处理参考验证表明框架实用可用。

Comments 15 pages, 4 figures

OTel: Building Domain-Specialized Telecom LLM Foundations for Intelligent Networks

OTel：构建面向智能网络的领域专用电信大语言模型基础

Farbod Tavakkoli, Roderic Paulk, Jorden Terrazas, Kenneth Church, Mark Austin, Louis Powell, Gregory Diamos, Lina Bariah, Syed Ali Raza Zaidi, Maryam Hafeez, Ali Maatouk, Imtiaz Karim

机构 * AT&T Chief Data Office（AT&T首席数据办公室） ； GSMA（全球移动通信系统协会） ； RelationalAI（RelationalAI公司） ； Khalifa University（哈利法大学） ； University of Leeds（利兹大学） ； Yale University（耶鲁大学） ； The University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究推出开源电信AI资源OTel，含多类任务数据集与30个模型基线，后训练提升三类模型性能，获大量下载与媒体报道，邀请社区共建更强电信大语言模型。

Comments Accepted at the ACM AI Leadership Summit, Breakthrough Impact Highlights Track, 2026

The Machine's Internal Clock: Do LLMs Share Human Temporal Illusions?

机器的内部时钟：大型语言模型（LLMs）是否会共享人类的时间错觉？

Catherine Bao, Vivek Srikumar

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究构建含5种错觉的6684个叙事对基准，发现人类仅在2种错觉中偏好预期场景，而14个LLMs在4种错觉中与文献预测一致，其一致性源于心理学研究检索而非类人时间偏差。

Comments 25 pages, 24 figures

TwinGridShield: Consequence-Aware Runtime Authorization for LLM Grid-Agent Actions

TwinGridShield：面向LLM网格智能体动作的后果感知运行时授权

Md Fazley Rafy

机构 * West Virginia University（西弗吉尼亚大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 TwinGridShield是与模型无关的LLM网格智能体动作运行时授权层，通过确定性网络孪生体评估动作，在匹配模型实验中实现0次不安全发布，模型不匹配下鲁棒性存在一定风险。

Comments 6 pages, 3 figures, 4 tables and accepted in North American Power Symposium 2026

TRACE-BN: Transferring Bangla-English Tutoring Behavior to a Sub-1B Offline Language Model

TRACE-BN：将孟加拉语-英语辅导行为迁移至参数量小于10亿的离线语言模型

Khan Raiyan Ibne Reza, Sanjana Aktar Maria, Mohammad Tushar Abdullah, Asfee Bhuiyan Leen, Sumaiya Tabassum Nimi

机构 * North South University（北南大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出TRACE-BN数据集，将其辅导行为通过LoRA迁移至Qwen3-0.6B模型，在资源受限离线部署下，相关指标及多维度辅导效果均获显著提升。

FZ-VLM: A Two Stage Florence-Zephyr Vision Language Model Framework for Pulmonary Nodule Characterization and Clinical Decision Making

FZ-VLM：用于肺结节特征表征与临床决策的两阶段Florence-Zephyr视觉语言模型框架

Pramit Dutta, Jenita Manokaran, Richa Mittal, Ryan Appleby, Eranga Ukwatta

机构 * College of Engineering, University of Guelph（圭尔夫大学工程学院） ； Holland Bloorview Kids Rehabilitation Hospital（霍兰德布鲁尔维尤儿童康复医院） ； Guelph General Hospital（圭尔夫综合医院） ； Ontario Veterinary College, University of Guelph（圭尔夫大学安大略兽医学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出首个两阶段视觉语言模型框架FZ-VLM，通过微调Florence-2与Zephyr-7B模型，实现肺CT中肺结节的结构化特征表征与临床决策，性能优于GPT-4基线及人类基线。

Frontier AI Forecasting Has a Measurement Problem: An Audit of Progress Evidence

前沿AI预测存在测量问题：对进展证据的审计

Fabricio F Costa

机构 * AIx4All, LLC（AIx4All有限责任公司） ； HCLTech（HCLTech公司） ； Stanley Manne Children’s Research Institute（斯坦利·曼恩儿童研究所） ； Ann & Robert H. Lurie Children’s Hospital of Chicago（安与罗伯特·H·卢里芝加哥儿童医院） ； Northwestern University Feinberg School of Medicine（西北大学费恩伯格医学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文审计前沿AI预测的测量问题，构建含多类元素的冻结记录，发现训练计算量、METR horizon等关键数据缺失，基准更迭存在断点，来源高度集中，提出需明确版本化测量系统的预测主张。

Comments 16 pages, 6 figures, 1 table. Evidence cutoff: 12 August 2026. Ancillary code and data included. Preprint; comments welcome

Beyond Pass@k: Measuring Reliability and Security of Agentic Code Generation

超越Pass@k：衡量智能体代码生成的可靠性与安全性

Jiajun Jiang, Sharon Zheng, Natan Vidra, Spurthi Setty

机构 * Stevens Institute of Technology（史蒂文斯理工学院） ； Cornell University（康奈尔大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究指出AI编码智能体基准误用Pass@k指标，提出正确的Reliability@k及安全调整版，通过实验验证误用指标的偏差，还在SWE-bench试点中发现真实场景下的核心问题。

A Comprehensive Survey of Wireless Foundation Models for AI-Native 6G Networks

面向AI原生6G网络的无线基础模型综合综述

Naveed Khan, Besan Al Sbeihi, Maryam Alshehhi, Nasir Saeed

机构 * College of Engineering, United Arab Emirates University（阿联酋大学工程学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 该综述针对无线基础模型（WFMs）的设计、学习与部署展开统一梳理，明确其概念与分类，综述相关架构、方法及应用，分析关键挑战并展望未来方向，为AI原生6G网络智能系统研发提供参考。

Comments 28 Pages, submitted to IEEE Communications Surveys and Tutorials

Evaluating Multimodal LLMs across Text and Audio Modalities for Accessible Disaster Assistance

评估面向无障碍灾害援助的跨文本与音频模态多模态大语言模型

Anuridhi Gupta, Samara Mansoor, Hemant Purohit

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文评估了开放权重多模态大语言模型在灾害援助场景下跨文本与音频模态的响应一致性，发现其存在模态依赖的不公平性，为构建公平的灾害沟通AI工具提供了设计建议。

Comments 8 pages, 3 figures

Earth Observation Foundation Models for Terrestrial Ecohydrology: From Representation Learning to Process Inference

面向陆地生态水文学的地球观测基础模型：从表示学习到过程推理

Yi Yu, Jian Peng, Yucheng Lin, Trevor F. Keenan, Thomas F. A. Bishop

机构 * The University of Sydney（悉尼大学） ； Helmholtz Centre for Environmental Research–UFZ（亥姆霍兹环境研究中心） ； Leipzig University（莱比锡大学） ； City University of Hong Kong（香港城市大学） ； University of California, Berkeley（加州大学伯克利分校） ； Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 该研究构建框架分析EOFM在生态水文学中的应用，发现其与生态水文学需求存在不匹配，推动建立过程感知框架以支撑对水、能量与碳耦合动态的可信监测与解释。

AgentRewind: Recoverable Execution for Long-Horizon LLM Agents

AgentRewind：面向长 horizon LLM 智能体的可恢复执行框架

Yu Zhuang, Kefei Chen, Yitong Duan, Shuxin Zheng, Jian Li, Xu-Yao Zhang

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 AgentRewind 是面向长周期 LLM 智能体的运行时恢复框架，通过记录检查点支持状态回退，结合自建基准 MettleBench 实验，可提升智能体任务成功率与清单进度。

Comments 19 pages, 5 figures

Polaris : Multi Agentic System for Conversational Enterprise Analytics

Polaris：用于对话式企业分析的多智能体系统

Varuni H K, Soham Sarkar, Jay Kumar, Goutham Krishnan, Tanvi Johari, Avinash Bharadwaj, Santosh Hegde

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究提出名为Polaris的多智能体框架，通过动态任务协调（DTC）层与ReAct风格智能体结合，实现对话式企业分析，在结构化企业数据集上验证了其高语义保真度与答案相关性，为大规模可信端到端商业智能提供了新方案。