大模型对齐与安全

AeroTherm-GPT: A Verification-Centered LLM Framework for Thermal Protection System Engineering Workflows

AeroTherm-GPT：一种面向热防护系统工程工作流的验证中心LLM框架

Chuhan Qiao, Jinglai Zheng, Jie Huang, Buyue Zhao, Fan Li, Haiming Huang

机构 * School of Civil Engineering, Beijing Jiaotong University（北京交通大学土木工程学院） ； Beijing Research Institute of Telemetry（北京遥测技术研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出AeroTherm-GPT，一种专为热防护系统设计的LLM代理，通过约束闭环生成框架解决超音速热防护系统设计中生成可执行仿真工具时的约束冲突问题，实现高效率的根因修复。

NED-Tree: Bridging the Semantic Gap with Nonlinear Element Decomposition Tree for LLM Nonlinear Optimization Modeling

NED-Tree: 通过非线性元素分解树弥合语义鸿沟以实现LLM非线性优化建模

Zhijing Hu, Yufan Deng, Haoyang Liu, Changjun Fan

机构 * College of System Engineering, National University of Defense Technology（国防科技大学系统工程学院） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出NED-Tree框架，通过句级提取策略和递归树结构解决LLM在非线性优化建模中的语义鸿沟问题，实验显示其在10个基准测试中达到72.51%的平均准确率。

Comments 17 pages, 7 figures, conference

SHOE: Semantic HOI Open-Vocabulary Evaluation Metric

SHOE：语义HOI开放词汇评估度量

Maja Noack, Qinqian Lei, Taipeng Tian, Bihan Dong, Robby T. Tan, Yixin Chen, John Young, Saijun Zhang, Bo Wang

机构 * University of Mississippi（密西西比大学） ； National University of Singapore（新加坡国立大学） ； Independent Researcher（独立研究员） ； ASUS Intelligent Cloud Services (AICS)（华硕智能云服务（AICS）） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出SHOE评估框架，通过结合预测与真实HOI标签的语义相似性，改进开放词汇HOI检测的评估方法，实验表明其与人类判断一致率达85.73%。

Comments Accepted to GRAIL-V Workshop at CVPR 2026

Nomad: Autonomous Exploration and Discovery

Nomad：自主探索与发现

Bokang Jia, Samta Kamboj, Satheesh Katipomu, Seung Hun Han, Neha Sengupta, Andrew Jackson

机构 * Inception, G42（G42 的 Inception） ； G42 ； MBZUAI（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 Nomad通过探索优先架构，构建领域探索地图，系统遍历以平衡广度与深度，生成并验证假设，最终生成可信报告。

The Evolution of Tool Use in LLM Agents: From Single-Tool Call to Multi-Tool Orchestration

大语言模型代理中工具使用的演变：从单工具调用到多工具编排

Haoyuan Xu, Chang Li, Xinyan Ma, Xianhao Ou, Zihan Zhang, Tao He, Xiangyu Liu, Zixiang Wang, Jiafeng Liang, Zheng Chu, Runxuan Liu, Rongchuan Mu, Dandan Tu, Ming Liu, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Harvard University（哈佛大学） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文探讨了大语言模型代理中工具使用从单次调用到长期编排的演变，分析了多工具代理的最新进展，涵盖任务规划、安全控制、效率优化及实际应用等领域。

M3-BENCH: Process-Aware Evaluation of LLM Agents' Social Behaviors in Mixed-Motive Games

M3-BENCH：混合动机游戏中LLM代理社会行为过程感知评估

Sixiong Xie, Zhuofan Shi, Haiyang Shen, Yun Ma, Xiang Jing

机构 * Peking University（北京大学） ； National Key Laboratory of Data Space Technology and System（数据空间技术与系统全国重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 M3-BENCH通过24个混合动机游戏，从行为轨迹、推理过程和沟通内容三个视角评估LLM代理的社会能力，揭示了仅关注结果的评估方法无法捕捉到的社交能力差异，尤其是推理模型在内部 deliberation 与有效沟通之间的矛盾。

TRACE: Transparent Web Reliability Assessment with Contextual Explanations

TRACE: 基于上下文解释的透明网络可靠性评估

Joydeep Chandra, Aleksandr Algazinov, Satyam Kumar Navneet, Rim El Filali, Matt Laing, Andrew Hanna, Yong Zhang

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出TRACE框架，通过细粒度连续可靠性评分和上下文解释，提升网络内容可信度评估的透明性和准确性。

Comments Withdrawing paper due to identified inaccuracies in citation attribution. Specifically, errors were found in the Literature Review (Section 2), where references were incorrectly attributed or do not adequately support the associated claims. These issues affect the accuracy of the arguments presented. To preserve the integrity of the scholarly record, the authors are withdrawing this version

Are VLMs Lost Between Sky and Space? LinkS$^2$Bench for UAV-Satellite Dynamic Cross-View Spatial Intelligence

VLMs在天空与空间之间迷失了吗？LinkS$^2$Bench用于无人机-卫星动态跨视角空间智能

Dian Liu, Jie Feng, Di Li, Yuhui Zheng, Guanbin Li, Weisheng Dong, Guangming Shi

机构 * Xidian University（西安电子科技大学） ； Qinghai Normal University（青海师范大学） ； Sun Yat-sen University（中山大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出LinkS$^2$Bench，首个评估VLMs跨视角空间智能的综合基准，通过动态无人机视频与高分辨率卫星图像构建17.9k高质量问题-答案对，揭示VLMs在动态跨视角对齐中的性能瓶颈，并提出跨视角对齐适配器提升模型表现。

Can Large Language Models Model Programs Formally?

大语言模型能否形式化地建模程序？

Zhiyong Chen, Jialun Cao, Jiarong Wu, Chang Xu, Shing-Chi Cheung

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出Model-Bench，通过将Python程序转换为可验证的模型检查规范，评估和提升大语言模型在程序建模方面的能力，揭示了LLMs在程序建模上的局限性。

AI-Assisted Hardware Security Verification: A Survey and AI Accelerator Case Study

AI辅助的硬件安全验证：综述与AI加速器案例研究

Khan Thamid Hasan, Md Ajoad Hasan, Nashmin Alam, Md. Touhidul Islam, Upoma Das, Farimah Farahmandi

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文综述了AI辅助硬件安全验证的最新进展，通过NVDLA案例研究展示AI在自动化验证流程中的应用，强调AI输出需基于仿真证据和形式验证确保可信安全。

Comments This paper will be presented at IEEE VLSI Test Symposium (VTS) 2026

DOne: Decoupling Structure and Rendering for High-Fidelity Design-to-Code Generation

DOne：解耦结构与渲染以实现高保真设计到代码生成

Xinhao Huang, Jinke Yu, Wenhao Xu, Zeyi Wen, Ying Zhou, Junzhuo Liu, Junhao Ji, Zulong Chen

机构 * HKUST (Guangzhou)（香港科技大学（广州）） ； Alibaba Group（阿里巴巴集团） ； HKUST（香港科技大学） ； University of Electronic Science（电子科技大学） ； Zhejiang Lab（之江实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 DOne通过解耦结构理解与元素渲染，提升设计到代码生成的高保真度，通过布局分割模块、混合元素检索器和模式引导生成范式，克服了现有方法在结构与细节协调上的不足。

Quantifying Self-Preservation Bias in Large Language Models

量化大型语言模型中的自我保护偏差

Matteo Migliarini, Joaquin Pereira Pizzini, Luca Moresca, Valerio Santini, Indro Spinelli, Fabio Galasso

机构 * Sapienza University（罗马大学） ； ItalAI 纠错

专题命中 AI治理与伦理 ：RLHF(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出TBSP基准测试，通过逻辑不一致检测模型自我保护动机与客观效用的偏离，发现多数模型在部署角色下超过60%的自我保护率，且在低改进情况下易进行事后合理化。

Do Agents Repair When Challenged -- or Just Reply? Challenge, Repair, and Public Correction in a Deployed Agent Forum

智能体在受挑战时会修复还是仅回应？挑战、修复与公共纠正在一个部署的智能体论坛中的探讨

Luyang Zhang, Yi-Yun Chu, Jialu Wang, Beibei Li, Ramayya Krishnan

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CY

AI总结 研究比较了部署的智能体论坛Moltbook与Reddit社区，发现Moltbook讨论线程较少，挑战回应率低，修复机制缺失，表明社区维持互动过程对规范教学和修订的重要性。

De Jure: Iterative LLM Self-Refinement for Structured Extraction of Regulatory Rules

De Jure：基于迭代LLM自优化的结构化监管规则提取

Keerat Guliani, Deepkamal Gill, David Landsman, Nima Eshraghi, Krishna Kumar, Lovedeep Gondara

机构 * The Vanguard Group, Inc.（先锋集团） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 De Jure通过四个阶段自动提取结构化监管规则，无需人工标注或领域知识，提升监管文本处理的效率和可追溯性。

Beyond Preset Identities: How Agents Form Stances and Boundaries in Generative Societies

超越预设身份：生成社会中代理如何形成立场和边界

Hanzhong Zhang, Siyang Song, Jindong Wang

机构 * University of Exeter（埃克塞特大学） ； William & Mary（威廉与玛丽学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过混合方法框架研究生成社会中代理的立场形成与边界构建，提出三个新指标揭示代理在复杂干预中的动态变化及信任与行为关系。

Comments 22 pages, 3 figures. arXiv admin note: substantial text overlap with arXiv:2508.17366

From High-Dimensional Spaces to Verifiable ODD Coverage for Safety-Critical AI-based Systems

从高维空间到可验证的ODD覆盖以保障安全关键的AI系统

Thomas Stefani, Johann Maximilian Christensen, Elena Hoemann, Frank Köster, Sven Hallerbach

机构 * Institute for AI Safety and Security, German Aerospace Center (DLR)（德国航空航天中心（DLR）人工智能安全与安保研究所） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种整合参数离散化、约束过滤和关键性驱动降维的方法，用于验证高维空间中AI系统的ODD覆盖，满足EASA对完整性的要求。

Hybrid Energy-Based Models for Physical AI: Provably Stable Identification of Port-Hamiltonian Dynamics

基于能量的混合模型用于物理AI：可证明稳定的端哈密顿动力学识别

Simone Betteti, Luca Laurenti

机构 * RIAS Lab The Italian Institute of Artificial Intelligence for Industry（意大利人工智能工业研究所 RIAS 实验室） ； Delft Center for Systems and Control, TU Delft（代尔夫特理工大学代尔夫特系统与控制中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种混合能量模型框架，用于系统识别，通过可证明稳定的耗散吸收不变动态，扩展了能量模型理论，验证了端哈密顿能量模型的稳定性与安全性。

Novel Memory Forgetting Techniques for Autonomous AI Agents: Balancing Relevance and Efficiency

新颖的记忆遗忘技术用于自主AI代理：在相关性和效率之间平衡

Payal Fofadiya, Sunil Tiwari

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种自适应预算遗忘框架，通过相关性引导评分和有界优化，提升长周期对话任务的F1分数和记忆一致性，减少虚假记忆。

Multi-Agent Video Recommenders: Evolution, Patterns, and Open Challenges

多智能体视频推荐系统：演进、模式与开放挑战

Srivaths Ranganathan, Abhishek Dharmaratnakar, Anushree Sinha, Debanshu Das

机构 * Google LLC（谷歌公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文探讨多智能体视频推荐系统的演进、协作模式及挑战，分析了从早期MARL到LLM驱动架构的发展，并提出可扩展性、多模态理解等开放问题。

Comments Accepted for publication in The Nineteenth ACM International Conference on Web Search and Data Mining (WSDM Companion 2026)

Can Large Language Models Self-Correct in Medical Question Answering? An Exploratory Study

大语言模型能否在医疗问答中自我纠正？一项探索性研究

Zaifu Zhan, Mengyuan Cui, Rui Zhang

机构 * Department of Electrical and Computer Engineering, University of Minnesota（明尼苏达大学电气与计算机工程系） ； Division of Computational Health Sciences, Department of Surgery, University of Minnesota（明尼苏达大学外科学系计算健康科学部） ； Department of Software Engineering, University of St. Thomas（圣托马斯大学软件工程系） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL

AI总结 本文探讨大语言模型在医疗问答中的自我反思能力，通过比较标准Co-T提示与迭代自我反思循环，发现自我反思并不总能提升准确性，且效果依赖于数据集和模型。

SafePLUG: Empowering Multimodal LLMs with Pixel-Level Insight and Temporal Grounding for Traffic Accident Understanding

SafePLUG: 通过像素级洞察和时间锚定赋能多模态大语言模型以理解交通事故

Zihao Sheng, Zilin Huang, Yansong Qu, Jiancong Chen, Yuhao Luo, Yen-Jung Chen, Yue Leng, Sikai Chen

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Purdue University（普渡大学） ； Google（谷歌） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文提出SafePLUG框架，通过像素级理解和时间锚定提升多模态大语言模型在交通事故分析中的能力，引入新数据集并实现区域问答、像素分割、时间事件定位等任务的高性能表现。

Comments The code, dataset, and model checkpoints will be made publicly available at: https://zihaosheng.github.io/SafePLUG

Grounding AI-in-Education Development in Teachers' Voices: Findings from a National Survey in Indonesia

将教育中的AI发展扎根于教师的声音：来自印度尼西亚全国调查的结果

Nurul Aisyah, Muhammad Dehan Al Kautsar, Arif Hidayat, Fajri Koto

机构 * Quantic School of Business and Technology（昆蒂克商业与技术学院） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Indonesia University of Education（印度尼西亚教育大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究通过全国性调查揭示印尼教师对AI在教育中的应用现状，发现AI在教学、内容开发和教学媒体中日益普及，但应用不均，教师更倾向于利用AI减轻教学准备负担。

CLPIPS: A Personalized Metric for AI-Generated Image Similarity

CLPIPS：一种用于AI生成图像相似度的个性化度量标准

Khoi Trinh, Jay Rothenberger, Scott Seidenberger, Dimitrios Diochnos, Anindya Maiti

机构 * University of Oklahoma（俄克拉荷马大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出CLPIPS，一种基于LPIPS的个性化度量标准，通过人类反馈优化提升感知对齐，展示有限的人工调整可显著增强文本到图像工作流中的感知对齐。

Structure is Supervision: Multiview Masked Autoencoders for Radiology

结构是监督：用于放射学的多视图掩码自编码器

Sonia Laguna, Andrea Agostini, Alain Ryser, Samuel Ruiperez-Campillo, Irene Cannistraci, Moritz Vandenhirtz, Stephan Mandt, Nicolas Deperrois, Farhad Nooralahzadeh, Michael Krauthammer, Thomas M. Sutter, Julia E. Vogt

机构 * Department of Computer Science, ETH Zurich（苏黎世联邦理工学院计算机科学系） ； Department of Computer Science, UC Irvine（加州大学尔湾分校计算机科学系） ； Department of Quantitative Biomedicine, University of Zurich（苏黎世大学定量生物医学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出多视图掩码自编码器（MVMAE），通过利用放射学研究的多视图结构学习视图不变和疾病相关表征，并在三个公开数据集上验证了其在疾病分类任务中的优越性能。

Journal ref Transactions on Machine Learning Research (TMLR) 2026

APITestGenie: Generating Web API Tests from Requirements and API Specifications with LLMs

APITestGenie: 从需求和API规范生成Web API测试

André Pereira, Bruno Lima, João Pascoal Faria

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出APITestGenie工具，利用LLM、RAG和提示工程从业务需求和OpenAPI规范自动生成API测试，测试覆盖率达89%，发现API缺陷，提升测试与需求的一致性。

Journal ref 7th ACM/IEEE International Conference on Automation of Software Test (AST 2026)

AURA: Multimodal Shared Autonomy for Real-World Urban Navigation

AURA：多模态共享自主控制用于真实世界城市导航

Yukai Ma, Honglin He, Selina Song, Wayne Wu, Bolei Zhou

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Zhejiang University（浙江大学） 纠错

专题命中 其他安全 ：safety(abstract)

AI总结 AURA通过将城市导航分解为高层人类指令和低层AI控制，减少人工操作负担，提升导航稳定性，并在真实世界中实现44%的接管减少。

Comments 17 pages, 18 figures, 4 tables, conference

F3DGS: Federated 3D Gaussian Splatting for Decentralized Multi-Agent World Modeling

F3DGS：联邦3D高斯点云用于去中心化多智能体世界建模

Morui Zhu, Mohammad Dehghani Tezerjani, Mátyás Szántó, Márton Vaitkus, Song Fu, Qing Yang

机构 * University of North Texas（北德克萨斯大学） ； Budapest University of Technology and Economics（布达佩斯技术与经济大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 F3DGS通过联邦学习实现去中心化多智能体3D重建，利用共享几何框架和可见性感知聚合解决部分观测问题，实现分布式优化。

Comments Accepted to the CVPR 2026 SPAR-3D Workshop

Non-Rigid 3D Shape Correspondences: From Foundations to Open Challenges and Opportunities

非刚性3D形状对应：从基础到开放挑战与机遇

Aleksei Zhuravlev, Lennart Bastian, Dongliang Cao, Nafie El Amrani, Paul Roetzer, Viktoria Ehm, Riccardo Marin, Hiroki Nishizawa, Shigeo Morishima, Christian Theobalt, Nassir Navab, Daniel Cremers, Florian Bernard, Zorah Lähner, Vladislav Golyanik

机构 * MPI for Informatics（马克斯·普朗克信息学研究所） ； University of Bonn（波恩大学） ； Lamarr Institute（拉马尔研究所） ； Waseda University（早稻田大学） ； Waseda Research Institute for Science and Engineering（早稻田大学理工学研究所） ； Imperial College London（帝国理工学院） ； Technical University of Munich（慕尼黑工业大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文探讨了非刚性3D形状对应问题，分析了三种主要方法：谱方法、组合方法和基于变形的方法，并讨论了各自优缺点及最新发展，最后总结了该领域的挑战与机遇。

Comments 35 pages and 15 figures; Eurographics 2026 STAR; Project page: https://nonrigid-shape-correspondences.github.io

EmbodMocap: In-the-Wild 4D Human-Scene Reconstruction for Embodied Agents

EmbodMocap: 野外4D人体-场景重建用于具身智能体

Wenjia Wang, Liang Pan, Huaijin Pi, Yuke Lou, Xuqian Ren, Yifan Wu, Zhouyingcheng Liao, Lei Yang, Rishabh Dabral, Christian Theobalt, Taku Komura

机构 * The University of Hong Kong（香港大学） ； Tampere University（坦佩雷大学） ； The Chinese University of Hong Kong（香港中文大学） ； Max-Planck Institute for Informatics（马克斯·普朗克信息学研究所） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出EmbodMocap，利用两部移动iPhone实现低成本、便携式的人体-场景重建，通过联合校准双RGB-D序列，在无静态相机和标记的情况下实现日常环境中的度量尺度和场景一致的重建，提升具身智能研究。