大模型对齐与安全

Sustaining AI safety: Control-theoretic external impossibility, intrinsic necessity, and structural requirements

维持AI安全：控制论外部不可能性、内在必要性及结构性要求

James M. Mazzu

机构 * Digie Inc.（Digie公司） 纠错

专题命中 安全评测 ：safety(title,abstract)；AI safety(title,abstract)；分类 cs.AI

AI总结 本文通过控制理论探讨AI安全维持的结构性问题，证明外部控制无法持续保障安全的必然性，并提出内在必要性和四项结构性要求。

Children's English Reading Story Generation via Supervised Fine-Tuning of Compact LLMs with Controllable Difficulty and Safety

通过监督微调紧凑LLMs实现儿童英语阅读故事生成：具有可控难度和安全性的方法

Qian Shen, Fanghua Cao, Min Yao, Shlok Gilda, Bonnie J. Dorr, Walter L. Leite

机构 * University of Florida（佛罗里达大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过监督微调紧凑LLMs生成儿童英语阅读故事，实现可控难度和安全性，实验表明微调模型在难度指标上优于零样本模型。

Comments Comments: 15 pages, 4 figures. Author Two and Author Three contributed equally. Accepted by the 21st Workshop on Innovative Use of NLP for Building Educational Applications (BEA 2026), ACL 2026

PersonalAlign: Hierarchical Implicit Intent Alignment for Personalized GUI Agent with Long-Term User-Centric Records

PersonalAlign：面向个性化GUI代理的分层隐式意图对齐

Yibo Lyu, Gongwei Chen, Rui Shao, Weili Guan, Liqiang Nie

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出PersonalAlign，通过长期用户记录实现个性化GUI代理的隐式意图对齐，引入AndroidIntent基准测试，评估代理在模糊指令解析和主动建议中的表现，HIM-Agent在执行和主动性能上提升显著。

Comments Accepted to ACL26 Main

Position: Assistive Agents Need Accessibility Alignment

位置：辅助代理需要可访问性对齐

Jie Hu, Changyuan Yan, Yu Zheng, Ziqian Wang, Jiaming Zhang

机构 * School of Artificial Intelligence and Robotics（人工智能与机器人学院） ； Hunan University（湖南大学） ； Changsha, China（中国长沙） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文指出辅助代理设计需考虑可访问性对齐，通过分析778个任务实例，揭示现有代理在辅助场景中的失败原因，并提出生命周期导向的设计流程。

Comments 9 pages, 1 figures, Accepted to ICML 2026

CiteVQA: Benchmarking Evidence Attribution for Trustworthy Document Intelligence

CiteVQA：可信赖文档智能的证据归因基准测试

Dongsheng Ma, Jiayu Li, Zhengren Wang, Yijie Wang, Jiahao Kong, Weijun Zeng, Jutao Xiao, Jie Yang, Wentao Zhang, Bin Wang, Conghui He

机构 * Peking University（北京大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CL

AI总结 CiteVQA通过要求模型返回元素级边界框引用，评估文档理解中的证据归因，揭示了现有评估方法的可靠性缺口，主要贡献是引入Strict Attributed Accuracy指标。

Synthesizing the Expert: A Validated Multimodal Dataset for Trustworthy AI-Assisted Swimming Coaching

合成专家：一个经过验证的多模态数据集用于可信的人工智能辅助游泳教练

Ahmad Al-Kabbany, Esraa Kassem

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CY

AI总结 本文提出一个多模态数据集，用于构建可信的人工智能游泳教练系统，通过多代理LLM架构生成1864个验证的'问题-上下文-答案'三元组，提升自动化指导的可靠性。

ATBench: A Diverse and Realistic Agent Trajectory Benchmark for Safety Evaluation and Diagnosis

ATBench：一个多样且现实的代理轨迹基准，用于安全评估与诊断

Yu Li, Haoyu Luo, Yuejin Xie, Yuqian Fu, Zhonghao Yang, Shuai Shao, Qihan Ren, Wanying Qu, Yanwei Fu, Yujiu Yang, Jing Shao, Xia Hu, Dongrui Liu

机构 * Shanghai AI Lab（上海人工智能实验室） ； Fudan University（复旦大学） ； Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； KAUST（卡塔尔人工智能科学中心） ； East China Normal University（华东师范大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 ATBench通过多样化的轨迹和现实场景评估代理安全，包含1000条轨迹，挑战性强，支持跨基准比较和长周期故障诊断。

COHERENCE: Benchmarking Fine-Grained Image-Text Alignment in Interleaved Multimodal Contexts

COHERENCE：在交错多模态上下文中细粒度图像-文本对齐的基准测试

Bingli Wang, Huanze Tang, Haijun Lv, Zhishan Lin, Lixin Gu, Lei Feng, Qipeng Guo, Kai Chen

机构 * Southeast University Shanghai AI Laboratory（上海大学上海人工智能实验室） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.AI

AI总结 COHERENCE旨在评估MLLM在交错多模态上下文中恢复细粒度图像-文本对应关系的能力，涵盖四个领域，包含6161个高质量问题，并进行六类错误分析以识别当前MLLM的不足。

Tracing Persona Vectors Through LLM Pretraining

通过LLM预训练追溯人格向量

Viktor Moskvoretskii, Dominik Glandorf, Jorge Medina Moreira, Tanja Käser, Robert West

机构 * EPFL（苏黎世联邦理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究LLM预训练中人格向量的形成机制，发现其在早期阶段就形成并持续优化，为模型安全性和可控性提供新视角。

Comments Preprint

LINE: LLM-based Iterative Neuron Explanations for Vision Models

LINE：基于语言模型的视觉模型迭代神经元解释

Vladimir Zaigrajew, Michał Piechota, Gaspar Sekula, Paweł Gelar, Przemysław Biecek

机构 * Centre for Credible AI（可信AI中心） ； Warsaw University of Technology（华沙理工大学） ； University of Warsaw, Poland（波兰华沙大学） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 LINE提出一种无需训练的迭代方法，通过大语言模型和图像生成器，在黑盒环境下闭环提出和优化概念，提升视觉模型的开放词汇概念标注性能。

Automated Rubrics for Reliable Evaluation of Medical Dialogue Systems

用于医疗对话系统可靠评估的自动化评分标准

Yinzhu Chen, Abdine Maiga, Hossein A. Rahmani, Emine Yilmaz

机构 * AI Center, University College London（伦敦大学学院人工智能中心） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种检索增强的多智能体框架，用于自动生成实例特定的评估评分标准，通过权威医学证据生成可验证的细粒度评估标准，并在HealthBench和LLMEval-Med数据集上取得显著成效。

DisaBench: A Participatory Evaluation Framework for Disability Harms in Language Models

DisaBench：一种评估语言模型残疾危害的参与性评估框架

Eugenia Kim, Ioana Tanase, Christina Mallon

机构 * Microsoft（微软） 纠错

专题命中 安全评测 ：safety(abstract)；red teaming(abstract)；分类 cs.AI

AI总结 DisaBench通过与残障人士和红队专家共同制定的十二类残疾危害分类，评估语言模型对残疾相关的危害，揭示了残疾类型对危害率的影响、术语驱动的危害具有文化及时间绑定性以及标准安全评估无法识别细微危害的问题。

RealICU: Do LLM Agents Understand Long-Context ICU Data? A Benchmark Beyond Behavior Imitation

RealICU: 大语言模型能否理解长期上下文ICU数据？一个超越行为模仿的基准测试

Chengzhi Shen, Weixiang Shen, Tobias Susetzky, Chen, Chen, Jun Li, Yuyuan Liu, Xuepeng Zhang, Zhenyu Gong, Daniel Rueckert, Jiazhen Pan

机构 * Technical University of Munich（慕尼黑技术大学） ； TUM University Hospital（TUM大学医院） ； LMU Munich（慕尼黑大学） ； University of Sheffield（谢菲尔德大学） ； University of Oxford（牛津大学） ； Zhongshan Hospital Fudan University（复旦大学中山医院） ； Sun Yat-sen University Cancer Center（中山大学肿瘤中心） ； Imperial College London（伦敦帝国学院） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； relAI – Konrad Zuse School of Excellence in Reliable AI（relAI – 卡诺夫茨卓越可靠人工智能学校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 RealICU通过真实ICU场景评估大语言模型的长期上下文理解能力，提出四个医生驱动任务，揭示现有模型在临床推荐中的召回与安全性的权衡问题。

Phasor Memory Networks: Stable Backpropagation Through Time for Scalable Explicit Memory

相位记忆网络：用于可扩展显式记忆的稳定反向传播通过时间

Sungwoo Goo, Hwi-yeol Yun, Sangkeun Jung

机构 * College of Pharmacy（药学院） ； Chungnam National University（Chungnam国立大学） ； Department of Computer Science & Engineering（计算机科学与工程系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出Phasor Memory Network，通过相位动力学和分层可学习锚点解决显式记忆的稳定性问题，实验证明其在Copy-Paste任务中达到高精确度，且在参数规模上超越了Mamba模型。

VERA-MH Concept Paper

VERA-MH概念论文

Luca Belli, Kate H. Bentley, Will Alexander, Emily Ward, Matt Hawrilenko, Kelly Johnston, Mill Brown, Adam M. Chekroud

机构 * Spring Health ； Yale University School of Medicine（耶鲁大学医学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 VERA-MH旨在通过自动化评估AI聊天机器人在心理健康中的安全性，尤其关注自杀风险。该系统利用用户代理和判断代理进行模拟对话评分，已初步测试了GPT-5、Claude Opus和Claude Sonnet。

Neurosymbolic Auditing of Natural-Language Software Requirements

神经符号自然语言软件需求审计

Bethel Hall, William Eiers

机构 * Stevens Institute of Technology（史蒂文斯理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出神经符号方法用于审计自然语言软件需求，通过形式逻辑转换和SMT求解器检测歧义与不一致，提升医疗设备软件需求的严谨性。

Comments 10

Beyond Anthropomorphism: Exploring the Roles of Perceived Non-humanity and Structural Similarity in Deep Self-Disclosure Toward Generative AI

超越拟人化：探索感知非人性与结构相似性在深度自我披露向生成AI中的作用

Satoru Shibuya

机构 * Graduate School of Business and Finance, Waseda University（早稻田大学商经研究生院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了生成AI中的深度自我披露，探讨了感知非人性和结构相似性作为心理因素的作用，发现高感知组更可能披露，且披露深度存在显著差异。

Comments Submitted to International Journal of Human-Computer Interaction (IJHCI). 35 pages, 2 tables, 3 figures

Efficient Geometry-Controlled High-Resolution Satellite Image Synthesis

高效几何控制高分辨率卫星图像合成

Vlad Vasilescu, Daniela Faur, Teodor Costachioiu

机构 * Univ. POLITEHNICA Bucharest SIGMA Lab , CAMPUS Institute（巴比什-博亚尔银行大学 SIGMA 实验室，CAMPUS 机构） ； Univ. POLITEHNICA Bucharest GEOSENSE , CAMPUS Institute（巴比什-博亚尔银行大学 GEOSENSE，CAMPUS 机构） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种高效方法，通过利用跳连特征和滑动窗口交叉注意力模块，改进扩散模型以实现几何控制的高分辨率卫星图像合成，同时探讨了当前评估方法的局限性。

Comments 2026 IEEE International Geoscience and Remote Sensing Symposium (IGARSS)

Hidden Measurement Error in LLM Pipelines Distorts Annotation, Evaluation, and Benchmarking

LLM pipelines 中隐藏的测量误差扭曲了注释、评估和基准测试

Solomon Messing

机构 * Center for Social Media, AI, and Politics（社交媒体、人工智能与政治中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文分析了LLM评估流程中隐藏的测量误差来源，通过设计研究减少总评估误差，并展示改进后的精度和基准测试效果。

Agent^2 RL-Bench: Can LLM Agents Engineer Agentic RL Post-Training?

Agent^2 RL-Bench: 能否让LLM代理在训练后设计自主强化学习？

Wanyi Chen, Xiao Yang, Xu Yang, Tianming Sha, Qizheng Li, Zhuo Wang, Bowen Xian, Fang Kong, Weiqing Liu, Jiang Bian

机构 * Soochow University（苏州大学） ； Microsoft Research Asia（微软亚洲研究院） ； Peking University（北京大学） ； Stony Brook University（石溪大学） ； The University of Chicago（芝加哥大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Agent2 RL-Bench评估LLM代理在训练后自主设计、实现、调试和执行提升基础模型的管道能力，展示代理在强化学习中的智能行为与局限性。

Comments 37 pages, 7 figures, 20 tables

Quantitative Certification of Agentic Tool Selection

代理工具选择的定量认证

Jehyeok Yeon, Isha Chaudhary, Gagandeep Singh

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出LLMCert-T框架，通过统计方法为代理工具选择流程提供高置信度的正确性上限，揭示当前LLM代理在干扰选择和Top-N饱和规格下的脆弱性。

When Does Hierarchy Help? Benchmarking Agent Coordination in Event-Driven Industrial Scheduling

何时层级有助于？事件驱动工业调度中的代理协调基准测试

Ziqi Wang, Yuhao Yang, Zhiwei Ling, Wenzhuo Qian, Hailiang Zhao

机构 * Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过DESBench基准测试，探讨不同协调范式在复杂环境中的表现，揭示层级结构对代理系统行为的影响及设计权衡。

SMA: Submodular Modality Aligner For Data Efficient Multimodal Learning

SMA：用于数据高效多模态学习的子模ularity模态对齐器

Truong Pham, Anay Majee, Rishabh Iyer

机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出SMA，通过子模ularity目标提升多模态对齐效率，利用集合形式学习更丰富的跨模态结构，在低数据场景下实现显著性能提升。

TokaMind for Power Grid: Cross-Domain Transfer from Fusion Plasma

TokaMind用于电网：从融合等离子体的跨域迁移

JC Wu, Norton Lee, Kai Siang Chen

机构 * TaiScience Research Group（TaiScience研究组） ； Fu Jen Catholic University（辅仁大学） ； Center for Geometry and Physics（几何与物理中心） ； Institute for Basic Science (IBS)（基础科学研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 TokaMind通过多模态Transformer模型在等离子体诊断数据上预训练，展现优于CNN的方法。研究发现其表示在物理不同但结构相似的领域有效，尤其在电网同步相位数据中表现最佳，提出跨域迁移框架和评估协议。

Comments 8 pages, 5 figures

IndustryBench: Probing the Industrial Knowledge Boundaries of LLMs

IndustryBench: 探索大语言模型在工业知识边界的限制

Songlin Bai, Xintong Wang, Linlin Yu, Bin Chen, Zhiang Xu, Yuyang Sheng, Changtong Zan, Xiaofeng Zhu, Yizhe Zhang, Jiru Li, Mingze Guo, Ling Zou, Yalong Li, Chengfu Huo, Liang Ding

机构 * Multimodal and Industrial AI Team（多模态与工业AI团队） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 IndustryBench通过中国国家标准和工业产品记录构建2049项工业采购问答基准，揭示LLM在工业QA中的可靠性问题，发现标准与术语能力最弱，扩展推理降低安全调整分数，安全违规率影响排行榜。

Estimating LLM Grading Ability and Response Difficulty in Automatic Short Answer Grading via Item Response Theory

基于项目反应理论的LLM自动简答评分能力与响应难度估计

Longwei Cong, Sonja Hahn, Sebastian Gombert, Leon Camus, Hendrik Drachsler, Ulf Kroehne

机构 * DIPF | Leibniz Institute for Research and Information in Education（德意志教育研究所 | 列支敦士登教育研究所） ； Faculty of Computer Science, Goethe University Frankfurt（法兰克福歌德大学计算机学院） ； Chemnitz University of Technology（化学工业大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出基于项目反应理论的LLM自动简答评分评估框架，分析评分准确率与响应难度的关系，揭示不同模型在评分表现上的差异及中间标签崩溃问题。

Comments accepted at BEA 2026, the 21st Workshop on Innovative Use of NLP for Building Educational Applications

Connecting the Dots: A Machine Learning Ready Dataset for Ionospheric Forecasting Models

连接点：为电离层预报模型准备的机器学习数据集

Linnea M. Wolniewicz, Halil S. Kelebek, Simone Mestici, Michael D. Vergalla, Giacomo Acciarini, Bala Poduval, Olga Verkhoglyadova, Madhulika Guhathakurta, Thomas E. Berger, Atılım Güneş Baydin, Frank Soboczenski

机构 * Department of Information and Computer Science（信息与计算机科学系） ； University of Hawai‘i at Mānoa（夏威夷大学毛纳罗亚分校） ； Department of Engineering Science（工程科学系） ； University of Oxford（牛津大学） ； Università degli Studi di Roma Sapienza（罗马大学） ； Free Flight Research Lab（自由飞行研究实验室） ； University of New Hampshire（新罕布什尔大学） ； European Space Agency (ESA)（欧洲航天局） ； NASA Jet Propulsion Laboratory（美国宇航局喷气推进实验室） ； NASA Headquarters（美国宇航局总部） ； Space Weather Technology, Research, and Education Center（空间天气技术、研究与教育中心） ； University of Colorado Boulder（科罗拉多大学博尔德分校） ； Department of Computer Science（计算机科学系） ； University of York & King’s College London（约克大学及伦敦国王学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一个整合多种电离层和日球层数据的机器学习数据集，用于改进电离层预报模型，支持科学探索和实际应用。

Comments 8 pages, 2 figures, 2 tables. Accepted as a poster presentation in the Machine Learning for the Physical Sciences workshop at NeurIPS 2025. Dataset can be found on Zenodo (https://zenodo.org/records/18343833) or GitHub (https://github.com/FrontierDevelopmentLab/2025-HL-Ionosphere-dataset)

Constraints-of-Thought: A Framework for Constrained Reasoning in Language-Model-Guided Search

思维约束：一种在语言模型引导搜索中进行约束推理的框架

Kamel Alrashedy, Vriksha Srihari, Zulfiqar Zaidi, Ridam Srivastava, Pradyumna Tambwekar, Matthew Gombolay

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出Const-o-T框架，通过约束推理提升语言模型在多步骤任务中的规划效率和决策可靠性，适用于风险游戏、CAD代码生成和算术推理等复杂领域。

AgenticAITA: A Proof-Of-Concept About Deliberative Multi-Agent Reasoning for Autonomous Trading Systems

AgenticAITA: 关于自主交易系统中 deliberative 多智能体推理的证明概念

Ivan Letteri

机构 * Department of Information Engineering, Computer Science, and Mathematics, Center of Excellence for Research DEWS, University of L’Aquila（信息工程、计算机科学和数学系，DEWS研究中心，拉奎拉大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出AGENTICAITA框架，通过多智能体协作推理替代传统信号执行模式，实现自主交易系统中无离线训练的决策流程，展示其在金融决策中的可行性与有效性。

Generative Texture Diversification of 3D Pedestrians for Robust Autonomous Driving Perception

生成3D行人纹理多样化以实现自动驾驶感知的鲁棒性

Arka Bhowmick, Enes Ozeren, Ahmed Abdullah, Oliver Wasenmuller

机构 * BIT Technology Solutions GmbH（比特技术解决方案 GmbH） ； Mannheim University of Applied Sciences（曼海姆应用科学大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出一种简单有效的方法，通过StyleGAN2生成多样化的3D行人资产，用于合成场景生成，提升自动驾驶感知的鲁棒性。

Comments Published at SAIAD 2026 Workshop at CVPR 2026