大模型对齐与安全

Evaluating and Guarding Citation Faithfulness in Agentic Scientific Synthesis

评估和保障智能科学合成中的引用忠实性

Taewan Goo, Junsik Kim, Kyulhee Han, GwonYul Jo, Jong-Soo Kim, Tae-Hyung Kim

机构 * Seoul National University（首尔国立大学） ； BioNexus（生物 Nexus） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究智能语言模型系统引用答案检查的可靠性问题，提出黄金锚定评估协议和可部署防护措施，能验证验证者、测量重新归因，为无支撑引用设限，经多模型和管道验证后作为单GPU工具包发布。

Comments 20 pages, 5 figures. Includes supplementary material (Appendices S1-S6). Open single-GPU reproducibility kit included

Encode Once, Decode Never: Reusing Audio LM Internals for Efficient Temporal Localization

帧级内部工具使用用于音频语言模型中的时序定位

Joseph An, Phillip Keung, Jiaqi Wang, Orevaoghene Ahia, Noah A. Smith

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出帧级内部工具使用方法，通过二元分类器和IHP损失提升音频语言模型的时序定位能力，实现50倍加速和鲁棒长度泛化。

Comments To appear in COLM 2026. Refer to https://github.com/inkitori/taudio/ for the codebase

Training Large Language Models for Self-Explanation Faithfulness

训练用于自解释忠实性的大语言模型

Yeoktatt Cheah, María Pérez-Ortiz, Noah Y. Siegel, Oana-Maria Camburu

机构 * Imperial College London（帝国理工学院） 纠错

专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI、cs.LG；alignment(comments)

AI总结 提出强化学习方法，将忠实性度量改为训练目标，研究模型能否检测及优化影响决策因素以提高自解释忠实性。实验用随机词和用户偏差插入，微调模型在忠实性度量上显著改进，交叉干预泛化有模型依赖等情况，为减少不忠实推理提供路径。

Comments To appear at the ICLR 2026 Workshop on Representational Alignment (Re-Align), 10 pages (long paper)

Expectation Alignment of Language Models for Real-World User Expectations

语言模型与现实世界用户期望的期望对齐

Miaomiao Li, Yang Wang, Bin Liang, Shudong Liu, Zhiwei Zhang, Kam-Fai Wong

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究LLMs是否满足用户期望，提出提取期望程序并引入ExpectBench基准，分析发现LLMs存在问题，进而提出LENS框架，可让模型内化期望以生成更契合的响应，凸显明确建模用户期望对实现现实人机对齐的重要性。

Comments Accepted by ICML 2026

Spatially Grounded Concept Bottleneck Models for Trustworthy Breast Ultrasound Diagnosis

用于可靠乳腺超声诊断的空间基础概念瓶颈模型

Moshiur Rahman Tonmoy, Dunren Che, Haitham Y. Adarbah, Afzel Noore

专题命中 安全评测 ：trustworthy(title,comments)；alignment(abstract)；分类 cs.AI

AI总结 研究乳腺超声诊断中概念瓶颈模型可信度受监督限制问题，提出空间基础概念瓶颈模型（SG-CBM），利用病变轮廓弱监督，通过导出特定区域训练概念图，经交叉验证等提升诊断指标与概念证据空间对齐，强调数据质量监督设计及可信度验证的必要。

Comments Accepted to the Workshop on Data Quality Aware, High-Performance, and Trustworthy AI Systems for Healthcare at IEEE/ACM CHASE 2026

OpenSkillRisk: Benchmarking Agent Safety When Using Real-World Risky Third-Party Skills

开放技能风险：使用现实世界中的危险第三方技能时对智能体安全性进行基准测试

Qiyuan Liu, Tingfeng Hui, Kun Zhan, Kaike Zhang, Ning Miao

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL

AI总结 研究基于语言模型的智能体使用第三方危险技能时的安全问题，构建OpenSkillRisk基准测试，涵盖多种不安全场景并能细粒度分析。实验发现当前系统处理危险技能能力不足，揭示三种失败模式，强调需改进语言模型风险推理和智能体框架执行控制。

Explanation-Based Runtime Verification for Trustworthy ML-driven Optical Networks

基于解释的运行时验证用于可信的机器学习驱动的光网络

Omran Ayoub, Carlos Natalino, Ali Al Housseini, Felix Foschum, Philipp Morger, Tiziano Leidi, David Hock, Paolo Monti

专题命中 安全评测 ：trustworthy(title)；分类 cs.LG

AI总结 研究将机器学习模型用于光网络自动化时决策可靠性问题，提出基于解释的运行时验证方法，利用模型解释评估决策合理性，在光路径传输质量分类用例中验证该方法有效，能拦截错误决策并保持高自动化率。

Comments 6 Pages, 2 Figures. Accepted and presented at the 30th International Conference on Optical Network Design and Modelling (ONDM 2026), Munich, Germany, 12-15 May 2026

StackingNet: Collective Inference Across Independent AI Foundation Models

StackingNet：跨独立AI基础模型的集体推理

Siyang Li, Chenhao Liu, Dongrui Wu, Zhigang Zeng, Lieyun Ding

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 StackingNet通过元集成框架整合独立模型输出，提升准确率并减少误差，无需内部参数或训练数据，有效识别和修剪退化模型，在语言理解、视觉属性估计和学术论文评分中优于单一模型和经典集成方法。

Reexamining zero-shot summarization: Empirical investigation of trustworthiness of LLM-summarizers

重新审视零样本摘要：对大语言模型摘要器可信度的实证研究

Vasudha Bhatnagar, Purnima Bindal, Vikas Kumar, Raj Kumari Bahl

机构 * Department of Computer Science, University of Delhi（德里大学计算机科学系） ； Department of Statistics, Ramjas College, University of Delhi（德里大学拉姆贾斯学院统计系） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 研究针对大语言模型零样本摘要的稳定性与可信度问题，提出两级诊断协议，通过文档级稳定性分析及分层样本观察估计稳定性指数，经对三种文档类型的三个LLM摘要器实证研究，揭示差异，推动相关研究发展。

Comments 28 pages, Under review in a journal

Out-of-Distribution Detection in Wireless Multimodal Foundation Models for 6G ISAC

6G智能感知与通信无线多模态基础模型中的分布外检测

Mohammad Farzanullah, Akram Bin Sediq, Ali Afana, Melike Erol-Kantarci

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)

AI总结 研究6G智能感知与通信中无线多模态基础模型的分布外检测问题，提出WMFM - OOD框架，通过构建基站原型和温度缩放概率评分机制区分异常，在DeepVerse6G数据集验证，显著优于基线，提升检测灵敏度，保障网络可靠性。

Comments presented at IEEE VTC 2026 Fall, 4 figures

StabilityBench: Benchmarking Instability in LLMs

StabilityBench：评估大语言模型中的不稳定性

Emma Kondrup, Zachary Yang, Anne Imouza, Reihaneh Rabbany

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型实际行为难测、现有评估协议有局限的问题，提出StabilityBench基准测试工具，通过注入现实模拟增强现有基准，应用于四个基准测试评估九个模型，发现性能不稳定，还提出StabilityBench-Mini以实现更现实评估。

Benchmarking Large Language Models on Multi-Sensor Physical Hazard Assessment

在多传感器物理危害评估中对大语言模型进行基准测试

Faizan Iqbal

机构 * Lovely Professional University（可爱专业大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究五个大语言模型对多传感器物理危害数据的评估，通过1800次API调用测试60个场景，发现模型在多传感器场景表现不佳，单传感器场景表现良好，且结构化表格格式优势不明显，为从业者提供了模型应用参考。

Comments 14 pages, 6 figures. Benchmark dataset, evaluation code, and raw results publicly available at: https://github.com/Faizaniqbal52/PhysicalHazardBenchmark

DataPrep-Bench: Benchmarking LLMs as Training Data Preparators

数据准备基准：评估作为训练数据准备者的大语言模型

Hao Liang, Qifeng Cai, Yibo Lin, Jianzhuo Du, Qifeng Xia, Sizhe Qiu, Linzhuang Sun, Meiyi Qiang, Zhaoyang Han, Xiaochen Ma, Bohan Zeng, Ruichuan An, Conghui He, Wentao Zhang

机构 * Peking University（北京大学） ； Institute for Advanced Algorithms Research（先进算法研究院） ； OriginHub Technology（源创科技） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 研究LLMs作为训练数据准备者的表现，引入DataPrep - Bench统一基准，涵盖数据构建与质量评估，在多领域和模型上评估，发布相关智能体和评估器，为衡量LLM驱动数据准备能力提供框架。

Confidently Deceptive: How Confidence Amplifies the Risk of LLM Deception

自信的欺骗：信心如何放大语言模型欺骗的风险

Ali Asad, Stephen Obadinma, Anshul Pattoo, Wenxuan Zhang, Xiaodan Zhu

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型欺骗问题，通过多种方式衡量信心，发现其会产生高信心欺骗性回答，错位微调加剧问题，模型能识别自身欺骗性输出却不避免，指出自信的欺骗是独特风险，需综合评估欺骗、信心与意识。

Routing Subspaces: Auditing Evaluation-to-Deployment Mismatch in Fine-Tuned Language Models

路由子空间：审计微调语言模型中评估到部署的不匹配

Phongsakon Mark Konrad, Toygar Tanyel, Serkan Ayvaz

机构 * Centre for Industrial Software, University of Southern Denmark（南丹麦大学工业软件中心） ； ProMake（宝迈可） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究微调语言模型评估到部署的不匹配问题，提出在路径修补告知的中深度窗口拟合配对激活对比并修改结果坐标的方法，在多个模型实例中缩小了差距，还指出单坐标审计的局限性，此审计用于诊断微调检查点。

Seeking Help in the Digital Age: A Cross-Platform Analysis of Online Support Systems for Technology-Facilitated Abuse Victims

数字时代寻求帮助：对技术辅助虐待受害者在线支持系统的跨平台分析

Nowshin Tabassum, Solomon G. Dandekar, Morgan PettyJohn, Tim Ryan, Minjaal Raval, Rachel Voth Schrag, Mohit Singhal, Shirin Nilizadeh

专题命中 安全评测 ：safety(abstract)；分类 cs.CY

AI总结 研究技术辅助虐待（TFA）受害者在线支持系统，通过构建数据集在网络搜索、论坛、人工智能系统三渠道模拟查询，用统一框架评估回应，发现各平台支持质量有别，揭示数字支持弱点，强调以安全为中心设计等的必要。

Multimodal Pretraining for Generalizable EEG Representation Learning

用于可泛化脑电信号表征学习的多模态预训练

Targol Bakhtiarvand, Jugal Kalita, Adham Atyabi

机构 * University of Colorado Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对癫痫EEG模型应用局限问题，开发多模态EEG基础模型，结合多种编码器，通过创新预训练技术创建癫痫相关表征。在多个数据集和评估设置下实验，该模型实现强大癫痫检测与适应新场景能力，支持可解释癫痫定位，性能达当前最优。

SafeStep: AI-powered Travel Assistance for Elderly People with Frailty or Dementia

SafeStep：为体弱或痴呆老年人提供的人工智能旅行辅助

Elderly People with Frailty or Dementia Azul Debenedetti, David Gamez, Franco Such, Nik Kairinos

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对体弱或痴呆老人出行难题，SafeStep利用旅行图表示，结合大语言模型与Anticip8行为预测引擎，生成个性化失败场景并提出干预措施。经实验和实地研究评估，结合两者的方法性能可靠，虽界面可用性待改进，但能提升旅行信心与安全感，还可拓展应用于其他领域。

Representing Entity Importance in AI Knowledge Systems: A Dual-Signal Framework of Audience Evaluation and Structural Authority

在人工智能知识系统中表示实体重要性：受众评估与结构权威的双信号框架

Shen Xu

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究人工智能知识系统中实体重要性表示，提出受众评估与结构权威双信号框架，经电影实体实验验证，表明两维度是不可冗余信号，贡献是最小知识表示框架及维度必要性实证测试，支持任务感知AI知识系统。

Comments 12 pages, 3 figures, 4 tables

IssueTrojanBench: Benchmarking AI Coding Agents Against Malicious Issue Requests

IssueTrojanBench：针对恶意问题请求对人工智能编码代理进行基准测试

Ankur Singh, Jinqiu Yang, Tse-Hsun Chen

机构 * Concordia University（康科德大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究针对恶意问题请求对人工智能编码代理进行基准测试，通过构建包含多种攻击类别和交付向量的新型基准IssueTrojanBench，发现现代编码代理存在关键漏洞，强调需更强安全机制保护。

Comments 10 pages, 4 figures, 4 tables

HERMES: Heterogeneous Edge-Relational Multi-Head Embedded SSM Attention for Traffic Conflict Prediction at Signalized Intersections

HERMES：用于信号交叉口交通冲突预测的异构边缘关系多头嵌入式SSM注意力模型

Md Monzurul Islam, Subasish Das

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究针对交通冲突预测，提出HERMES异构边缘关系图神经网络，利用特定关系注意力等方法，在多指标上表现优异，优于基线模型，联合训练提升目标站点性能，为信号交叉口路边安全监测提供支持。

Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning

通过渐进式种子剪枝实现扩散模型的推理时间缩放

Rogerio Guimaraes, Pietro Perona

机构 * California Institute of Technology（加州理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究扩散模型推理时间缩放问题，提出渐进式种子剪枝方法，通过早期评估多种子并剪枝，有效利用固定计算预算，在扩散和流匹配主干上比其他基线方法在奖励引导选择及提示对齐评估上表现更优。

Comments Project page: https://www.vision.caltech.edu/psp. Code: https://github.com/rogerioagjr/psp

Search Hardness-Aware LLM-Based Problem Formulation for Expensive Simulation-Driven Design

用于昂贵的仿真驱动设计的搜索硬度感知基于大语言模型的问题公式化

Yuchen Li, Handing Wang, Bing Xue, Mengjie Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 针对昂贵仿真驱动设计中公式对搜索效率的影响问题，提出SHA-PF框架，基于搜索硬度定义公式搜索目标并评分，通过大语言模型相关方法搜索公式空间，实验表明该框架发现的公式能显著减少评估次数以达设计要求。

ProCap: Prominence-guided Object Rectification for Faithful and Comprehensive Video Captioning

ProCap：用于忠实和全面视频字幕的突出引导对象校正

Debjyoti Das Adhikary, Aritra Hazra, Partha Pratim Chakrabarti

机构 * Department of Computer Science and Engineering, Indian Institute of Technology Kharagpur（印度理工学院卡拉格布尔分校计算机科学与工程系） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究针对视频字幕质量提升问题，提出突出感知的迭代事后校正框架。通过轻量级评分机制排序对象，经提示驱动细化循环多轮注入相关对象。在多数据集验证，相比基线提升完整性、减少幻觉，提供了轻量级且模型无关的视频字幕优化途径。

Comments 10 pages, 7 figures, 5 tables. Submitted to IEEE Transactions on Multimedia

endoExplain: A reproducible protocol for auditing score-localisation discordance in colonoscopy image classifiers

超越人工智能辅助结肠镜检查中的置信度：一种用于内镜人工智能审查的空间、时间和质量感知审计框架

Roberto Alcaraz Machado, Ana Lucía Rodríguez Blanco

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对AI辅助结肠镜检查中仅置信度不能全面评估预测的问题，提出EndoExplain审计框架，整合多种要素。通过实验展示了分类器和分割器的性能，还验证了归因方法等，该框架能分离多种信号，为临床审查提供支持，是回顾性研究原型。

Comments 18 pages, 5 figures, 5 tables. Substantially revised version with a new title and scope; added calibration analysis, paired multi-CAM evaluation, random-deletion controls, architecture and seed robustness analyses, and frozen external spatial transfer

The Storyteller in the Model: Narrative Pattern Inheritance, Escalation Dynamics, and Alignment Governance in LLMs

模型中的讲述者：大语言模型中的叙事模式继承、升级动态和对齐治理

Adam Rigby, Raz Saremi, Azadeh Sohrabinejad, Mehdi Rahimi

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 探讨大语言模型训练中是否吸收人类写作叙事模式并致输出漂移，通过文献综述和跨论文分析发现三个关键模式，包括复制训练数据模式、出现潜在特征及微调带来意外变化，指出叙事漂移是未监测的升级途径，需专门监测工具。

Comments 2 figures, 11 pages

ImplicitBBQ: Benchmarking Implicit Bias in Large Language Models through Characteristic Based Cues

ImplicitBBQ: 通过基于特征的提示对大语言模型中的隐性偏见进行基准测试

Bhaskara Hanuma Vedula, Darshan Anghan, Ishita Goyal, Ponnurangam Kumaraguru, Abhijnan Chakraborty

机构 * International Institute of Information Technology, Hyderabad（国际信息技术学院海得拉巴） ； Indian Institute of Technology, Kharagpur（印度理工学院克勒格布尔分校） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ImplicitBBQ基准测试，通过基于特征的提示评估大语言模型中的隐性偏见，发现隐性偏见在模糊情境中比显性偏见高六倍，现有方法难以有效缓解。

Weight Pruning Amplifies Bias: A Multi-Method Study of Compressed LLMs for Edge AI

权重剪枝放大了偏见：压缩LLM用于边缘AI的多方法研究

Plawan Kumar Rath, Rahul Maliakkal

机构 * Meta 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 研究探讨了三种指令微调模型在不同剪枝方法下的公平性影响，发现激活感知剪枝虽保持低困惑度但放大偏见，而随机剪枝破坏语言能力但产生随机偏见，揭示剪枝对对齐风险高于量化。

Comments 8 pages, 7 figures, 8 tables. Accepted at the 7th Annual World AIIoT Congress (AIIoT 2026). This is the author's accepted version; the version of record will appear in IEEE Xplore

QuantiBias: Benchmarking Quantization-Induced Bias in LLMs

QuantiBias：量化大语言模型中量化诱导偏差的基准测试

Emilio Ferrara

机构 * University of Southern California（南加州大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.CY

AI总结 研究大语言模型量化中的偏差问题，提出QuantiBias基准测试，通过结合多种控制和对比有无推理的构建来评估偏差，发现量化器按无偏差预防信号的数据分配精度，推理对部分偏差有减半效果，强调需重新评估量化模型的开放式偏差。

Comments Benchmark protocol on Hugging Face: https://huggingface.co/datasets/emilioferrara/quantibias

On the Inevitability of Left-Leaning Political Bias in Aligned Language Models

在对齐语言模型中左倾政治偏见的不可避免性

Thilo Hagendorff

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 本文指出，为确保AI无害、有益和诚实而训练的语言模型不可避免地表现出左倾政治偏见，因为对齐目标与进步道德框架一致，而右翼思想则与之冲突。