大模型对齐与安全

Retrieval-Augmented Generation in LLMs for Mental Health: Quantifying the Incremental Contribution of Retrieval Within a Layered Safety Architecture

大语言模型在心理健康领域的检索增强生成：量化分层安全架构中检索的增量贡献

Anand Gupta, Akshat Surolia, Shubham Mishra, Shakil Imtiaz, Chaitali Sinha

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究数字心理健康干预中，通过在名为Wysa的DMHI里对比启用和禁用检索增强生成（RAG）模式，评估六个大语言模型，计算相关指标并测试差异，发现RAG虽致误报增加，但符合安全原则，是提升LLM驱动的DMHIs相关性能的有前景方法。

Comments 11 pages, 6 figures

BioDisclose: An Actionability-Aware Benchmark for Biomedical Safety under Adversarial Elicitation

BioDisclose：对抗性诱导下生物医学安全的可操作性感知基准

Yinuo Zhu, He Liu, Boyuan Gu

专题命中 安全评测 ：safety(title,abstract)

AI总结 研究针对大语言模型在对抗性诱导下生物医学知识披露行为不足问题，引入BioDisclose基准，含多领域多类别提示，对模型响应四级评分，通过实验揭示不同模型、策略及风险类别差异，为评估生物医学安全提供新测试平台。

Comments 27 pages, 3 figures

PRIMA: Pre-Training with Risk-Integrated Image--Metadata Alignment for Medical Diagnosis with LLM-Based Feature Aggregation

PRIMA：通过大语言模型进行风险集成图像-元数据对齐的医学诊断预训练

Yiqing Wang, Chunming He, Ziyun Yang, Maria Woodward, Ming-Chen Lu, Mercy Pawar, Leslie Niziol, Sina Farsiu

机构 * Department of Biomedical Engineering, Duke University（杜克大学生物医学工程系） ； Department of Ophthalmology and Visual Sciences, University of Michigan（密歇根大学眼科与视觉科学系） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出PRIMA框架，通过检索增强生成策展风险-疾病关联专家语料库优化文本编码器，用双编码器预训练策略及四个互补损失函数弥合模态差距，融合特征用于疾病分类，性能优于其他方法。

The Missing Layer: Specification Infrastructure for AI Oversight

缺失的层次：人工智能监督的规范基础设施

Satyam Kumar, Saurabh Jha

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；AI safety(abstract)

AI总结 研究指出人工智能安全监督存在协调差距，提出两轴分类法。针对规范层缺乏成熟学科标志的问题，给出六项设计原则，以CARMA为例展示如何让规范可组合，助独立团队构建缺失部分实现有效监督。

Why Does Grounding Hurt Medical VQA? Benchmarking, Diagnosis, and Fine-Tuning of Vision-Language Models

对前沿视觉-语言模型进行审计以实现可信的医学视觉问答：定位失败、格式崩溃和领域适应

Xupeng Chen, Binbin Shi, Chenqian Le, Qifu Yin, Lang Lin, Haowei Ni, Ran Gong, Panfeng Li

机构 * New York University, New York, USA（纽约大学） ； Tsinghua University, Beijing, China（清华大学） ； Columbia University, New York, USA（哥伦比亚大学） ； University of Michigan, Ann Arbor, USA（密歇根大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 本文审计了五种前沿视觉-语言模型在医学视觉问答中的表现，发现定位失败和格式崩溃是信任瓶颈，通过领域适应可提升性能。

PatientAgentBench: A Benchmark Framework for Evaluating Patient-Facing Health AI Agents

PatientAgentBench：一个用于评估面向患者的健康人工智能代理的基准框架

Korosh Vatanparvar, Ashutosh Joshi, Maria Xenochristou, Mohammad Abuzar Hashemi, Prasad Kasu, Deepak Bansal, Daniel Lopez-Martinez, Anchal Nema, Ramya Ganesan, Will Kimbrough, Alex Woody, Yadunandana Rao, Dilek Hakkani-Tur, Wilko Schulz-Mahlendorf

机构 * Amazon Health AI（亚马逊健康人工智能） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究面向患者的健康人工智能代理评估问题，核心方法是用PatientAgentBench框架，通过语言模型评审团在多维度评估，主要贡献是发现模型临床差距，发布可重复、经临床医生验证的评估标准助领域弥补差距。

Comments Code: https://github.com/amazon-science/PatientAgentBench

LLM Scheming Inversely Scales with Pretraining Language Coverage

大语言模型的策略规划与预训练语言覆盖范围成反比

Nathan Truong, Aryan Panda, Rayming Ye, Zoe Sun, Maheep Chaudhary

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究前沿模型中策略规划与预训练语言覆盖范围的关系，应用Petri框架评估Qwen3-30B-A3B，发现策略规划得分与预训练语言覆盖范围成反比，低资源语言得分更高，且该影响在不同策略行为中不均一。

TaylorPODA: A Taylor Expansion-Based Method to Improve Post-Hoc Attributions for Opaque Models

TaylorPODA：一种基于泰勒展开的方法，用于改进不透明模型的事后归因

Yuchi Tang, Iñaki Esnaola, George Panoutsos

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对不透明模型事后归因方法缺乏普遍标准的问题，提出基于泰勒展开框架的TaylorPODA方法，通过引入假设、分析矛盾、设计可控分配机制等，使其既满足假设又适应下游目标，提升了归因与用户定义效用的对齐及解释的可交流性。

Comments 21 pages, 4 figures. Submitted to TMLR. Re-upload with amended manuscript

Inspect India Evals: An Open Benchmarking Framework for Evaluating Large Language Models in the Indian Linguistic and Cultural Context

印度评估：一个在印度语言和文化背景下评估大语言模型的开放基准框架

Abhishek Kumar Singh, Shrey Nag, Sachita, Lipi Goel, Rajeshwar Singh Janwar

专题命中 安全评测 ：safety(abstract)；jailbreak(abstract)；分类 cs.CL

AI总结 Inspect India Evals是在印度语言文化背景下评估大语言模型的开放框架，基于Inspect AI平台构建，含六个基准。测试五个模型，Sarvam-M 24B和Gemma 2 27B表现最佳，各模型在多语言安全测试中表现一致，DPI安全得分有差异，框架公开可扩展。

Comments 19 pages, 9 figures, 7 tables

Minimizing Targeted Activations: Input-Only Suppression of Evaluation-Awareness Latents in Large Language Models

最小化目标激活：大语言模型中仅输入的评估感知潜在因素抑制

Deepanshu Mody, Samarth Agarwal, Utkarsh Mittal, Dipesh Mahato

机构 * Center for Data Science, New York University（纽约大学数据科学中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究大语言模型中仅通过输入优化提示来抑制“评估感知”潜在因素，采用特定方法在多种目标结构下对Llama模型进行实验，发现潜在因素可抑制，但激活可读性与行为可控性不同，还解决了相关问题。

Knowledge without Wisdom: Measuring Misalignment between LLMs and Intended Impact

无智慧的知识：衡量大语言模型与预期影响之间的不一致

Michael Hardy, Yunsung Kim

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 研究探讨了大语言模型在基准测试和下游任务中的对齐问题，发现模型行为与专家人类行为存在较大偏差，且常见预训练方法导致了显著的不一致。

A Cost-Effective Multimodal LLM Reasoning Framework for Question Answering over Irregular Clinical Time Series

一种用于不规则临床时间序列问答的经济高效多模态大语言模型推理框架

Frank Nie, Ethan B Liu, Yuan Zhu, Wei Fan, Jindong Han

机构 * Shandong University（山东大学） ； University of Auckland（奥克兰大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对不规则临床时间序列问答，提出ClinPRISM框架。该框架含不规则感知多尺度编码器、时间证据蒸馏器和渐进对齐策略，通过构建训练数据，在40亿参数大语言模型主干上实现最优性能，兼具低时间序列令牌数和低推理延迟。

Towards Understanding the Cognitive Habits of Large Reasoning Models

迈向理解大型推理模型的认知习惯

Jianshuo Dong, Yujia Fu, Chuanrui Hu, Chao Zhang, Han Qiu

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究大型推理模型是否展现类人认知习惯，基于“思维习惯”框架引入CogTest基准测试，对16个语言模型评估发现LRMs有类人习惯且能自适应运用，还揭示了习惯异同模式及与有害回答的关联，为理解模型不当行为提供重要依据。

Comments Published at Machine Intelligence Research vol.23, no.4, pp.873-886

From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

从二元组到三元组：中风康复中可解释人工智能需求的引出

Param Rajpura, Yogesh Kumar Meena

专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.AI

AI总结 研究针对中风康复中引出可解释人工智能需求的挑战，提出基于视频的支架协议，包含类比桥接等四种方法，揭示了参与者的需求及引导偏差，为康复中引出面向患者的XAI需求提供可复用方法，是可靠人机系统设计前提。

Comments AI and Cognitive Computing for Trustworthy Human Machine Systems Session, IEEE International Conference on Systems, Man, and Cybernetics (IEEE SMC 2026)

Toward Standardized Cross-Vendor Agent Tool Trust Management in Autonomous Networks

迈向自主网络中标准化的跨供应商代理工具信任管理

Ravi Kant Sharma, Ashutosh Uttam, Ajay Kumar

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究自主网络中跨供应商代理工具信任管理问题，提出AgentToolMO模型，含信任状态机等内容。模拟评估显示该模型能减少传播范围、保证级联收敛，为可信多供应商自主网络管理提供标准化途径。

Comments 22 pages, 7 figures, 9 tables, 4 algorithms

Evaluation of Adversarial Robustness in Arabic Language Models

阿拉伯语语言模型中的对抗鲁棒性评估

Anwar Alajmi, Ayed Salman, Imtiaz Ahmad

机构 * Kuwait University（科威特大学） ； College of Business Studies, Public Authority of Applied Education and Training（应用教育与培训公共管理局商业研究学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 研究评估五个先进阿拉伯语语言模型在不同攻击下的鲁棒性，探索对抗训练防御技术，发现不同攻击对模型准确率影响各异，对抗训练提升了整体弹性，但面对字符级噪声仍有挑战，凸显了当前防御策略在阿拉伯语中的潜力与局限。

OrthKD: Extracting Generalized Clinical Knowledge from Heterogeneous Teachers for Lightweight Deployment

OrthKD：从异构教师中提取通用临床知识以实现轻量级部署

Yi Xu, Cheng Chen, Mufan Cao

机构 * Tongji University（同济大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 研究针对初级护理中糖尿病视网膜病变筛查模型的部署问题，提出OrthKD框架，从异构教师中选择性蒸馏知识，在资源受限设备上实现实用筛查，提升模型性能，如MobileNetV3学生模型在相关数据集上取得更好的指标。

Comments Accepted to the IJCAI-ECAI 2026 Special Track on AI and Health. 8 pages, 3 figures

Data-Dependent Regret and Polyak Corrections for Constrained Online Convex Optimization

约束在线凸优化中与数据相关的遗憾值和波利亚克校正

Wentao Zhang

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究约束在线凸优化问题，通过保留标准论证中省略的量进行更严格分析，提出AdaOGD - PFS自适应步长方法，在保持每轮可行性时实现\(O(\sqrt{G_T})\)遗憾值，实验使遗憾值界提升38% - 43%。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR)

COVENANT: Natural-Language Workflow Compilation for Aligned Agent Execution

COVENANT：用于对齐代理执行的自然语言工作流编译

Jincheng Wang, Min Zheng, Tao Wei

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对大语言模型代理执行工作流指令时的未对齐问题，提出COVENANT架构，将指令转为工作流抽象语法树和控制流图，运行时控制器按要求检查提议并反馈。实验表明该方法大幅提升成功率、降低未对齐失败率，推动工作流可靠执行。

Comments 12 pages, 7 figures

Hybrid Analysis for Secure MCP Tool Use in LLM Agents

用于大语言模型智能体中安全MCP工具使用的混合分析

Ping He, Yuexiang Xie, Yaliang Li, Shouling Ji

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究LLM智能体中MCP工具使用的安全问题，提出基于混合分析的MTGuard框架，利用生命周期感知的静态 - 动态协同分析，有效减轻有害工具使用，保持良性任务性能。

Instruction-Tuned Language Models Cannot Sample from Distributions They Can Describe

指令微调语言模型无法从它们能描述的分布中进行采样

Chaemin Jang, Dongman Lee, Jihee Kim

机构 * School of Computing, KAIST（韩国科学技术院计算学院） ； School of Business and Technology Management, KAIST（韩国科学技术院商业与技术管理学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究发现指令微调语言模型无法从其能描述的分布中采样，存在“知道/做”分裂，通过让模型描述分布可减半误差，还提出PPA在无额外成本下降低21%误差。

Preliminary Guidelines for Using and Evaluating GenAI Tools to Support Systematic Literature Reviews

使用和评估生成式人工智能工具以支持系统文献综述的初步指南

Barbara Kitchenham, Sebastián Pizard, Lech Madeyski, Ronnie de Souza Santos, Martin Shepperd, David Budgen

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究探讨如何用GenAI支持系统文献综述，通过快速审查、思想实验等方法，识别评估GenAI用于SLRs的问题及过程要点，形成GUEST建议，助研究人员利用GenAI开展可靠综述与评估研究，强调其需人工监督及能提供成本效益帮助。

Comments 58 pages, 2 figures, 11 tables

CARE-MH: Towards Unified, Reproducible, and Comparable Evaluation of Mental Health LLMs

CARE-MH：迈向心理健康语言模型的统一、可重现和可比评估

Asher Sprigler, Yixue Zhao, Yi Ding

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究针对心理健康语言模型评估难重现、难比较的问题，提出CARE-MH统一框架，通过重现分析现有基准，发现可重复性取决于模型稳定性，跨基准分歧源于指标定义差异，强调了标准化评估配置和共享指标定义的必要性。

Comments 39 pages, 22 figures, 22 tables

Agentic AI for Scientific Reasoning in Autonomous Quantum Sensing Experiments

用于自主量子传感实验中科学推理的智能体人工智能

Takuya Isogawa, Ryotaro Okabe, Nutdech Phadetsuwannukun, Mingda Li, Paola Cappellaro

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究围绕大语言模型智能体实现用于金刚石中NV中心自主实验的智能体人工智能工作流程，主要贡献为展示自主实验流程，引入离线基准评估智能体推理，结果表明自主实验中智能体与代码分工明确，智能体负责假设和数据评估，代码控制硬件与执行安全约束。

Comments 11 pages, 4 figures + Supplementary Information

Systematic Analysis of Large Language Models and Transformer-Based Machine Translation for English-Tamil and Tamil-English Across Diverse Datasets

跨不同数据集对英语-泰米尔语和泰米尔语-英语的大语言模型和基于Transformer的机器翻译的系统分析

Sriharshaa S, Sangeetha Sivanesan, Jaya Nirmala S

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对泰米尔语等低资源语言机器翻译挑战，在多数据集上评估多种模型，用BLEU等指标分析其性能，通过注意力分析增强可解释性，证明上下文提示可实现少样本翻译并与监督方法比较，揭示数据集及领域匹配对模型性能的影响。

scMIR: a vision-language foundation model for single-cell light microscopy image representation

scMIR：用于单细胞光学显微镜图像表示的视觉语言基础模型

Yifan Shang, Jiahui Tan, Xiangxiang Zeng, Renjie Zhou

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对单细胞光学显微镜图像分析难题，提出scMIR模型，通过自监督图像重建与文本引导跨模态对齐，在多图像文本对上预训练，在多种复杂任务中表现出色，优于现有方法，具备强泛化能力，能推动高通量表型分析工作流程标准化和自动化。

Filling Before Advancing: Capability-Gap-Driven Post-Training for Scenario-Specialized Remote Sensing MLLMs

推进前填充：能力差距驱动的场景专用遥感多模态大语言模型的训练后处理

Yuheng Zong, Minghua Wang, Xin Zhao, Zhi-Hui Zhan, Antonio Plaza, Jon Atli Benediktsson

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对地球观测应用中遥感多模态大语言模型因高质量数据稀缺和能力覆盖不完整难以实现细粒度场景专业化的问题，提出能力差距驱动的推进前填充（FBA）方法，经实验验证其效果优于其他方法，提升了模型在相关基准上的表现。

Multi-Fidelity Learning with Shallow Recurrent Decoders for Multi-Physics Applications

基于浅层循环解码器的多保真度学习在反应堆物理中的应用

Stefano Riva, Carolina Introini, J. Nathan Kutz, Antonio Cammi

机构 * Autodesk Research（Autodesk研究院） ； Department of Energy, Nuclear Engineering Division（能源部核工程系） ； Politecnico di Milano（米兰理工大学） ； Department of Mechanical and Nuclear Engineering and Emirates Nuclear Technology Center（机械与核工程系和阿联酋核技术中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 针对反应堆物理中高保真数据稀缺而低保真数据丰富的问题，提出利用浅层循环解码器将低保真模型（如点动力学）映射到高保真模型（如扩散方程），以低成本获得高保真解。

Robustness Certificates for Neural Networks Against Data Poisoning and Evasion Attacks

神经网络对抗攻击的鲁棒性证书

Sara Taheri, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar, Majid Zamani

机构 * LMU Munich（慕尼黑大学） ； Technical University of Munich（慕尼黑技术大学） ； University of Colorado Boulder（科罗拉多大学博尔德分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种形式化鲁棒性认证框架，通过将梯度训练建模为离散时间动力系统，并利用屏障证书概念，提供对抗攻击下的鲁棒性保证，实验表明其在MNIST、SVHN和CIFAR-10上有效。

Journal ref IEEE Open Journal of Control Systems, 2026

Hypothesis-Driven Shelf Generation for Personalised Recommendation

用于个性化推荐的假设驱动型货架生成

Aleksandr V. Petrov, Tarun Chillara, Matthew D. Moellman, Lucas de Haas, Yabai Song, Alina Susoykina, Melissa Crawford, Gabriel Negash, Erik Franco, Tasnim Rahman, Binal Jhaveri, Shubham Bansal, Hugues Bouchard, Roberto Mirizzi, Mounia Lalmas, Aloïs Gruson

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对个性化推荐中货架生成问题，提出内容假设驱动型系统，含假设生成等四个阶段，解耦货架规划与目录填充，支持独立优化，经生产管道结合多种操作，通过离线和在线评估，该系统能扩展个性化推荐供应，效果有竞争力。

Comments Accepted at ACM RecSys '26 (Industry Track)