大模型对齐与安全

TaylorPODA: A Taylor Expansion-Based Method to Improve Post-Hoc Attributions for Opaque Models

TaylorPODA：一种基于泰勒展开的方法，用于改进不透明模型的事后归因

Yuchi Tang, Iñaki Esnaola, George Panoutsos

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对不透明模型事后归因方法缺乏普遍标准的问题，提出基于泰勒展开框架的TaylorPODA方法，通过引入假设、分析矛盾、设计可控分配机制等，使其既满足假设又适应下游目标，提升了归因与用户定义效用的对齐及解释的可交流性。

Comments 21 pages, 4 figures. Submitted to TMLR. Re-upload with amended manuscript

Inspect India Evals: An Open Benchmarking Framework for Evaluating Large Language Models in the Indian Linguistic and Cultural Context

印度评估：一个在印度语言和文化背景下评估大语言模型的开放基准框架

Abhishek Kumar Singh, Shrey Nag, Sachita, Lipi Goel, Rajeshwar Singh Janwar

专题命中 安全评测 ：safety(abstract)；jailbreak(abstract)；分类 cs.CL

AI总结 Inspect India Evals是在印度语言文化背景下评估大语言模型的开放框架，基于Inspect AI平台构建，含六个基准。测试五个模型，Sarvam-M 24B和Gemma 2 27B表现最佳，各模型在多语言安全测试中表现一致，DPI安全得分有差异，框架公开可扩展。

Comments 19 pages, 9 figures, 7 tables

Minimizing Targeted Activations: Input-Only Suppression of Evaluation-Awareness Latents in Large Language Models

最小化目标激活：大语言模型中仅输入的评估感知潜在因素抑制

Deepanshu Mody, Samarth Agarwal, Utkarsh Mittal, Dipesh Mahato

机构 * Center for Data Science, New York University（纽约大学数据科学中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究大语言模型中仅通过输入优化提示来抑制“评估感知”潜在因素，采用特定方法在多种目标结构下对Llama模型进行实验，发现潜在因素可抑制，但激活可读性与行为可控性不同，还解决了相关问题。

Knowledge without Wisdom: Measuring Misalignment between LLMs and Intended Impact

无智慧的知识：衡量大语言模型与预期影响之间的不一致

Michael Hardy, Yunsung Kim

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 研究探讨了大语言模型在基准测试和下游任务中的对齐问题，发现模型行为与专家人类行为存在较大偏差，且常见预训练方法导致了显著的不一致。

A Cost-Effective Multimodal LLM Reasoning Framework for Question Answering over Irregular Clinical Time Series

一种用于不规则临床时间序列问答的经济高效多模态大语言模型推理框架

Frank Nie, Ethan B Liu, Yuan Zhu, Wei Fan, Jindong Han

机构 * Shandong University（山东大学） ； University of Auckland（奥克兰大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对不规则临床时间序列问答，提出ClinPRISM框架。该框架含不规则感知多尺度编码器、时间证据蒸馏器和渐进对齐策略，通过构建训练数据，在40亿参数大语言模型主干上实现最优性能，兼具低时间序列令牌数和低推理延迟。

Towards Understanding the Cognitive Habits of Large Reasoning Models

迈向理解大型推理模型的认知习惯

Jianshuo Dong, Yujia Fu, Chuanrui Hu, Chao Zhang, Han Qiu

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究大型推理模型是否展现类人认知习惯，基于“思维习惯”框架引入CogTest基准测试，对16个语言模型评估发现LRMs有类人习惯且能自适应运用，还揭示了习惯异同模式及与有害回答的关联，为理解模型不当行为提供重要依据。

Comments Published at Machine Intelligence Research vol.23, no.4, pp.873-886

From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

从二元组到三元组：中风康复中可解释人工智能需求的引出

Param Rajpura, Yogesh Kumar Meena

专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.AI

AI总结 研究针对中风康复中引出可解释人工智能需求的挑战，提出基于视频的支架协议，包含类比桥接等四种方法，揭示了参与者的需求及引导偏差，为康复中引出面向患者的XAI需求提供可复用方法，是可靠人机系统设计前提。

Comments AI and Cognitive Computing for Trustworthy Human Machine Systems Session, IEEE International Conference on Systems, Man, and Cybernetics (IEEE SMC 2026)

Toward Standardized Cross-Vendor Agent Tool Trust Management in Autonomous Networks

迈向自主网络中标准化的跨供应商代理工具信任管理

Ravi Kant Sharma, Ashutosh Uttam, Ajay Kumar

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究自主网络中跨供应商代理工具信任管理问题，提出AgentToolMO模型，含信任状态机等内容。模拟评估显示该模型能减少传播范围、保证级联收敛，为可信多供应商自主网络管理提供标准化途径。

Comments 22 pages, 7 figures, 9 tables, 4 algorithms

Evaluation of Adversarial Robustness in Arabic Language Models

阿拉伯语语言模型中的对抗鲁棒性评估

Anwar Alajmi, Ayed Salman, Imtiaz Ahmad

机构 * Kuwait University（科威特大学） ； College of Business Studies, Public Authority of Applied Education and Training（应用教育与培训公共管理局商业研究学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 研究评估五个先进阿拉伯语语言模型在不同攻击下的鲁棒性，探索对抗训练防御技术，发现不同攻击对模型准确率影响各异，对抗训练提升了整体弹性，但面对字符级噪声仍有挑战，凸显了当前防御策略在阿拉伯语中的潜力与局限。

OrthKD: Extracting Generalized Clinical Knowledge from Heterogeneous Teachers for Lightweight Deployment

OrthKD：从异构教师中提取通用临床知识以实现轻量级部署

Yi Xu, Cheng Chen, Mufan Cao

机构 * Tongji University（同济大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 研究针对初级护理中糖尿病视网膜病变筛查模型的部署问题，提出OrthKD框架，从异构教师中选择性蒸馏知识，在资源受限设备上实现实用筛查，提升模型性能，如MobileNetV3学生模型在相关数据集上取得更好的指标。

Comments Accepted to the IJCAI-ECAI 2026 Special Track on AI and Health. 8 pages, 3 figures

Data-Dependent Regret and Polyak Corrections for Constrained Online Convex Optimization

约束在线凸优化中与数据相关的遗憾值和波利亚克校正

Wentao Zhang

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究约束在线凸优化问题，通过保留标准论证中省略的量进行更严格分析，提出AdaOGD - PFS自适应步长方法，在保持每轮可行性时实现\(O(\sqrt{G_T})\)遗憾值，实验使遗憾值界提升38% - 43%。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR)

COVENANT: Natural-Language Workflow Compilation for Aligned Agent Execution

COVENANT：用于对齐代理执行的自然语言工作流编译

Jincheng Wang, Min Zheng, Tao Wei

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对大语言模型代理执行工作流指令时的未对齐问题，提出COVENANT架构，将指令转为工作流抽象语法树和控制流图，运行时控制器按要求检查提议并反馈。实验表明该方法大幅提升成功率、降低未对齐失败率，推动工作流可靠执行。

Comments 12 pages, 7 figures

Hybrid Analysis for Secure MCP Tool Use in LLM Agents

用于大语言模型智能体中安全MCP工具使用的混合分析

Ping He, Yuexiang Xie, Yaliang Li, Shouling Ji

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究LLM智能体中MCP工具使用的安全问题，提出基于混合分析的MTGuard框架，利用生命周期感知的静态 - 动态协同分析，有效减轻有害工具使用，保持良性任务性能。

Instruction-Tuned Language Models Cannot Sample from Distributions They Can Describe

指令微调语言模型无法从它们能描述的分布中进行采样

Chaemin Jang, Dongman Lee, Jihee Kim

机构 * School of Computing, KAIST（韩国科学技术院计算学院） ； School of Business and Technology Management, KAIST（韩国科学技术院商业与技术管理学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究发现指令微调语言模型无法从其能描述的分布中采样，存在“知道/做”分裂，通过让模型描述分布可减半误差，还提出PPA在无额外成本下降低21%误差。

Preliminary Guidelines for Using and Evaluating GenAI Tools to Support Systematic Literature Reviews

使用和评估生成式人工智能工具以支持系统文献综述的初步指南

Barbara Kitchenham, Sebastián Pizard, Lech Madeyski, Ronnie de Souza Santos, Martin Shepperd, David Budgen

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究探讨如何用GenAI支持系统文献综述，通过快速审查、思想实验等方法，识别评估GenAI用于SLRs的问题及过程要点，形成GUEST建议，助研究人员利用GenAI开展可靠综述与评估研究，强调其需人工监督及能提供成本效益帮助。

Comments 58 pages, 2 figures, 11 tables

CARE-MH: Towards Unified, Reproducible, and Comparable Evaluation of Mental Health LLMs

CARE-MH：迈向心理健康语言模型的统一、可重现和可比评估

Asher Sprigler, Yixue Zhao, Yi Ding

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究针对心理健康语言模型评估难重现、难比较的问题，提出CARE-MH统一框架，通过重现分析现有基准，发现可重复性取决于模型稳定性，跨基准分歧源于指标定义差异，强调了标准化评估配置和共享指标定义的必要性。

Comments 39 pages, 22 figures, 22 tables

Agentic AI for Scientific Reasoning in Autonomous Quantum Sensing Experiments

用于自主量子传感实验中科学推理的智能体人工智能

Takuya Isogawa, Ryotaro Okabe, Nutdech Phadetsuwannukun, Mingda Li, Paola Cappellaro

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究围绕大语言模型智能体实现用于金刚石中NV中心自主实验的智能体人工智能工作流程，主要贡献为展示自主实验流程，引入离线基准评估智能体推理，结果表明自主实验中智能体与代码分工明确，智能体负责假设和数据评估，代码控制硬件与执行安全约束。

Comments 11 pages, 4 figures + Supplementary Information

Systematic Analysis of Large Language Models and Transformer-Based Machine Translation for English-Tamil and Tamil-English Across Diverse Datasets

跨不同数据集对英语-泰米尔语和泰米尔语-英语的大语言模型和基于Transformer的机器翻译的系统分析

Sriharshaa S, Sangeetha Sivanesan, Jaya Nirmala S

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对泰米尔语等低资源语言机器翻译挑战，在多数据集上评估多种模型，用BLEU等指标分析其性能，通过注意力分析增强可解释性，证明上下文提示可实现少样本翻译并与监督方法比较，揭示数据集及领域匹配对模型性能的影响。

scMIR: a vision-language foundation model for single-cell light microscopy image representation

scMIR：用于单细胞光学显微镜图像表示的视觉语言基础模型

Yifan Shang, Jiahui Tan, Xiangxiang Zeng, Renjie Zhou

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对单细胞光学显微镜图像分析难题，提出scMIR模型，通过自监督图像重建与文本引导跨模态对齐，在多图像文本对上预训练，在多种复杂任务中表现出色，优于现有方法，具备强泛化能力，能推动高通量表型分析工作流程标准化和自动化。

Filling Before Advancing: Capability-Gap-Driven Post-Training for Scenario-Specialized Remote Sensing MLLMs

推进前填充：能力差距驱动的场景专用遥感多模态大语言模型的训练后处理

Yuheng Zong, Minghua Wang, Xin Zhao, Zhi-Hui Zhan, Antonio Plaza, Jon Atli Benediktsson

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对地球观测应用中遥感多模态大语言模型因高质量数据稀缺和能力覆盖不完整难以实现细粒度场景专业化的问题，提出能力差距驱动的推进前填充（FBA）方法，经实验验证其效果优于其他方法，提升了模型在相关基准上的表现。

Multi-Fidelity Learning with Shallow Recurrent Decoders for Multi-Physics Applications

基于浅层循环解码器的多保真度学习在反应堆物理中的应用

Stefano Riva, Carolina Introini, J. Nathan Kutz, Antonio Cammi

机构 * Autodesk Research（Autodesk研究院） ； Department of Energy, Nuclear Engineering Division（能源部核工程系） ； Politecnico di Milano（米兰理工大学） ； Department of Mechanical and Nuclear Engineering and Emirates Nuclear Technology Center（机械与核工程系和阿联酋核技术中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 针对反应堆物理中高保真数据稀缺而低保真数据丰富的问题，提出利用浅层循环解码器将低保真模型（如点动力学）映射到高保真模型（如扩散方程），以低成本获得高保真解。

Robustness Certificates for Neural Networks Against Data Poisoning and Evasion Attacks

神经网络对抗攻击的鲁棒性证书

Sara Taheri, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar, Majid Zamani

机构 * LMU Munich（慕尼黑大学） ； Technical University of Munich（慕尼黑技术大学） ； University of Colorado Boulder（科罗拉多大学博尔德分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种形式化鲁棒性认证框架，通过将梯度训练建模为离散时间动力系统，并利用屏障证书概念，提供对抗攻击下的鲁棒性保证，实验表明其在MNIST、SVHN和CIFAR-10上有效。

Journal ref IEEE Open Journal of Control Systems, 2026

Hypothesis-Driven Shelf Generation for Personalised Recommendation

用于个性化推荐的假设驱动型货架生成

Aleksandr V. Petrov, Tarun Chillara, Matthew D. Moellman, Lucas de Haas, Yabai Song, Alina Susoykina, Melissa Crawford, Gabriel Negash, Erik Franco, Tasnim Rahman, Binal Jhaveri, Shubham Bansal, Hugues Bouchard, Roberto Mirizzi, Mounia Lalmas, Aloïs Gruson

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对个性化推荐中货架生成问题，提出内容假设驱动型系统，含假设生成等四个阶段，解耦货架规划与目录填充，支持独立优化，经生产管道结合多种操作，通过离线和在线评估，该系统能扩展个性化推荐供应，效果有竞争力。

Comments Accepted at ACM RecSys '26 (Industry Track)

LLM-as-a-Judge for Evaluating System Responses in Conversational Music Recommendation

大语言模型作为评估对话式音乐推荐系统响应的评判器

Seungheon Doh, Bruno Sguerra, Sergio Oramas, Elena V. Epure, Juhan Nam

专题命中 安全评测 ：alignment(abstract)

AI总结 研究对话式音乐推荐系统中用大语言模型评估系统响应的可靠性，通过抽取会话、用四个指令微调的大语言模型生成候选响应，收集领域专家评分并分析，发现其与人工评估适度正相关且优于基线，还分析了性能随模型规模等的变化。

Comments Accepted for publication at the 20th ACM Conference on Recommender Systems (ACM-RecSys 2026)

Agentic AI in medicine: architectures, applications, evaluation, and challenges for clinical translation

医学中的智能体人工智能：临床转化的架构、应用、评估及挑战

Zheng Tong, Yang Liu, Wanshu Fan, Jing Qin, Zhongbin Han, Haifan Gong, Congyu Liao, Xiaofeng Liu, Cong Wang

机构 * School of Software Engineering, Dalian University（大连大学软件工程学院） ； Affiliated Zhongshan Hospital of Dalian University（大连大学附属中山医院） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； University of California, San Francisco（加州大学旧金山分校） ； Yale University（耶鲁大学） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究探讨医学中智能体人工智能的架构、应用等，通过范围审查筛选相关研究，指出其范围未定论且评估与临床需求不符，证据基础有限，临床转化需更清晰定义、可重复评估等。

Comments Review article, 6 figures, 2 tables. 42 pages

Sense it with your eyes: Sensation Generation and Understanding for Advertisements

用眼睛感知：广告的感官生成与理解

Aysan Aghazadeh, Sina Malakouti, Adriana Kovashka

机构 * University of Pittsburgh（匹兹堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究广告视觉唤起感官问题，引入感官广告数据集和分类任务，提出SenseScore评估指标，介绍感官广告生成任务及SAGA多智能体框架，为感官感知视觉说服奠定基础。

MEDit-Bench: A Dataset for Evaluating Message-Driven Narrative Video Editing

MEDit-Bench：一个用于评估消息驱动叙事视频编辑的数据集

Katsuya Ogata, Zongshang Pang, Mayu Otani, Yuta Nakashima

机构 * The University of Osaka（大阪大学） ； CyberAgent, Inc.（株式会社CyberAgent） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究消息驱动的视频编辑问题，提出MEDit-Bench数据集及基准，通过多消息与编辑配对展示消息对编辑的影响，定义评估协议，标注消息属性，实验表明模型虽在宽松阈值下接近人类，但严格标准下仍落后，人类编辑更优。

SONG: A Photorealistic 3D Gaussian Simulation Platform for Benchmarking Social Navigation

SONG：用于基准测试社会导航的逼真3D高斯模拟平台

Weiqi Huang, Dianyi Yang, Jiaxin Li, Shuangyi Dong, Hao Xu, Zan Wang, Wei Liang

机构 * School of Computer Science & Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究针对社会导航模拟平台不足的问题，介绍了基于3D高斯点云渲染的SONG平台，利用其进行场景和化身表示等，还策划了SONG-Bench及评估套件，通过评估发现相关问题，证明微调数据可提高现实环境成功率，为研究提供测试平台。

HiEviDR-Bench: A Benchmark for Hierarchical Evidence Aggregation in Deep Research

HiEviDR-Bench：深度研究中分层证据聚合的基准测试

Yubo Sun, Chunyi Peng, Yukun Yan, Zhenghao Liu, Sen Mei, Bangrui Xu, Xuanhe Zhou, Chi Chen, Maosong Sun

专题命中 安全评测 ：alignment(abstract)

AI总结 针对深度研究中证据聚合评估不足问题，HiEviDR-Bench构建基准测试，涵盖多领域多模态设置，用证据图表示实例，开发评估框架及机制。含2000个问题，实验显示多模型虽报告质量好，但在引用准确性等方面欠佳，瓶颈在证据识别和中间主张构建。

Comments Code and data are available at https://ai9stars.github.io/HiEviDR-Bench.github.io

AVE-Compass: Towards Holistic Evaluation for Audio-Video Editing Abilities

AVE-Compass：迈向音频-视频编辑能力的整体评估

Yuqing Wen, Yukai Huang, Qianqian Xie, Jiangtao Wu, Yibin Lin, Yikai Gu, Jialu Chen, Yuanxing Zhang, Jiaheng Liu

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对现有视频编辑基准未充分考虑视听耦合问题，提出AVE-Compass基准及AVE-Agent框架，通过多种评估方式评估编辑能力，能分解复杂指令迭代改进结果，提升了跨模态编辑等方面表现及感知质量。