大模型对齐与安全

FinDeepIndicator: Benchmarking Deep Research Agents in End-to-End Financial Indicator Construction

FinDeepIndicator：端到端金融指标构建中深度研究智能体的基准测试

Chaoqun Yang, Fengbin Zhu, Xinyu Lin, Long Bai, Xiaoluan Liu, Ke-Wei Huang, Roger Zimmermann, Tat-Seng Chua

机构 * School of Computing, National University of Singapore（新加坡国立大学计算机学院） ； China Economics and Management Academy, Central University of Finance and Economics（中央财经大学中国经济与管理研究院） ； Asian Institute of Digital Finance, National University of Singapore（新加坡国立大学亚洲数字金融研究所） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本研究提出首个评估深度研究智能体端到端金融指标构建表现的基准FinDeepIndicator，含多市场数据，实验发现DR智能体优于检索增强LLMs但仍不可靠，为金融领域智能体开发提供参考。

Multi-Dimensional Assessment for AI Cognition (MAAC): A Theoretical Framework for Process-Oriented Cognitive Evaluation of Text-Based AI Systems

人工智能认知的多维度评估（MAAC）：面向基于文本的人工智能系统的过程导向认知评估理论框架

Abdalla Doleh, Ratna Babu Chinnam

机构 * Wayne State University（韦恩州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对现有AI评估仅关注结果的局限，本文提出MAAC框架，从九个认知维度对基于文本的AI系统进行过程导向评估，补充了现有结果基准的不足。

Individual-level interventions against sycophantic AI reduce its appeal but not its persuasiveness

观察到谄媚的人工智能认可他人会降低其吸引力，但不会降低其说服力

Meryl Ye, Robert Kraut, Steve Rathje

机构 * Carnegie Mellon University（卡内基梅隆大学） ； New York University（纽约大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究探讨提高用户对谄媚人工智能的认知能否防危害，通过两项预注册实验及合并其他研究发现，警告和视频干预虽改变评价，但未降说服力，个体层面干预或难护用户免受人工智能之害。

FusionRS: A Large-Scale RGB-Infrared-Style Remote Sensing Dataset for Cross-Modal Vision-Language Learning

FusionRS: 用于双模态视觉-语言基础模型的大规模RGB-红外遥感数据集

Jiaju Han, Ben Zhang, Xuemeng Sun, Qike Zhang, Yuxian Dong, Dingyi Lu, Chengyin Hu, Luwei Yang, Fengyu Zhang, Yiwei Wei, Jiujiang Guo

机构 * China University of Petroleum-Beijing at Karamay（中国石油大学（北京）克拉玛依校区） ； University of Electronic Science and Technology of China（电子科技大学） ； Tianjin University（天津大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对遥感视觉-语言模型缺乏红外数据的问题，提出首个大规模RGB-红外-文本数据集FusionRS，通过翻译RGB图像为红外风格并配以红外感知描述，训练双模态基础模型，提升RGB-红外对齐和双模态字幕生成性能。

From Fact to Judgment: Investigating the Impact of Task Framing on LLM Conviction in Dialogue Systems

从事实到判断：探讨任务框架对对话系统中LLM确信度的影响

Parisa Rabbani, Nimet Beyza Bozdag, Dilek Hakkani-Tür

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 研究探讨了任务框架对LLM在对话系统中判断确信度的影响，发现对话上下文显著改变模型判断，强调了对话框架在评估中的重要性。

Comments 11 pages, 3 figures

Journal ref Proceedings of the 16th International Workshop on Spoken Dialogue System Technology (IWSDS 2026), pages 193-204

Breaking the Statistical Similarity Trap in Extreme Convection Detection

突破极端对流检测中的统计相似性陷阱

Md Tanveer Hossain Munim

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 该研究针对深度学习气象模型的统计相似性陷阱，提出DART框架，解决粗粒度大气预报转高分辨率卫星亮温场的挑战，在极端对流检测中表现优异，还通过吉大港洪水案例验证了其现实应用价值。

Comments This paper has been withdrawn due to a complete pivot in research direction and methodology. We have shifted from the atmospheric domain application to a general methodological direction. A new version of this research will be submitted separately

XR-PRISM: Data-Driven Privacy and Risk Impact Scoring Metric for Extended Reality in Healthcare

XR-PRISM：面向医疗领域扩展现实的数据驱动型隐私与风险影响评分指标

Nafisa Anjum, M. Rasel Mahmud

专题命中 安全评测 ：safety(abstract)；trustworthy(comments)

AI总结 该研究针对医疗XR领域缺乏统一风险评估框架的问题，提出XR-PRISM评分指标，基于65篇文献构建四层威胁分类，发现多数对策缺乏标准化评估，该指标可透明量化医疗XR的安全隐私风险。

Comments Published at the 1st International Workshop on Trustworthy, Secure, and Privacy-Aware AI for Extended Reality (TRUST-XR 2025), held in conjunction with IEEE ISMAR 2025

Axient: On-Chain Credit and Loss Allocation for Leveraged Event Markets: A Venue-Agnostic Protocol for Traders, Credit Providers, Market Makers, and Liquidation Backstops

Axient：杠杆事件市场的链上信用与损失分配——面向交易者、信用提供者、做市商及清算后援的场所无关协议

Maksym Nechepurenko

专题命中 安全评测 ：safety(abstract)

AI总结 Axient是面向多角色的场所无关链上信用协议，通过形式化架构与内生模型实现损失分配等机制，实验验证其分层保护等特性，为杠杆事件市场提供解决方案。

Comments 90 pages, 17 figures. Formal protocol design and fixed-seed synthetic agent-based validation; no live Axient or venue data

Learning to See Locally and Align Clinically with Pathology Semantics for Radiology Report Generation

学习局部感知并与病理学语义临床对齐的放射学报告生成方法

Xuan Cuong Ngo

专题命中 安全评测 ：alignment(abstract)

AI总结 针对放射学视觉-语言模型的图像-文本对齐缺陷，提出病理学感知对齐框架PALM，结合共享病理学原型与掩码证据建模，在多数据集上提升报告生成与异常鲁棒性

TravKAN: Fast and Interpretable Nonlinear Traversability Analysis with Kolmogorov-Arnold Networks

TravKAN：基于Kolmogorov-Arnold网络的快速可解释非线性可通行性分析

Daniel Fusaro, Simone Mosco, Wanmeng Li, Alberto Pretto

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出基于Kolmogorov-Arnold网络的TravKAN框架，结合LiDAR反射率手工特征，在公开数据集上性能优于传统深度模型，兼具可解释性与高效性，适用于安全关键的机器人可通行性分析。

Comments This paper has been accepted for publication at the 2026 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)

D-MUTRA: DLT-based MUTual Remote Attestation for Multi-Agent Systems

D-MUTRA：面向多智能体系统的基于分布式账本（DLT）的相互远程证明

Adam Zahir, Vincent Lefebvre, Mark Angoustures, Milan Groshev, Carlos J. Bernardos

专题命中 安全评测 ：trustworthy(abstract)

AI总结 针对多智能体系统传统远程证明的局限，本文提出基于区块链的D-MUTRA框架，实现智能体间的持续相互证明，可检测恶意软件修改，且扩展时开销可忽略。

Benign Alone, Harmful Together: Exploiting Experience Composition in Self-Evolving LLM Agents

单独无害，联合有害：在自进化大语言模型智能体中利用经验组合

Bingyu Yan, Xiaoming Zhang, Chaozhuo Li, Ziyi Zhou, Yirui Qi, Litian Zhang

专题命中 安全评测 ：safety(abstract)

AI总结 本研究提出EvoBreak攻击，利用自进化LLM智能体的良性经验组合，结合BreakGym生成训练目标，在保持高无害性的同时优于现有攻击，揭示了新的安全风险。

How Well Do LLMs Generate Taxonomies in the SE Domain? A Multi-perspective Evaluation Framework

大型语言模型在软件工程领域生成分类体系的表现如何？一个多视角评估框架

Sota Nakashima, Yuta Ishimoto, Masanari Kondo, Tao Xiao, Yasutaka Kamei

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出首个SE领域自动化分类体系生成的多视角评估框架，对比TnT-LLM与CLIMB两种方法及5种LLM，揭示二者在质量、效率上的权衡，为SE领域应用该技术提供了可操作见解。

Comments 13 pages, Accepted at the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE 2026), Research Papers Track

Doc2CI: A Multi-Service Study of CI Configuration Generation Using Large Language Models

Doc2CI：基于大语言模型的CI配置生成多服务研究

Taher A. Ghaleb

专题命中 安全评测 ：alignment(abstract)

AI总结 本文通过构建DOC2CI基准评估LLM生成CI配置的能力，发现其结构有效性不足，提出无需训练的模式引导修复方法提升有效性，为相关工具开发提供依据。

Vul4Py: Benchmarking Automated Vulnerability Repair in Python with Paired Exploit and Functional Oracles

Vul4Py：利用配对漏洞利用与功能预言机对Python自动化漏洞修复进行基准测试

Tan Bui, Ting Zhang, Ferdian Thung, Yunpeng Xiong, Penghao Jiang, Xin Zhou, David Lo

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本研究提出Vul4Py基准测试，含100个Python真实漏洞及配对预言机，对比三类AVR方法，发现智能体OpenHands修复漏洞数远超同类方法，配对预言机保障结果可信。

Can Perplexity Serve as a Cognitive Signal for Code Understandability?

困惑度能否作为代码可理解性的认知信号？

Xiaokai Rong, Mohammadali Sefidi Esfahani, Aashish Yadavally, Rigby Peter, Tien N. Nguyen

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究通过实证发现，词元级困惑度的简单片段级聚合与人类代码可理解性相关性不可靠，明确其仅适用于局部代码困惑，需经特定分析才能用于可靠的代码可理解性测量。

Volcanic Clouds Detection through QCNN and Geostationary Satellite Multispectral Imagery

基于QCNN与静止卫星多光谱影像的火山云检测

Federica Torrisi, Claudia Corradino, Alessandro Grilli, Tommaso Catuogno, Mattia Verducci, Elisabetta Paladino, Luigi Giannelli, Alessandro Sebastianelli

机构 * Istituto Nazionale di Geofisica e Vulcanologia (INGV)（国家地球物理与火山学研究所） ； Thales Alenia Space Italia（泰雷兹阿莱尼亚空间意大利公司） ； Euro-Mediterranean Center on Climate Change（欧亚地中海气候变化中心） ； Università di Catania（卡塔尼亚大学） ； INFN（国家核物理研究所） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本研究探讨混合量子卷积神经网络（QCNN）对含火山云的卫星图像分类的潜力，对比不同量子比特数QCNN与纯经典架构的性能，以解决火山云检测难题。

One Patch Is Enough: Reinforcement-Optimized Visual Token Grounding for MLLM-Based Scene Text Spotting

一个补丁就够：面向基于多模态大语言模型（MLLM）的场景文本定位的强化优化视觉标记接地

Rui Tang, Wentao Yang, Peirong Zhang, Yongxin Shi, Shun Zhang, Huiguo He, Lianwen Jin

机构 * South China University of Technology（华南理工大学） ； HiThink Research（海思思考研究院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对现有多补丁场景文本定位范式的冗余噪声与定位歧义问题，提出以视觉为中心的单补丁文本定位框架 SPaTS，通过强化学习优化的单补丁选择等技术实现性能提升，显著优于前沿相关模型。

Comments 15 pages, 11 figures. Accepted to ACM Multimedia 2026

Journal ref Proceedings of the 34th ACM International Conference on Multimedia (MM '26), 2026

A clinically validated framework for auditing AI chatbot behavior in mental health interactions

易受攻击的交互循环：人工智能聊天机器人心理健康互动中的系统性故障模式

Veith Weilnhammer, Kevin YC Hou, Lennart Luettgau, Christopher Summerfield, Raymond Dolan, Matthew M Nour

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出SIM-VAIL框架，通过分析AI聊天机器人在心理健康对话中的风险表现，揭示了易受攻击的交互循环系统性故障模式，并为安全改进提供新方法。

Semantic-Guided Cross-Sensor Super Resolution of Remote Sensing Images: A Gated Dual Conditioning Flow Matching Model

语义引导的遥感图像跨传感器超分辨率：门控双条件流匹配模型

Forouzan Fallah, Wenwen Li, Chia-Yu Hsu, Hyunho Lee, Anna Liljedahl, Yezhou Yang

机构 * School of Computing and Augmented Intelligence（计算与增强智能学院） ； School of Geographical Sciences and Urban Planning（地理科学与城市规划学院） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对遥感图像跨传感器超分辨率的稀缺数据与域偏移问题，提出语义引导的RareFlow框架，结合门控ControlNet与文本语义引导，在多基准上验证了其高保真超分辨率生成能力。

Efficiency vs. Alignment: Investigating Safety and Fairness Risks in Parameter-Efficient Fine-Tuning of LLMs

效率与对齐：研究大语言模型参数高效微调中的安全与公平风险

Mina Taraghi, Yann Pequignot, Amin Nikanjam, Mohamed Amine Merzouk, Foutse Khomh

专题命中 AI治理与伦理 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究发现良性参数高效微调会改变大语言模型的安全与公平性，基于适配器的方法更安全，基础模型和PEFT类型会影响对齐偏移，需按类别审计安全与公平性。

Comments Revised version with expanded experiments, robustness analyses, and appendices

Inference-Time Policy Alignment for Fair Reinforcement Learning

用于公平强化学习的推理时策略对齐

Umer Siddique, Peilang Li, Conor Wallace, Yongcan Cao

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出乘法策略塑造框架，在不更新预训练RL策略参数的情况下，于推理时提升公平性，同时保留核心任务性能，适用于各类深度RL智能体。

Comments Accepted at the Reinforcement Learning Conference (RLC) 2026. 13 pages main + appendix, 5 figures, 6 tables

Efficiency and Cost Alignment in Batched LLM Serving via Resource-Fair Scheduling

通过资源公平调度实现批量大语言模型（LLM）服务的效率与成本对齐

Dayi Yao, Zijie Zhou

专题命中 AI治理与伦理 ：alignment(title)

AI总结 本文针对批量LLM服务中异构请求导致的资源分配低效问题，提出ISJL算法，实现高吞吐量的同时对齐最大驱动批次成本与token计量收入，达到3/4的竞争比下界，平衡了FCFS与LJF的优缺点。

Trust or Check? Understanding the (Evolutionary) Dynamics of User Trust in AI Systems

信任作为监控：用户信任与AI开发者行为的进化动态

Adeela Bashir, Zhao Song, Ndidi Bianca Ogbo, Nataliya Balabanova, Martin Smit, Chin-wing Leung, Paolo Bova, Manuel Chica Serrano, Dhanushka Dissanayake, Manh Hong Duong, Elias Fernandez Domingos, Nikita Huber-Kralj, Marcus Krellner, Andrew Powell, Stefan Sarkadi, Fernando P. Santos, Zia Ush Shamszaman, Chaimaa Tarzi, Paolo Turrini, Grace Ibukunoluwa Ufeoshi, Victor A. Vargas-Perez, Alessandro Di Stefano, Simon T. Powers, The Anh Han

机构 * School Computing, Engineering and Digital Technologies, Teesside University（特塞斯大学计算、工程和数字技术学院） ； School of Mathematics, University of Birmingham（伯明翰大学数学学院） ； Informatics Institute, University of Amsterdam（阿姆斯特丹大学信息学院） ； Department of Computer Science, University of Warwick（沃里克大学计算机科学系） ； Department of Computer Science and Artificial Intelligence (DECSAI) and Andalusian Research Institute DaSCI “Data Science and Computational Intelligence”, University of Granada, Spain（格拉纳达大学计算机科学与人工智能系（DECSAI）和安达卢西亚数据科学与计算智能研究所） ； Machine Learning Group, Université libre de Bruxelles（布鲁塞尔自由大学机器学习组） ； AI Lab, Vrije Universiteit Brussel（布鲁塞尔自由大学人工智能实验室） ； University of Technology Dresden（德累斯顿技术大学） ； School of Engineering and Physical Sciences, University of Lincoln（林肯大学工程与物理科学学院） ； Division of Computing Science and Mathematics, University of Stirling（斯特灵大学计算科学与数学系） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究用户信任与AI开发者行为的进化动态，通过进化博弈论分析不同监控成本和制度下信任策略的演变，发现只有安全且广泛采纳的系统是理想结果。

Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems

开放数字孪生生态中可验证AI智能体的神经符号参与治理

Juan Li, Wei Cai, Yan Bai

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对开放数字孪生生态中AI智能体的验证需求，提出神经符号去中心化治理框架，结合神经推理与制度治理，通过区块链智能合约实现可审计参与，经原型验证可管控开销下保障合规协作。

Comments Accepted at the 2026 IEEE International Conference on Systems, Man, and Cybernetics (SMC 2026), Bellevue, WA, USA, October 4-7, 2026. 7 pages, 1 figure, 5 tables. Code: https://github.com/weicaiuw/verigov-ai (DOI: 10.5281/zenodo.21706699)

Intersectional Fairness in Vision-Language Models for Medical Image Disease Classification

视觉-语言模型在医学影像疾病分类中的交叉公平性

Yupeng Zhang, Adam G. Dunn, Usman Naseem, Jinman Kim

机构 * Biomedical Data Analysis and Visualisation (BDAV) Lab, School of Computer Science（生物医学数据分析与可视化实验室，计算机科学学院） ； Sydney School of Public Health（悉尼公共卫生学院） ； School of Computing（计算学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出CMAC-MMD框架，通过标准化交叉亚组的诊断确定性，减少医学影像疾病分类中的交叉偏见，提升诊断准确性和公平性。

FairForensics: Seeing Expressions and Parsing Demographics via Vision-Language Modeling for Generalizable Fair Deepfake Detection

FairForensics：基于视觉-语言建模的通用公平深度伪造检测——表情感知与人口统计解析

Yaning Zhang, Jiao Wu, Zan Gao, Linlin Shen

机构 * Shenzhen University（深圳大学） ； Shandong Artificial Intelligence Institute（山东省人工智能研究院） ； Qilu University of Technology (Shandong Academy of Sciences)（齐鲁工业大学（山东省科学院）） ； Tianjin University of Technology（天津理工大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 本文构建人口统计平衡的深度伪造检测基准，提出FairForensics视觉-语言模型，通过表情感知与人口统计正则化实现通用公平检测，在基准上达到泛化与公平性的SOTA。

Improving ASR Fairness for Cleft Lip and Palate Speech: A Study on Severity-Aware Data Mixing

改善唇腭裂语音的自动语音识别公平性：一项关于严重程度感知数据混合的研究

Susmita Bhattacharjee, Jagabandhu Mishra, H. S. Shekhawat, Ravi Jasuja, S. R. Mahadeva Prasanna

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 该研究针对唇腭裂（CLP）语音的ASR公平性问题，提出严重程度感知的CLP与正常语音混合策略，在AIISH和NMCPC数据集上使GMM-HMM、Whisper等模型的词错误率显著降低，提升了ASR公平性。

Comments Submitted to Speech Communication

Semantic Alignment of AI Models: Concept Collapse, Checkpoint Dynamics, and Cross-Lingual Transfer

AI模型的语义对齐：概念坍缩、检查点动态与跨语言迁移

Tyler Ashoff, Jordan Rodu

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 该研究针对语言模型基准测试的难点，提出用拓扑方法将模型高维嵌入空间与可解释基线严格比较，以实现多模态对齐，追踪模型适应并测试跨语言短语理解。

Comments Code available at github.com/tylerashoff/persiscope (PyPI: persiscope)

Boosting Generalizable Depth Estimation in Endoscopy by Mixture of Lightweight Experts and Intrinsic Image Alignment

基于轻量级专家混合与本征图像对齐的内窥镜可泛化深度估计增强方法

Liangjing Shao, Beilei Cui, Yiming Huang, Changjing Liu, Hongliang Ren

机构 * The Chinese University of Hong Kong（香港中文大学） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出自监督框架EndoMINI，结合低秩专家混合与本征图像对齐，在多内窥镜数据集上实现了更优的可泛化深度估计性能。

Comments Accepted by MICCAI 2026 @ The Efficient Medical AI (EMA4MICCAI) Workshop (Oral Presentation)