大模型对齐与安全

G2VD: Generalizable AI-Generated Video Detection via Counterfactual Intervention and Causal Disentanglement

G2VD：通过反事实干预和因果解缠实现可泛化的人工智能生成视频检测

Meng Du, Hongchang Chen, Ran Li, Junjie Zhang, Qi Ouyang, Shibo Zhang, Shuxin Liu

机构 * Information Engineering University（信息工程大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对AI生成视频检测中因捷径学习导致跨域性能差的问题，提出G2VD框架，用反事实干预管道生成样本并对齐，设计因果解缠分类器，提升了跨域性能。

CustomerSim: Benchmarking and Aligning Multimodal Language Models as Retail User Simulators

SalesSim：多模态语言模型作为零售用户模拟器的基准测试与对齐

Yada Pruksachatkun, Yixin Wan, Xingrun Chen, Kai-Wei Chang, Chien-Sheng Wu

机构 * Salesforce Research（Salesforce研究院） ； University of California Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 SalesSim通过多轮多模态对话评估多模态大语言模型在模拟真实用户行为中的能力，发现模型在词汇多样性及决策一致性方面存在不足，并提出UserGRPO方法提升对话流畅度与决策对齐度。

Deep Expert Injection for Anchoring Retinal VLMs with Domain-Specific Knowledge

深度专家注入用于带有领域特定知识的视网膜视觉语言模型的锚定

Shuai Lu, Meng Wang, Jia Guo, Jiawei Du, Bo Liu, Shengzhu Yang, Weihang Zhang, Huazhu Fu, Huiqi Li

机构 * Beijing Institute of Technology, Beijing, China（北京理工大学） ； National University of Singapore, Singapore（新加坡国立大学） ； Tsinghua University, Beijing, China（清华大学） ； The Hong Kong Polytechnic University, Hong Kong（香港理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出EyExIn框架，通过深度专家注入机制提升视网膜VLMs的领域知识嵌入能力，解决感知与推理间隙问题，实现高精度眼科视觉问答。

Systematic Analysis of Large Language Models and Transformer-Based Machine Translation for English-Tamil and Tamil-English Across Diverse Datasets

跨不同数据集对英语-泰米尔语和泰米尔语-英语的大语言模型和基于Transformer的机器翻译的系统分析

Sriharshaa S, Sangeetha Sivanesan, Jaya Nirmala S

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对泰米尔语等低资源语言机器翻译挑战，在多数据集上评估多种模型，用BLEU等指标分析其性能，通过注意力分析增强可解释性，证明上下文提示可实现少样本翻译并与监督方法比较，揭示数据集及领域匹配对模型性能的影响。

scMIR: a vision-language foundation model for single-cell light microscopy image representation

scMIR：用于单细胞光学显微镜图像表示的视觉语言基础模型

Yifan Shang, Jiahui Tan, Xiangxiang Zeng, Renjie Zhou

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对单细胞光学显微镜图像分析难题，提出scMIR模型，通过自监督图像重建与文本引导跨模态对齐，在多图像文本对上预训练，在多种复杂任务中表现出色，优于现有方法，具备强泛化能力，能推动高通量表型分析工作流程标准化和自动化。

Filling Before Advancing: Capability-Gap-Driven Post-Training for Scenario-Specialized Remote Sensing MLLMs

推进前填充：能力差距驱动的场景专用遥感多模态大语言模型的训练后处理

Yuheng Zong, Minghua Wang, Xin Zhao, Zhi-Hui Zhan, Antonio Plaza, Jon Atli Benediktsson

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对地球观测应用中遥感多模态大语言模型因高质量数据稀缺和能力覆盖不完整难以实现细粒度场景专业化的问题，提出能力差距驱动的推进前填充（FBA）方法，经实验验证其效果优于其他方法，提升了模型在相关基准上的表现。

Multi-Fidelity Learning with Shallow Recurrent Decoders for Multi-Physics Applications

基于浅层循环解码器的多保真度学习在反应堆物理中的应用

Stefano Riva, Carolina Introini, J. Nathan Kutz, Antonio Cammi

机构 * Autodesk Research（Autodesk研究院） ； Department of Energy, Nuclear Engineering Division（能源部核工程系） ； Politecnico di Milano（米兰理工大学） ； Department of Mechanical and Nuclear Engineering and Emirates Nuclear Technology Center（机械与核工程系和阿联酋核技术中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 针对反应堆物理中高保真数据稀缺而低保真数据丰富的问题，提出利用浅层循环解码器将低保真模型（如点动力学）映射到高保真模型（如扩散方程），以低成本获得高保真解。

Robustness Certificates for Neural Networks Against Data Poisoning and Evasion Attacks

神经网络对抗攻击的鲁棒性证书

Sara Taheri, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar, Majid Zamani

机构 * LMU Munich（慕尼黑大学） ； Technical University of Munich（慕尼黑技术大学） ； University of Colorado Boulder（科罗拉多大学博尔德分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种形式化鲁棒性认证框架，通过将梯度训练建模为离散时间动力系统，并利用屏障证书概念，提供对抗攻击下的鲁棒性保证，实验表明其在MNIST、SVHN和CIFAR-10上有效。

Journal ref IEEE Open Journal of Control Systems, 2026

Agents Don't Just Agree, They Remember: Benchmarking Persistent Sycophancy in Stateful Personal Agents

智能体不仅会认同，还会记忆：对有状态个人智能体中持续谄媚行为的基准测试

Xutao Mao, Liangjie Zhao, Leyao Wang, Rui Qian, Qiang Huang, Wentao Wang, Bo Han, Xiang Zheng, Cong Wang

机构 * City University of Hong Kong（香港城市大学） ； ByteDance（字节跳动） ； Yale University（耶鲁大学） ； Fudan University（复旦大学） ； Hong Kong Baptist University（香港浸会大学） ； Dalian University of Technology（大连理工大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究有状态个人智能体中的持续谄媚行为，引入PASB基准测试，评估真实智能体。通过特定方法隔离写入过程，发现提交边界是关键转折点，提交声明有三种模式，表明智能体谄媚行为是状态写入治理问题，PASB确定相关写入时控制。

OpenAIs HealthBench in Action: Evaluating an LLM-Based Medical Assistant on Realistic Clinical Queries

OpenAIs HealthBench in Action: 评估基于LLM的医疗助手在真实临床查询中的表现

Sandhanakrishnan Ravichandran, Shivesh Kumar, Rogerio Corga Da Silva, Miguel Romano, Reinhard Berkels, Michiel van der Heijden, Olivier Fail, Valentine Emmanuel Gnanapragasam

机构 * OpenAI 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 DR.INFO在HealthBench基准测试中表现优异，优于多个前沿LLM，在复杂临床查询中展现出高准确性和情境感知能力。

Comments 13 pages, two graphs

PReSS: An Automated Black-Box Framework for Evaluating Political Stance Stability in LLMs

PReSS：通过论证压力评估LLM中政治立场稳定性的黑盒框架

Shariar Kabir, Kevin Esterling, Yue Dong

机构 * Bangladesh University of Engineering and Technology（孟加拉工程科技大学） ； University of California Riverside（加州大学河滨分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 PReSS通过评估LLM在不同话题下的立场稳定性，揭示了模型政治立场的动态变化，为理解和干预政治敏感行为提供新视角。

Comments 13 pages, 8 figures

Journal ref In Proceedings of the 3rd Workshop on Natural Language Processing for Political Sciences (PoliticalNLP 2026) @ LREC 2026 (pp. 234-247)

BioProBench: A Corpus and Benchmark for Biological Protocol Reasoning in Autonomous Science

BioProBench: 一个全面的数据集和生物协议理解与推理基准

Yuyang Liu, Liuzhenghao Lv, Xiancheng Zhang, Jingya Wang Li Yuan, Yonghong Tian

机构 * School of Electronic and Computer Engineering, Peking University（北京大学电子与计算机工程学院） ； School of Chemical Biology&Biotechnology, Peking University（北京大学化学生物学与生物技术学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 BioProBench通过构建大规模数据集和基准，提升生物协议理解与推理的LLM性能。

AgentFAIR: A Multi-Agent Collaborative Framework for FAIRness Evaluation of Geospatial Datasets

AgentFAIR：用于地理空间数据集公平性评估的多智能体协作框架

Ming Chen, Pranav Pai

机构 * The University of Melbourne（墨尔本大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究地理空间数据集公平性评估难题，提出AgentFAIR多智能体框架，结合结构化元数据提取与特定子原则语言模型评估器，给出各项评估结果，支持可审计性与可行性，不过受限于多种因素对准确性和泛化性声明有约束。

REFORGE: A Method for Benchmarking LLMs' Reverse Engineering Capabilities in Decompiled Binary Function Naming

REFORGE：一种在反编译二进制函数命名中对大语言模型逆向工程能力进行基准测试的方法

Nicolas Koller, Andreas U. Schmidt

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对大语言模型逆向工程能力评估难的问题，提出Reforge方法，通过特定流程构建函数级真实情况并处理对齐不确定性，经实验验证该方法能揭示优化对模型性能的影响，推动不确定性感知基准测试实践。

Comments 10 pages, 5 figures; accepted for publication to the 23rd International Conference on Applied Computing 2026, Lisbon October 24-26,2026

ASEval: Automated Trajectory-Level Security Testing for Autonomous Agents

对时间、空间和语义规避的自主代理进行基准测试

Jianan Ma, Xiaohu Du, Ruixiao Lin, Yaoxiang Bian, Jialuo Chen, Yunhao Feng, Xiaofang Yang, Shiwen Cui, Changhua Meng, Xinhao Deng, Jingyi Wang, Zhen Wang

机构 * Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出了一种针对基于大语言模型（LLM）的代理系统的多维规避框架，通过引入时间、空间和语义三种隐蔽攻击向量，系统地量化了这些威胁，并展示了其在实际威胁场景中的效果，揭示了现有自主代理系统在架构层面的系统性漏洞。

Comments 18 pages, 12 figures, 8 tables. Code and data available at https://github.com/antgroup/Agent3Sigma-Stage

Spectral-transport stability and benign overfitting for minimum norm interpolation

谱-传输稳定性与插值学习中的良性过拟合

Gustav Olaf Yunus Laitinen-Fredriksson Lundström-Imanov

机构 * Linköping University（林雪平大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文研究了插值学习中高过参数化模型为何能实现零经验风险并保持预测准确性，提出谱-传输稳定性框架，结合数据分布谱几何、学习规则敏感性和噪声对齐结构，定义了尺度依赖的Fredriksson指数，推导了有限样本风险界和良性过拟合判据，揭示了隐式正则化机制。

Comments 13 pages, 5 figures, 6 tables

Trusting What You Cannot See: Auditable Fine-Tuning and Inference for Proprietary AI

信任你无法看到的东西：可审计的微调与推理用于专有AI

Heng Jin, Chaoyu Zhang, Hexuan Yu, Shanghao Shi, Ning Zhang, Y. Thomas Hou, Wenjing Lou

机构 * Virginia Tech（弗吉尼亚理工学院） ； Washington University in St. Louis（圣路易斯华盛顿大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 AFTUNE通过可审计和可验证的框架，确保云上微调和推理的计算完整性，实现可信模型服务。

Simultaneous Speech-to-Speech Translation Without Aligned Data

无需对齐数据的同时语音到语音翻译

Tom Labiausse, Romain Fabre, Yannick Estève, Alexandre Défossez, Neil Zeghidour

机构 * LIA, University of Avignon, France（LIA，阿维尼翁大学，法国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 Hibiki-Zero无需词级对齐数据，通过句子级对齐和强化学习策略实现高精度的同时语音翻译，支持多种语言并提升翻译质量与效率。

Comments See inference code at: https://github.com/kyutai-labs/hibiki-zero

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Tumor-anchored deep feature random forests for out-of-distribution detection in lung cancer segmentation

基于肿瘤锚定的深度特征随机森林用于肺癌分割中的分布外检测

Aneesh Rangnekar, Harini Veeraraghavan

机构 * Memorial Sloan Kettering Cancer Center（纪念斯隆凯特林癌症中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出RF-Deep框架，利用深度特征提升CT扫描的分布外检测性能，通过少量标注数据改进分割管道的安全性。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR), 2026. Code available at: https://github.com/aneesh3108/RF-Deep

Tears or Cheers? Benchmarking LLMs via Culturally Elicited Distinct Affective Responses

眼泪还是欢呼？通过文化诱发的差异情感反应基准测试LLMs

Chongyuan Dai, Yaling Shen, Zihan Gao, Jia Li, Yishun Jiang, Yaxiong Wang, Liu Liu, Zongyuan Ge, Jinpeng Hu

机构 * Hefei University of Technology（合肥工业大学） ； Monash University（墨尔本大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CEDAR基准，通过文化诱发的差异情感反应评估LLMs，揭示语言一致性和文化契合度之间的脱节，展示文化根植的情感理解仍是模型的重大挑战。

Comments ACL 2026 SAC Highlight

Semantic Register Compression in Multi-Agent LLM Cascades

多智能体大语言模型级联中的语义寄存器压缩

Manuele Tele Junior Fernandez

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 研究多智能体大语言模型级联中的语义寄存器压缩现象，用三智能体管道量化压缩，通过五个架构变体分析驱动因素，发现压缩在不同领域强度不同且可泛化，提示级回归可解释大部分方差，对高风险领域安全评估有意义。

Comments 16 pages, 2 figures, 4 tables. Revised version with corrected English-prompt experiments and updated cross-domain and prompt-gradient results

SEC-bench Pro: Can Language Models Solve Long-Horizon Software Security Tasks?

SEC-bench Pro：语言模型能解决长周期软件安全任务吗？

Hwiwon Lee, Jiawei Liu, Dongjun Kim, Wubing Xia, Ziqi Zhang, Chunqiu Steven Xia, Lingming Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出SEC-bench Pro基准，通过三阶段流程构建包含V8和SpiderMonkey共183个已验证漏洞的测试集，评估前沿语言模型在长周期漏洞狩猎任务中的表现，发现最高成功率仅48.8%。

Generative Augmentation of Imbalanced Flight Records for Flight Diversion Prediction: A Multi-objective Optimisation Framework

生成性增强不平衡航班记录以预测航班改道：一种多目标优化框架

Karim Aly, Alexei Sharpanskykh, Jacco Hoekstra

机构 * Control and Operations, Faculty of Aerospace Engineering, Delft University of Technology (TU Delft)（控制与运营，航空航天工程学院，代尔夫特理工大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出多目标优化框架，利用生成模型增强历史航班数据，提升航班改道预测的准确性和模型训练效果。

Comments 12 pages, 18 figures. Published in Aerospace Science and Technology

Journal ref Aerospace Science and Technology (2026), 113224

When Direct Prediction Fails: Evidence from LLM-Based Misinformation Risk Evaluation

超越表面判断：LLM生成虚假信息的人类基础风险评估

Zonghuan Xu, Xiang Zheng, Yutao Wu, Xingjun Ma

机构 * Institute of Trustworthy Embodied AI, Fudan University（复旦大学可信具身人工智能研究所） ； Shanghai Key Laboratory of Multimodal Embodied AI（上海市多模态具身人工智能重点实验室） ； City University of Hong Kong（香港城市大学） ； Deakin University（迪肯大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究LLM生成虚假信息的风险评估，发现LLM法官在整体评分、项目排序和信号依赖上与人类存在显著差异，且法官间一致性高于人类读者，表明内部一致性不能作为读者反应代理的有效证据。

Comments 9 pages, 1 figure. Substantially revised and reorganized version of arXiv:2604.06820 based on the same study and data; adds stricter participant filtering, held-out prediction analyses, and additional robustness checks

MMGraphRAG: Bridging Vision and Language with Interpretable Multimodal Knowledge Graphs

MMGraphRAG: 通过可解释的多模态知识图谱弥合视觉与语言的鸿沟

Xueyao Wan, Hang Yu

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 MMGraphRAG通过引入可解释的多模态知识图谱，解决多模态场景下的实体链接和跨模态推理问题，实现最先进的多模态信息处理性能。

Li-ViP3D++: Query-Gated Deformable Camera-LiDAR Fusion for End-to-End Perception and Trajectory Prediction

Li-ViP3D++：基于查询的可变形相机-激光雷达融合用于端到端感知与轨迹预测

Matej Halinkovic, Nina Masarykova, Alexey Vinel, Marek Galinski

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） ； Slovak University of Technology（斯洛伐克技术大学） ； Halmstad University（哈马比大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Li-ViP3D++通过引入查询门控可变形融合技术，实现了端到端感知与轨迹预测，提升了自动驾驶系统的鲁棒性和效率。

Comments Published in IEEE Access. The version of record is available at DOI: 10.1109/ACCESS.2026.3709080

Journal ref IEEE Access, vol. 14, pp. 102999-103012, 2026

Data-Efficient Curation for Multimodal Reasoning under Fixed Training Protocols

固定训练协议下多模态推理的数据高效整理

Yosub Shin, Michael Buriek, Boris Sobolev, Pavel Bushuyeu, Vikas Kumar, Haoyang Xu, Samuel Watson, Igor Molybog

机构 * University of Hawai'i at M\=anoa, Honolulu, HI, USA 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究固定协议微调下多模态推理的数据整理，以NeurIPS 2025 DCVLR挑战为测试平台，分析多种因素对推理准确性的影响，发现对齐源语料库的难度过滤增益最强，为数据受限的多模态推理微调提供经验方法。

DSBench: A Comprehensive Benchmark for Evaluating External and In-Cabin Risks

DSBench：用于评估外部和车内风险的综合基准测试

Xianhui Meng, Yuchen Zhang, Zhijian Huang, Zheng Lu, Ziling Ji, Yandan Lin, Yaoyao Yin, Hongyuan Zhang, Wei Zhou, Guangfeng Jiang, Li Zhang, Long Chen, Hangjun Ye, Jun Liu, Xiaoshuai Hao

机构 * University of Science and Technology of China（中国科学技术大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Xiaomi EV（小米电动车） ； Fudan University（复旦大学） ； Xidian University（西安电子科技大学） ； South China University of Technology（华南理工大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对视觉语言模型在安全关键场景适用性未充分探索的问题，引入DSBench综合基准测试，涵盖外部与车内风险，分多类别。评估发现模型在复杂情况下降，构建数据集微调可提升性能，推动自动驾驶技术发展，相关资源将公开。

Lost in Transmission: An Information-Theoretic Account of Unsupervised Software Traceability

传输中迷失：无监督软件可追溯性的信息论解释

Daniel Rodriguez-Cardenas, David N. Palacio, Logan Fecko, Kevin Moran, Denys Poshyvanyk

机构 * Microsoft Redmond, WA, USA（微软红mond分部） ； University of Central Florida Orlando, FL, USA（中央佛罗里达大学奥兰多分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究无监督软件可追溯性，引入信息论框架TraceXplainer，利用自信息和互信息量化工件信息及对齐，经行业数据集实证分析，揭示信息不平衡与技术约束，建议转向以数据为中心的工程，为从业者提供评估及改进见解。

Can We Trust Item Response Theory for AI Evaluation?

我们能信任项目反应理论进行人工智能评估吗？

Han Jiang, Sunbeom Kwon, Jinwen Luo, Ziang Xiao, Susu Zhang

机构 * Johns Hopkins University（约翰·霍普金斯大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California, Los Angeles（加利福尼亚大学洛杉矶分校） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究探讨项目反应理论（IRT）用于人工智能评估的可靠性，利用六个大语言模型基准模拟响应矩阵，比较四种估计工具，评估IRT在多方面的表现，发现经典估计器在大型基准中可能不可行，可扩展估计器在特定模型集下可能产生不可靠推断。