大模型对齐与安全

Prototype-Guided Latent Alignment for Data-Efficient Fine-Tuning of Molecular Foundation Models

原型引导的潜在对齐用于分子基础模型的数据高效微调

Rushikesh Pawar, Harshit Rawat, Ayush Kumar, Phani Motamarri

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出基于原型的对齐方法，通过将目标域原子的能量贡献对齐到源域原型，实现分子基础模型在低数据下的高效微调，在rMD17和SPICE数据集上能量MAE降低高达18%。

Comments 17 pages, 3 figures

When Models Learn to Ask Why: Adaptive Causal Reasoning for Trustworthy Medical Vision-Language Models

当模型学会问为什么：面向可信医疗视觉语言模型的自适应因果推理

Jianxin Lin, Chunzheng Zhu, Peter J. Kneuertz, Yunfei Bai, Yuan Xue

机构 * The Ohio State University（俄亥俄州立大学） ； Hunan University（湖南大学） ； Amazon（亚马逊） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出MedCausalX框架，通过因果推理链、自适应反射架构和轨迹级因果校正，解决医疗VLM中的虚假相关和推理不一致问题，显著提升诊断一致性和减少幻觉。

Comments Accepted by CVPR 2026 Findings

SURGENT: A Surgical Multi-Agent Assistance System Across the Perioperative Workflow

SURGENT: 一种跨围手术期工作流程的手术多智能体辅助系统

Dongsheng Shi, Yue Li, Xin Yi, Yongyi Cui, Huawei Feng, Linlin Wang

机构 * East China Normal University（华东师范大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 提出SURGENT手术多智能体辅助系统，结合思维树规划器、多科室协作智能体和检索增强推理，通过新型记忆设计管理长期患者病史和短期工作摘要，在五项围手术期任务中优于基线LLM和现有医疗多智能体框架。

Comments preprint

A Review of Learning-Based Motion Planning: Toward a Data-Driven Optimal Control Approach

基于学习的运动规划综述：迈向数据驱动的最优控制方法

Jia Hu, Yang Chang, Haoran Wang

机构 * College of Transportation Key Laboratory of Road and Traffic Engineering of the Ministry of Education（交通运输学院 道路交通工程教育部重点实验室） ； Institute for Advanced Study（先进研究院） ； Tongji University（同济大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文系统综述了数据驱动最优控制范式，通过融合最优控制的理论保证与机器学习的自适应能力，为自动驾驶运动规划提供了三维实现路线图，并指出了四个未来研究方向。

Comments 44 pages, 14 figures

Quantum-Enhanced Adversarial Robustness in Artificial Intelligence

人工智能中的量子增强对抗鲁棒性

Jaydip Sen

机构 * Praxis Business School（普拉斯业务学校） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文综述了对抗性机器学习与量子计算交叉领域，提出利用量子优化、特征映射和混合量子-经典架构来增强人工智能系统的对抗鲁棒性。

Comments This is the pre-print of the chapter which has been accepted for publication in the edited volume titled "Quantum Enhancements to the AI Industry", edited by Eduard Babulak. The volume will be published by IGI Global, USA. This is not the final version of the chapter published in the book

AliMark: Enhancing Robustness of Sentence-Level Watermarking Against Text Paraphrasing

AliMark: 增强句子级水印对文本释义的鲁棒性

Yuexin Li, Wenjie Qu, Linyu Wu, Yulin Chen, Yufei He, Tri Cao, Bryan Hooi, Jiaheng Zhang

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出AliMark框架，将句子级水印重构为比特序列编码与对齐问题，通过多候选对齐检测策略提升对句子拆分合并等结构扰动的鲁棒性。

Comments Accepted by ICML 2026

Genetically Aligned Patient Representations Improve Hematological Diagnosis

基因对齐的患者表示改善血液学诊断

Muhammed Furkan Dasdelen, Fatih Ozlugedik, Ilaria Looser, Rao Muhammad Umer, Christian Pohlkamp, Carsten Marr

机构 * Institute of AI for Health, Helmholtz Munich, Germany International School of Medicine, Istanbul Medipol University, T\"urkiye Munich Leukemia Laboratory, Germany Department of Medicine III, Ludwig-Maximilian-University Hospital, Germany Department of Physics, University of Munich, Germany Munich Center for Machine Learning (MCML), Germany DKTK, German Cancer Consortium, Germany 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种两阶段框架，通过自监督视觉预训练和监督对比学习对齐白细胞图像与染色体畸变及体细胞突变，提升血液学诊断性能。

Comments Accepted for publication at the 29th International Conference on Medical Image Computing and Computer Assisted Intervention - MICCAI 2026

GICDM: Mitigating Hubness for Reliable Distance-Based Generative Model Evaluation

GICDM: 缓解枢纽性以实现可靠的基于距离的生成模型评估

Nicolas Salvy, Hugues Talbot, Bertrand Thirion

机构 * Inria, Palaiseau, France（法国帕莱索研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 针对生成模型评估中高维嵌入空间的枢纽性现象，提出GICDM方法（基于迭代上下文不相似度度量），通过多尺度扩展校正邻域估计，恢复可靠度量并与人类评估对齐。

Comments Forty-third International Conference on Machine Learning, 2026

Revisiting the Reliability of Language Models in Instruction-Following

重新审视指令跟随中语言模型的可靠性

Jianshuo Dong, Yutong Zhang, Yan Liu, Zhenyu Zhong, Tao Wei, Chao Zhang, Han Qiu

机构 * Tsinghua University（清华大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出可靠@k指标和自动生成相似提示的流水线，构建IFEval++基准，发现当前模型在细微差异提示下性能下降高达61.8%，并探索了三种改进方法。

Comments ACL 2026 main oral

Towards Human-Like Interactive Speech Recognition With Agentic Correction and Semantic Evaluation

迈向具有智能体纠正和语义评估的类人交互式语音识别

Zixuan Jiang, Yanqiao Zhu, Peng Wang, Qinyuan Chen, Xinjian Zhao, Xipeng Qiu, Wupeng Wang, Zhifu Gao, Xiangang Li, Kai Yu, Xie Chen

机构 * College of Artificial Intelligence, Xi’an Jiaotong University（西安交通大学人工智能学院） ； X-LANCE Lab, School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University（上海交通大学电子信息与电气工程学院X-LANCE实验室） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Fudan University（复旦大学） ； Tongyi Fun Team, Alibaba Group（阿里云通义团队） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出Agentic ASR闭环框架，通过多轮交互和语义纠正减少语义错误，并引入句子级语义错误率（S^2ER）作为评估指标。

Beyond Recall: Behavioral Specification as an Interpretive Layer for AI Personalization

超越回忆：行为规范作为AI个性化的解释层

Aarik Gulaya

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出行为规范作为解释层，通过压缩用户数据为解释性模式，显著提升AI代理对用户意图的表示准确性，减少模型规避，并在解释型问题上优于原始语料和商业记忆系统。

Comments 134 pages, 4 figures. Code, data, judge prompts, and reproduction instructions: github.com/agulaya24/beyond-recall

GPF-LiveNews: A Streaming Evaluation Protocol for Group-Conditioned Framing in Large Language Models

GPF-LiveNews: 大型语言模型中群体条件框架的流式评估协议

Mohd Ariful Haque, Fahad Rahman, Kishor Datta Gupta, Roy George

机构 * Clark Atlanta University（克拉克阿特兰大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出GPF-LiveNews流式评估协议，通过实时新闻锚点与身份标签组合，检测LLM输出中针对不同受众的语义敏感性和情感差异，用于审计群体条件框架。

Empathic Prompting: Non-Verbal Context Integration for Multimodal LLM Conversations

共情提示：多模态大语言模型对话中的非语言上下文整合

Lorenzo Stacchio, Andrea Ubaldi, Alessandro Galdelli, Maurizio Mauri, Emanuele Frontoni, Andrea Gaggioli

机构 * University of Macerata（马切拉塔大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出共情提示框架，通过集成面部表情识别服务将非语言情感线索隐式融入大语言模型对话，实现无需用户显式控制的流畅多模态交互。

GPIC: A Giant Permissive Image Corpus for Visual Generation

GPIC：用于视觉生成的大型许可图像数据集

Keshigeyan Chandrasegaran, Kyle Sargent, Suchir Agarwal, Michael Jang, Michael Poli, Juan Carlos Niebles, Justin Johnson, Jiajun Wu, Li Fei-Fei

机构 * Stanford University（斯坦福大学） ； Radical Numerics ； University of Michigan（密歇根大学） ； Salesforce Research（Salesforce研究） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出GPIC，一个约28万亿像素的大型许可图像数据集，包含1亿训练样本，通过最先进的视觉语言模型标注，用于视觉生成建模研究。

Comments 25 pages; Dataset: https://huggingface.co/datasets/stanford-vision-lab/giant-permissive-image-corpus; Project website: https://gpic.stanford.edu

ProjectionBench: Evaluating Scientific Hypothesis Generation in LLMs Under Progressive Information Disclosure

ProjectionBench: 在渐进信息揭示下评估大语言模型的科学假设生成

A. J. Lew, Y. Cao, M. J. Buehler

机构 * Unreasonable Labs 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出ProjectionBench框架，通过渐进式信息揭示评估大语言模型在科学发现中的创新性和推理能力，实验表明GPT-5.4在最小上下文下仍保持0.7 F1分数与真实结论对齐。

Comments 19 pages, 4 figures

RL2ML: Finite-Rollout Surrogate Objectives from Reinforcement Learning to Maximum Likelihood

RL2ML: 从强化学习到最大似然的有限rollout替代目标

Yifu Zheng

机构 * University of Southern California（南加州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出RL2ML系列有限rollout替代目标，具有闭式无偏梯度估计，连接标准强化学习、类最大似然训练及超越最大似然目标，并揭示群体级更新尺度相变，将剩余自由度转化为一维优化问题。

Convergence Theory for Iterative LLM-Based Neural Architecture Search: A Parametric Cross-Entropy Framework with Closed-Form Proxy Reliability

基于迭代式LLM的神经架构搜索的收敛理论：一个具有闭式代理可靠性的参数化交叉熵框架

Santosh Premi Adhikari, Radu Timofte, Dmitry Ignatov

机构 * Computer Vision Lab, CAIDAS & IFI, University of Würzburg, Germany（计算机视觉实验室，CAIDAS与IFI，乌尔姆大学，德国） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 将迭代式LLM-NAS建模为参数化交叉熵方法，证明了收敛性、精英集概率几何收敛、增量生成有效性、MinHash-Jaccard去重防止模式崩溃以及代理可靠性闭式公式，并通过实验验证了理论预测。

Comments 14 pages, 2 figures, 2 tables. Submitted to NeurIPS 2026

DirectorBench: Diagnosing Long-Form Video Generation with Personalized Multi-Agent Evaluation

DirectorBench: 通过个性化多智能体评估诊断长视频生成

Jiamin Chen, Qianben Chen, Jiawen Zhang, Yidi Wu, Yuchen Li, Xiaokun Zhang, Wangchunshu Zhou, Chen Ma

机构 * ByteDance Inc.（字节跳动公司） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出DirectorBench，一种基于多智能体的诊断基准，通过80个结构化元数据、7个用户画像和40个检查点标准，在脚本、视觉、音频、跨模态和稳定性五个维度上评估长视频生成，并定位瓶颈和用户偏好依赖。

NICE: A Theory-Grounded Diagnostic Benchmark for Social Intelligence of LLMs

NICE：一个基于理论的LLM社交智能诊断基准

Yunjin Qi, Zhaojun Jiang, Xuan Wu, Hanxi Pan, Yixuan Wang, Yanfang Liu, Xiang Ji, Churu Yu, Chunyuan Zheng, Yingze Chen, Jie He, Liuqing Chen, Zaifeng Gao

机构 * Department of Psychology and Behavioral Sciences, Zhejiang University（浙江大学心理学与行为科学系） ； College of Artificial Intelligence, Zhejiang University（浙江大学人工智能学院） ； Human Machine Interaction Lab, Huawei Technologies Co., Ltd.（华为技术有限公司人机交互实验室） ； Zhejiang Key Laboratory of Neurocognitive Development and Mental Health（浙江省神经认知发展与心理健康重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文通过构建基于社会理论的社交智能框架，提出诊断基准NICE，用于细粒度评估大语言模型在社交交互中的能力弱点。

Verifiable Rewards Beyond Math and Code: Lightweight Corpus-Grounded Process Supervision for Factual Question Answering

超越数学与代码的可验证奖励：面向事实问答的轻量级语料库基础过程监督

Shicheng Fan, Haochang Hao, Dehai Min, Weihao Liu, Philip S. Yu, Lu Cheng

机构 * University of Illinois Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出CorVer，一种基于语料库共现统计的轻量级过程奖励方法，通过句子级信用分配和令牌级优势映射，在多个模型和基准上显著提升事实问答准确性且训练速度更快。

Evaluating Cross-lingual Knowledge Consistency in Code-Mixed vis-a-vis Indian Languages using IndicKLAR

评估混合语码与印度语言中的跨语言知识一致性：基于IndiKLAR

Debajyoti Mazumder, Divyansh Pathak, Prashant Kodali, Aditya Joshi, Akshay Agarwal, Jasabanta Patro

机构 * Indian Institute of Science Education and Research（印度科学教育与研究学院） ； Microsoft Corporation（微软公司） ； UNSW Sydney（新南威尔士大学悉尼分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过构建IndiKLAR基准，评估大语言模型在英语、混合语码和印度本土语言上的知识召回一致性，发现混合语码输入能显著缩小与英语的性能差距，并识别出从本土语言到混合语码的“翻转点”。

Comments 23 pages

Benchmarking and Mitigating Sycophancy in Medical Vision Language Models

医疗视觉语言模型中的谄媚行为基准测试与缓解

Juangui Xu, Zikun Guo, Jingwei Lv, Hongbin Lin, Shu Yang, Jun Wen, Di Wang, Lijie Hu

机构 * MBZUAI ； Saarland University（萨尔兰大学） ； HKUST(GZ)（香港科技大学（广州）） ； KAUST（卡塔尔大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对医疗视觉语言模型中的谄媚问题，提出分层医疗视觉问答基准和VIPER策略，通过过滤非证据社会线索减少谄媚，提升模型鲁棒性。

Comments 19figures, 61pages. The first two authors contributed equally

FinGuard: Detecting Financial Regulatory Non-Compliance in LLM Interactions

FinGuard：检测LLM交互中的金融监管违规

Huaixia Dou, Jie Zhu, Minghao Wu, Shuo Jiang, Junhui Li, Lifan Guo, Feng Chen, Chi Zhang

机构 * Qwen DianJin Team, Alibaba Cloud Computing（阿里云计算Qwen金融团队） ； Tongyi Lab, Alibaba Group（阿里集团通义实验室） ； School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 针对金融领域LLM交互中的监管违规检测问题，提出基于监管文档的自动化管道，构建首个金融合规检测基准FinGuard-Bench，并训练FinGuard模型，在基准上显著优于现有方法。

SigmaMedStat: Temporal Signal Modeling for ICU False Alarm Reduction

SigmaMedStat: 用于ICU误报减少的时间信号建模

Arunkumar Ramachandran

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出SigmaMedStat系统，通过将60秒记录分割为6个10秒块并提取连续小波变换尺度图，结合EfficientNet-B0编码器和两层LSTM网络进行时间建模，在PhysioNet/CinC Challenge 2015数据集上实现AUC 0.822，有效降低ICU误报。

Comments Code available at github.com/Arun-K-Ram/sigmamedstat

Paper Agents, Paper Gains: An Empirical Analysis of DeFi Investment Agents

Paper Agents, Paper Gains: DeFi投资代理的实证分析

Jay Yu, Amy Zhao, Danning Sui

机构 * Pantera Capital（Pantera资本） ； Stanford University（斯坦福大学） ； IC3 ； Ava Labs（Ava实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 通过分析1900多个AI加密项目、10个代表性代理和11个Solana代理金库，发现当前DeFi投资代理仍处于早期阶段，存在自主执行证据不足、代币持有者集体亏损、估值与基本面脱节等问题，并提出成熟度框架。

A Modular Architecture for Typologically Controlled Lexicon Generation

一种用于类型学控制词汇生成的模块化架构

Sankalp Tattwadarshi Swain, Dhruv Kumar

机构 * Birla Institute of Technology and Science, Pilani（比拉理工学院，帕利尼） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出模块化框架，通过PHOIBLE音位库、可互换音系语法和Swadesh-Leipzig-Jakarta本体生成音系合理且类型学真实的词汇，实验表明概率语法优于确定性和随机基线。

ClinicBot: A Guideline-Grounded Clinical Chatbot with Prioritized Evidence RAG and Verifiable Citations

ClinicBot：基于指南的临床聊天机器人，具有优先证据RAG和可验证引用

Navapat Nananukul, Mayank Kejriwal

机构 * USC Information Sciences Institute（USC信息科学研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出ClinicBot系统，通过结构化提取指南、按临床重要性排序证据和多智能体协作，生成准确、可验证的临床回答。

IntentScore: Intent-Conditioned Action Evaluation for Computer-Use Agents

IntentScore: 面向计算机使用智能体的意图条件动作评估

Rongqian Chen, Yu Li, Zeyu Fang, Sizhe Tang, Weidong Cao, Tian Lan

机构 * George Washington University（乔治·华盛顿大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出IntentScore，一种基于计划感知的奖励模型，通过对比对齐和边际排序学习评估动作质量，在OSWorld上提升任务成功率6.9个百分点。

LUMINA: A Multi-Vendor Mammography Benchmark with Energy Harmonization Protocol

LUMINA：采用能量协调协议的多供应商乳腺X线摄影基准

Hongyi Pan, Gorkem Durak, Halil Ertugrul Aktas, Andrea M. Bejar, Baver Tutun, Emre Uysal, Ezgi Bulbul, Mehmet Fatih Dogan, Berrin Erok, Berna Akkus Yildirim, Sukru Mehmet Erturk, Ulas Bagci

机构 * Department of Radiology, Northwestern University（北western大学放射科） ； Department of Radiation Oncology, University of Health Sciences Prof. Dr. Cemil Tascioglu City Hospital（健康科学大学教授Dr. Cemil Tascioglu医院放射肿瘤科） ； Department of Radiology, Istanbul University（伊斯坦布尔大学放射科） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 为解决现有FFDM数据集规模小、标注少和供应商多样性不足的问题，提出LUMINA多供应商数据集及能量协调方法，通过前景像素对齐减少域偏移，在诊断、BI-RADS分类和密度估计任务上验证了模型性能提升。

Comments This paper was accepted to CVPR 2026

Are LLMs Socially Adaptive? Contrasting Belief Evolution in Large Language Models and Humans

大型语言模型是否具有社会适应性？对比大型语言模型与人类的信念演化

Yu Lei, Hao Liu, Chengxing Xie, Songjia Liu, Zhiyu Yin, Canyu Chen, Guohao Li, Philip Torr, Zhen Wu

机构 * Tsinghua University（清华大学） ； Department of Psychological and Cognitive Sciences（心理与认知科学系） ； College AI（人工智能学院） ； School of Management（管理学院） ； Fudan University（复旦大学） ； Stevens Institute of Technology（史蒂文斯理工学院） ； Northwestern University（西北大学） ； University of Oxford（牛津大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出基于社会心理学的仿真基准FairMindSim和信念-奖励对齐行为演化模型BREM，通过连续经济游戏对比人类与LLM的决策动态，发现中等能力模型表现出过度惩罚的刚性攻击性，而前沿模型随推理能力提升趋向人类式的克制与宽容。

Comments KDD 2026 Oral