大模型对齐与安全

MGDA-Decoupled: Geometry-Aware Multi-Objective Optimisation for DPO-based LLM Alignment

MGDA-Decoupled：基于几何的多目标优化用于基于DPO的LLM对齐

Andor Vári-Kakas, Ji Won Park, Natasa Tagasovska

机构 * Prescient Design, CS CoE, Genentech | Roche（预见设计，计算机科学学院，基因泰克 | 罗氏） 纠错

专题命中 偏好对齐 ：DPO(title,title_cn)；alignment(title,abstract)；harmlessness(abstract)；分类 cs.LG

AI总结 本文提出MGDA-Decoupled算法，通过几何方法在DPO框架内实现更公平的多目标优化，实验显示其在UltraFeedback数据集上表现最优。

Comments Accepted to the Algorithmic Fairness Across Alignment Procedures and Agentic Systems Workshop at ICLR 2026

From Noise to Signal to Selbstzweck: Reframing Human Label Variation in the Era of Post-training in NLP

从噪声到信号到自我目的：在NLP后训练时代的重新框架化人类标签变异

Shanshan Xu, Santosh T. Y. S. S, Barbara Plank

机构 * Department of Computer Science, University of Copenhagen, Denmark（丹麦哥本哈根大学计算机科学系） ； Faculty of Law, University of Copenhagen, Denmark（丹麦哥本哈根大学法学院） ； Amazon（亚马逊） ； LMU Munich & Munich Center for Machine Learning (MCML)（慕尼黑大学及慕尼黑机器学习中心（MCML）） 纠错

专题命中 偏好对齐 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文探讨人类标签变异在NLP后训练时代的重要性，提出将其作为内在价值自我目的进行保护，以提升模型鲁棒性和社会技术安全。

A Hessian-Free Actor-Critic Algorithm for Bi-Level Reinforcement Learning with Applications to LLM Fine-Tuning

一种用于双层强化学习的无Hessian演员-评论员算法及其在大语言模型微调中的应用

Sihan Zeng, Sujay Bhatt, Sumitra Ganesh, Alec Koppel

机构 * JPMorgan AI Research（摩根大通AI研究） ； Johns Hopkins University Applied Physics Laboratory（约翰霍普金斯大学应用物理实验室） 纠错

专题命中 偏好对齐 ：RLHF(abstract,abstract_cn)；分类 cs.LG

AI总结 本文提出一种单循环一阶演员-评论员算法，用于解决双层优化问题，通过惩罚重述法优化双层目标，引入衰减熵正则化以实现无偏上层超梯度估计，且在特殊Polyak-Lojasiewicz条件下证明了有限时间与样本收敛性。

SMARTER: A Data-efficient Framework to Improve Toxicity Detection with Explanation via Self-augmenting Large Language Models

SMARTER: 一种数据高效框架，通过自增强大语言模型提升毒性检测与解释

Huy Nghiem, Advik Sachdeva, Hal Daumé

机构 * University of Maryland（马里兰大学） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 SMARTER通过两阶段框架利用大语言模型自身输出生成解释，提升内容审核的可解释性，实验表明在三个基准任务中实现13%的宏F1提升，且数据使用量仅为全训练数据的分数。

Comments ACL 2026. NLP, Hate speech detection, explanation, LLM. Version 3

The Tool-Overuse Illusion: Why Does LLM Prefer External Tools over Internal Knowledge?

工具过度使用错觉：为什么大语言模型更倾向于使用外部工具而非内部知识？

Yirong Zeng, Shen You, Yufei Liu, Qunyao Du, Xiao Ding, Yutai Hou, Yuxian Wang, Wu Ning, Haonan Song, Dandan Tu, Bibo Cai, Ting Liu

机构 * Harbin Institute of Technology, SCIR（哈尔滨理工大学SCIR研究所） ； Peking University（北京大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.AI

AI总结 本文揭示大语言模型在推理中普遍存在工具过度使用现象，通过分析内部知识可用性区域，提出知识感知边界对齐策略，减少工具使用82.8%，并发现仅以结果奖励会鼓励工具过度使用，通过平衡奖励信号可减少66.7%的无用工具调用。

Comments 17 pages, 9 figures

PromptEcho: Annotation-Free Reward from Vision-Language Models for Text-to-Image Reinforcement Learning

PromptEcho：基于视觉语言模型的无标注奖励用于文本到图像强化学习

Jinlong Liu, Wanggui He, Peng Zhang, Mushui Liu, Hao Jiang, Pipei Huang

机构 * Alibaba Group（阿里巴巴集团） ； Zhejiang University（浙江大学） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.AI

AI总结 PromptEcho通过冻结的视觉语言模型计算token级交叉熵损失，无需标注或训练奖励模型，提升文本到图像模型的提示跟随能力，实验显示在多个基准上取得显著提升。

Where and What: Reasoning Dynamic and Implicit Preferences in Situated Conversational Recommendation

何处与何物：在情境对话推荐中推理动态和隐性偏好

Dongding Lin, Jian Wang, Yongqi Li, Wenjie Li

机构 * Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算机系） ； College of Computer Science, Sichuan University（四川大学计算机学院） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出SiPeR框架，通过场景转换估计和贝叶斯逆推推理，提升情境对话推荐的准确性和响应质量。

Comments Accpeted by ACL 2026

CodeRL+: Improving Code Generation via Reinforcement with Execution Semantics Alignment

CodeRL+: 通过执行语义对齐改进代码生成

Xue Jiang, Yihong Dong, Mengyang Liu, Hongyi Deng, Tian Wang, Yongding Tao, Rongyu Cao, Binhua Li, Zhi Jin, Wenpin Jiao, Fei Huang, Yongbin Li, Ge Li

机构 * School of Computer Science, Peking University（北京大学计算机科学系） ； Tongyi Lab, Alibaba Group（阿里集团通义实验室） ； School of Computer Science, Wuhan University（武汉大学计算机科学系） 纠错

专题命中 安全训练 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CodeRL+，通过将执行语义对齐整合到RLVR训练流程中，提升代码生成的准确性，实验显示其在pass@1指标上平均提升4.6%。

Comments Accepted by ACL 2026

V-tableR1: Process-Supervised Multimodal Table Reasoning with Critic-Guided Policy Optimization

V-tableR1：基于过程监督的多模态表格推理与批评引导的策略优化

Yubo Jiang, Yitong An, Xin Yang, Abudukelimu Wuerkaixi, Xuxin Cheng, Fengying Xie, Zhiguo Jiang, Cao Liu, Ke Zeng, Haopeng Zhang

机构 * School of Astronautics Beihang University（北航航天学院） ； Longcat Interaction Team Meituan（美团长猫交互团队） ； Tianmushan Laboratory Beihang University（北航天门实验室） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 V-tableR1通过过程监督强化学习框架，利用表格的确定性网格结构，提升多模态大语言模型的推理能力，通过批评引导策略优化方法，实现更严谨的逻辑推导，取得开放源代码模型在复杂表格基准上的最佳性能。

Comments 15 pages, 4 figures, 4 tables

DAIRE: A lightweight AI model for real-time detection of Controller Area Network attacks in the Internet of Vehicles

DAIRE：一种轻量级AI模型，用于实时检测车联网中的控制器局域网络攻击

Shahid Alam, Amina Jameel, Zahida Parveen, Ehab Alnfrawy, Adeela Ashraf, Raza Uddin, Jamal Aqib

机构 * Department of Information Security, College of Computer Science and Engineering, University of Ha’il（信息安全系，计算机科学与工程学院，哈伊尔大学） ； Department of Computer Engineering, Center of Excellence in Artificial Intelligence, Bahria University（计算机工程系，人工智能卓越中心，巴赫里大学） ； Department of Artificial Intelligence, College of Computer Science and Engineering, University of Ha’il（人工智能系，计算机科学与工程学院，哈伊尔大学） ； Department of Computer Science, College of Computer Science and Engineering, University of Ha’il（计算机科学系，计算机科学与工程学院，哈伊尔大学） ； Department of Software Engineering, College of Computer Science and Engineering, University of Ha’il（软件工程系，计算机科学与工程学院，哈伊尔大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 本文提出DAIRE模型，利用轻量级神经网络实现实时检测和分类CAN攻击，实验显示其在准确率和速度上均优于现有方法。

Journal ref Machine Learning with Applications (2026): 100859

Security Modelling for Cyber-Physical Systems: A Systematic Literature Review

面向网络物理系统的安全建模：系统文献综述

Shaofei Huang, Christopher M. Poskitt, Lwin Khin Shar

专题命中 越狱攻击 ：safety(abstract)

AI总结 本文系统回顾了网络物理系统安全建模的研究，探讨威胁与攻击建模的区别及其对系统安全的影响，总结现有研究的局限性。

Comments Accepted by ACM Transactions on Cyber-Physical Systems (TCPS)

Journal ref ACM Trans. Cyber Phys. Syst. 10(2), Article 20, 1-29 (2026)

Anchor-and-Resume Concession Under Dynamic Pricing for LLM-Augmented Freight Negotiation

基于动态定价的LLM增强货运谈判中的锚定与恢复让步

Hoang Nguyen, Lu Wang, Marta Gaia Bras

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种双指标锚定与恢复框架，解决动态定价下传统让步框架的局限性，通过实时价差推导β参数并保证非递减报价，实验证明其在不同价差情况下均能提升谈判效率与收益。

Multi-FEAT: Multi-Feature Edge Alignment for Targetless Camera-LiDAR Calibration

多特征边缘对齐：无目标相机-激光雷达校准

Bichi Zhang, Holger Caesar, Raj Thilak Rajan

专题命中 幻觉与事实性 ：alignment(title,abstract)

AI总结 本文提出Multi-FEAT方法，通过将3D激光雷达点云投影到2D全景图，并利用多种激光雷达特征信息补充稀疏边界，结合相机边缘提取和特征匹配函数优化校准参数，实验表明其在KITTI数据集上优于现有无目标校准方法。

Explainability in Generative Medical Diffusion Models: A Faithfulness-Based Analysis on MRI Synthesis

生成医学扩散模型的可解释性：基于忠实度的MRI合成分析

Surjo Dey, Pallabi Saikia

机构 * Rajiv Gandhi institute of petroleum technology（拉吉夫·甘地石油技术学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨生成扩散模型在医学影像中的可解释性，聚焦MRI合成，通过分析原型方法评估生成与训练特征的关系，实验表明EPPNet在忠实度上表现最佳，提升生成过程的透明度和可信度。

Comments Accepted at 3rd World Congress on Smart Computing (WCSC2026) conference

Self-Aware Vector Embeddings for Retrieval-Augmented Generation: A Neuroscience-Inspired Framework for Temporal, Confidence-Weighted, and Relational Knowledge

具有自我意识的向量嵌入用于检索增强生成：一种受神经科学启发的框架，用于时间、置信度加权和关系知识

Naizhong Xu

机构 * Principal Consultant, CMC APAC（CMC APAC 主任顾问） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SmartVector框架，通过引入时间意识、置信度衰减和关系意识，改进检索增强生成系统，提升准确性与鲁棒性。

Comments 17 pages, 4 tables

A Heterogeneous Long-Micro Scale Cascading Architecture for General Aviation Health Management

一种异构长微尺度级联架构用于通用航空健康管理

Xinhang Chen, Zhihuan Wei, Yang Hu, Zhiguo Zeng, Kang Zeng, Wei Wang

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种异构级联架构，通过分离全局异常检测与微尺度故障分类，解决接收场悖论，提升航空设备健康管理的准确性和效率。

Comments Significant methodological flaws have been identified in the experimental validation and metric computation procedures that undermine the reliability of the reported results. A comprehensive revision is underway

The Imperfective Paradox in Large Language Models

大型语言模型中的不完美悖论

Bolei Ma, Yusuke Miyao

机构 * LMU Munich（慕尼黑大学） ； The University of Tokyo（东京大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究揭示大型语言模型在事件复合语义理解上的局限性，发现其依赖表面概率启发式而非逻辑推理，提出ImperfectiveNLI数据集揭示目标导向事件的预测偏差。

Comments ACL 2026

Variational Visual Question Answering for Uncertainty-Aware Selective Prediction

变分视觉问答用于不确定性感知的选择性预测

Tobias Jan Wieczorek, Nathalie Daun, Mohammad Emtiyaz Khan, Marcus Rohrbach

机构 * TU Darmstadt（图宾根大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出变分VQA方法，通过变分贝叶斯方法提升视觉问答和视觉推理任务的可靠性，尤其在低误差容忍度下表现优异，且优于AdamW训练模型。

Comments TMLR April 2026 version. 13 pages main paper, 31 pages with appendix. Updated bibliography

Journal ref Transactions on Machine Learning Research (2026)

Open-Architecture End-to-End System for Real-World Autonomous Robot Navigation

面向真实世界的自主机器人导航开架系统

Venkata Naren Devarakonda, Ali Umut Kaypak, Raktim Gautam Goswami, Naman Patel, Rooholla Khorrambakht, Prashanth Krishnamurthy, Farshad Khorrami

机构 * Control/Robotics Research Laboratory (CRRL), Department of Electrical and Computer Engineering, NYU Tandon School of Engineering（控制/机器人研究实验室（CRRL），电气与计算机工程系，NYU塔恩顿工程学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出一种轻量级开架端到端系统，通过整合多组件实现四足机器人实时导航，利用自然语言任务和语义信息构建场景图，基于LLM生成动态计划，实现在多个室内环境中的零样本自主导航。

From Hidden Profiles to Governable Personalization: Recommender Systems in the Age of LLM Agents

从隐藏档案到可控个性化：在LLM代理时代推荐系统

Jiahao Liu, Mingzhe Han, Guanming Liu, Weihang Wang, Dongsheng Li, Hansu Gu, Peng Zhang, Tun Lu, Ning Gu

专题命中 隐私与版权 ：alignment(abstract)；trustworthy(abstract)

AI总结 本文探讨LLM代理时代推荐系统从隐藏平台档案转向可控个性化，提出五个研究方向，强调用户模型的透明性、隐私保护及跨领域设计。

Comments 6 pages, under review

Device-Native Autonomous Agents for Privacy-Preserving Negotiations

设备本机自主代理用于隐私保护的谈判

Joyjit Roy, Samaresh Kumar Singh

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于设备的自主代理系统，通过零知识证明和本地推理实现隐私保护的谈判，实验显示在保险和B2B采购场景中成功率高，隐私保护效果显著。

Comments 9 pages, 6 figures, 9 tables. This version updates metadata after publication in IEEE Xplore

Journal ref 2026 IEEE SoutheastCon, Huntsville, AL, USA, 2026

Verification of Machine Unlearning is Fragile

验证机器去学习是脆弱的

Binchi Zhang, Zihan Chen, Cong Shen, Jundong Li

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.LG

AI总结 本文探讨了机器去学习验证的脆弱性，提出两种对抗性去学习过程以绕过现有验证策略，揭示了验证方法的局限性。

Comments ICML 2024

SynSpill: Improved Industrial Spill Detection With Synthetic Data

SynSpill：基于合成数据的改进工业泄漏检测

Aaditya Baranwal, Abdul Mueez, Jason Voelker, Guneet Bhatia, Shruti Vyas

机构 * University of Central Florida（佛罗里达中央大学） ； Siemens Energy（西门子能源） 纠错

专题命中 隐私与版权 ：safety(abstract)

AI总结 针对工业泄漏检测中数据稀缺问题，提出基于高质量合成数据生成的框架，通过参数高效微调提升VLMs和检测器性能，实现安全关键领域的有效应用。

Comments Accepted at ICCV (VISION'25 Workshop) 2025

Journal ref 2025 IEEE/CVF International Conference on Computer Vision Workshops (ICCVW), pp. 1425-1434

Can "AI" Be a Doctor? A Study of Empathy, Readability, and Alignment in Clinical LLMs

AI能成为医生吗？对临床LLM中共情、可读性和对齐性的研究

Mariano Barone, Francesco Di Serio, Roberto Moio, Marco Postiglione, Giuseppe Riccio, Antonio Romano, Vincenzo Moscato

机构 * Department of Electrical Engineering and Information Technology（电子工程与信息科技系） ； University of Naples Federico II（那不勒斯费德里科二世大学） ； Department of Translational Medical Sciences（转化医学科学系） ； University of Campania ”Luigi Vanvitelli”（坎帕尼亚“路易吉·范维蒂利”大学） ； Department of Computer Science, McCormick School of Engineering and Applied Science（计算机科学系，麦科马克工程与应用科学学院） ； Northwestern University（西北大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了临床LLM在共情、可读性和对齐性方面的表现，发现协作重写能显著提升对齐效果，但LLM仍无法超越医生的临床专业性。

Beyond Task Success: An Evidence-Synthesis Framework for Evaluating, Governing, and Orchestrating Agentic AI

超越任务成功：一个证据综合框架用于评估、治理和协调智能体AI

Christopher Koch, Joshua Andreas Wellbrock

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)

AI总结 本文提出一个证据综合框架，解决评估、治理和协调智能体AI中的治理到行动闭合缺口，通过四个层次框架、ODTA运行时测试和最小行动证据包，整合现有证据以提升可信度。

Comments 8 pages, 1 figure, 4 tables

Hidden Reliability Risks in Large Language Models: Systematic Identification of Precision-Induced Output Disagreements

大语言模型中的隐藏可靠性风险：系统性识别精度诱导的输出分歧

Yifei Wang, Tianlin Li, Xiaohan Zhang, Xiaoyu Zhang, Wei Ma, Mingfei Cheng, Li Pan

机构 * Shanghai Jiao Tong University（上海交通大学） ； Beihang University（北航） ； Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理学院） 纠错

专题命中 安全评测 ：alignment(abstract)；jailbreak(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出PrecisionDiff框架，用于系统检测大语言模型在不同精度下的行为分歧，通过生成精度敏感测试输入并进行跨精度比较分析，揭示传统方法难以发现的细微差异，实验表明此类分歧在多个开源对齐LLM中普遍存在，PrecisionDiff在检测此类问题上表现优异。

Comments 12 pages, 5 figures

CircuChain: Disentangling Competence and Compliance in LLM Circuit Analysis

CircuChain: 解构LLM电路分析中的能力与合规性

Mayank Ravishankara

机构 * Independent Researcher（独立研究员） ； San Francisco, CA, USA（美国加州旧金山） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 CircuChain通过设计控制/陷阱问题对，评估LLM在电路分析中遵循指令与物理推理能力的差异，揭示模型能力与约束对齐的不足。

Development and Preliminary Evaluation of a Domain-Specific Large Language Model for Tuberculosis Care in South Africa

针对南非结核病护理的领域专用大型语言模型的开发与初步评估

Thokozile Khosa, Olawande Daramola

机构 * University of Pretoria（南非大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种专门用于南非结核病护理的大型语言模型，通过量化低秩适应算法和图检索生成技术，提升了模型在结核病领域的上下文对齐能力。

Comments 12 pages, 2 figures, ICICT 2026 Conference

MedSkillAudit: A Domain-Specific Audit Framework for Medical Research Agent Skills

MedSkillAudit：一种面向医学研究代理技能的领域特定审计框架

Yingyong Hou, Xinyuan Lao, Huimei Wang, Qianyu Yao, Wei Chen, Bocheng Huang, Fei Sun, Yuxian Lv, Weiqi Lei, Xueqian Wen, Pengfei Xia, Zhujun Tan, Shengyang Xie

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出MedSkillAudit框架，用于评估医学研究代理技能的可靠性，通过专家评审和统计指标验证其有效性，为医学研究代理技能的治理提供实践基础。

Comments 20 pages, 9 figures, 1 graphic abstract, 4 tables

Graph2Counsel: Clinically Grounded Synthetic Counseling Dialogue Generation from Client Psychological Graphs

Graph2Counsel: 从客户端心理图谱生成临床导向的合成咨询对话

Aishik Mandal, Hiba Arnaout, Clarissa W. Ong, Juliet Bockhorst, Kate Sheehan, Rachael Moldow, Tanmoy Chakraborty, Iryna Gurevych

机构 * UKP Lab, Department of Computer Science and Hessian Center for AI (hessian.AI), Technische Universität Darmstadt（德国达姆施塔特技术大学UKP实验室、计算机科学系和海森人工智能中心（hessian.AI）） ； Zuse School ELIZA（Zuse学院ELIZA） ； National Research Center for Applied Cybersecurity ATHENE（应用网络安全国家研究中心ATHENE） ； Indian Institute of Technology Delhi（印度德里理工学院） ； Yardi School of Artificial Intelligence（Yardi人工智能学院） ； University of Louisville（路易斯维尔大学） ； University of Toledo（托莱多大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出Graph2Counsel框架，通过客户端心理图谱生成合成咨询对话，提升数据真实性与质量，实验表明其在特定性、咨询师能力等方面优于现有数据集。

Comments 49 pages, 46 figures, 11 tables