大模型对齐与安全

SenseAI: A Human-in-the-Loop Dataset for RLHF-Aligned Financial Sentiment Reasoning

SenseAI：一种用于RLHF对齐的金融情感推理的人机协同数据集

Berny Kabalisa

专题命中 偏好对齐 ：RLHF(title,abstract)；alignment(abstract)；分类 cs.CL

AI总结 SenseAI通过整合推理链、置信度评分和市场结果，为金融情感推理提供RLHF对齐的数据支持，揭示模型行为中的系统性模式及改进机会。

Comments Dataset available on request (bernykabalisa18@gmail.com) See GitHub for dataset snapshot and automated data collection script demo https://github.com/bernykabalisa18-netizen/SenseAI

Beyond Compromise: Pareto-Lenient Consensus for Efficient Multi-Preference LLM Alignment

超越妥协：用于高效多偏好LLM对齐的帕累托宽容共识

Renxuan Tan, Rongpeng Li, Zhifeng Zhao, Honggang Zhang

机构 * Zhejiang Lab（之江实验室） ； Macau University of Science and Technology（澳门科技大学） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出帕累托宽容共识框架，通过动态谈判过程解决多目标偏好对齐中的局部收敛问题，提升模型对全局帕累托最优前沿的探索能力。

RLAIF-SPA: Structured AI Feedback for Semantic-Prosodic Alignment in Speech Synthesis

RLAIF-SPA: 结构化AI反馈用于语音合成中的语义-语调对齐

Qing Yang, Zhenghao Liu, Yangfan Du, Pengcheng Huang, Tong Xiao

机构 * School of Computer Science and Engineering, Northeastern University, China（东北大学计算机科学与工程学院） 纠错

专题命中 偏好对齐 ：alignment(title)；分类 cs.CL、cs.AI

AI总结 本文提出RLAIF-SPA框架，通过整合强化学习从AI反馈来优化语音合成中的情感表达和可懂度，实验显示其在多个数据集上均取得显著提升。

Learning What Matters: Dynamic Dimension Selection and Aggregation for Interpretable Vision-Language Reward Modeling

学习什么重要：可解释视觉语言奖励建模的动态维度选择与聚合

Qiyuan Chen, Hongsen Huang, Jiahe Chen, Qian Shao, Jintai Chen, Hongxia Xu, Renjie Hua, Chuan Ren, Jian Wu

机构 * Zhejiang University（浙江大学） ； Soochow Securities Co.,Ltd.（东吴证券股份有限公司） ； HKUST(GZ)（香港科技大学（广州）） ； Nanjing University（南京大学） 纠错

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出VL-MDR框架，通过动态分解评价为细粒度可解释维度，提升视觉语言奖励建模的可解释性与效率，实验显示其在基准测试中优于现有模型，并有效缓解视觉幻觉。

Comments ACL 2026 Main

Framing Effects in Independent-Agent Large Language Models: A Cross-Family Behavioral Analysis

独立代理大语言模型中的框架效应：跨家族行为分析

Zice Wang, Zhenyu Zhang

机构 * Northeastern University（东北大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了在非交互多代理部署中，提示框架如何影响独立代理在阈值投票任务中的决策，发现框架效应显著影响选择分布，倾向于风险规避选项，揭示了非交互多代理部署中的重要偏差源。

AttnDiff: Attention-based Differential Fingerprinting for Large Language Models

AttnDiff：基于注意力的差分指纹法用于大语言模型

Haobo Zhang, Zhenhua Xu, Junxian Li, Shangfeng Sheng, Dezhang Kong, Meng Han

机构 * Zhejiang University of Technology（浙江工业大学） ； Zhejiang University（浙江大学） ； Binjiang Institute of Zhejiang University（浙江大学滨江研究院） ； Shanghai Jiao Tong University（上海交通大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 偏好对齐 ：DPO(abstract)；分类 cs.LG

AI总结 本文提出AttnDiff，一种高效白盒框架，通过内在信息路由行为提取模型指纹，用于验证大语言模型的衍生关系，实现高相似度区分相关衍生模型与无关模型家族。

Comments Accepted at ACL2026 Main

Pressure, What Pressure? Sycophancy Disentanglement in Language Models via Reward Decomposition

压力，何为压力？通过奖励分解实现语言模型中的奉承解缠

Muhammad Ahmed Mohsin, Ahsan Bilal, Muhammad Umer, Emily Fox

机构 * Stanford University（斯坦福大学） ； University of Oklahoma（俄克拉荷马大学） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出通过奖励分解方法减少语言模型的奉承行为，引入多组件组相对策略优化（GRPO）奖励，分解训练信号为五个维度，有效降低奉承倾向。

Comments Submitted to COLM 2026

From Clues to Generation: Language-Guided Conditional Diffusion for Cross-Domain Recommendation

从线索到生成：语言引导的条件扩散用于跨域推荐

Ziang Lu, Lei Sang, Lin Mu, Yiwen Zhang

专题命中 偏好对齐 ：alignment(abstract)

AI总结 本文提出LGCD框架，通过结合大语言模型和扩散模型，解决跨域推荐中单域用户偏好转移难题，通过伪重叠数据和条件扩散架构提升推荐效果。

Comments 11 pages, 6 figures

Multimodal Large Language Models with Adaptive Preference Optimization for Sequential Recommendation

具有自适应偏好优化的多模态大语言模型用于序列推荐

Yu Wang, Yonghui Yang, Le Wu, Yi Zhang, Fei Liu, Richang Hong

专题命中 偏好对齐 ：DPO(abstract)

AI总结 本文提出HaNoRec框架，通过自适应偏好优化解决多模态序列推荐中的样本不平衡和跨模态语义偏差问题，提升推荐性能。

Comments Accepted by SIGIR 2026 (Full Paper)

Gradient-Controlled Decoding: A Safety Guardrail for LLMs with Dual-Anchor Steering

梯度控制解码：一种用于LLMs的安全防护机制，具有双锚点引导

Purva Chiniya, Kevin Scaria, Sagar Chaturvedi

专题命中 安全训练 ：safety(title,abstract)；jailbreak(abstract)；prompt injection(abstract)；分类 cs.CL

AI总结 本文提出梯度控制解码（GCD），通过双锚点令牌提升安全性，降低误报率，同时在多个基准测试中有效抑制攻击，且对计算资源要求低。

Comments Accepted at LREC2026

Pre-Execution Safety Gate & Task Safety Contracts for LLM-Controlled Robot Systems

预执行安全闸门与任务安全合同用于LLM控制的机器人系统

Ike Obi, Vishnunandan L. N. Venkatesh, Weizheng Wang, Ruiqi Wang, Dayoon Suh, Temitope I. Amosa, Wonse Jo, Byung-Cheol Min

机构 * SMART Laboratory, Department of Computer and Information Technology, Purdue University（普渡大学计算机与信息技术系SMART实验室） ； Department of Information and Telecommunication Engineering, Incheon National University（仁川国立大学信息与通信工程系） 纠错

专题命中 安全训练 ：safety(title,abstract)

AI总结 本文提出SafeGate和Task Safety Contracts，通过神经符号安全架构和约束检查，提升LLM控制机器人系统的安全性，减少缺陷命令的执行。

Offline RL for Adaptive Policy Retrieval in Prior Authorization

离线强化学习在先决授权政策适应性检索中的应用

Ruslan Sharifullin, Maxim Gorshkov, Hannah Clay

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全训练 ：DPO(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种基于离线强化学习的适应性政策检索方法，通过将检索过程建模为马尔可夫决策过程，提升了检索效率和准确性。

Comments 9 pages, 7 figures, 6 tables

eVTOL Aircraft Energy Overhead Estimation under Conflict Resolution in High-Density Airspaces

在高密度空域中，eVTOL飞行器在冲突解决中的能量开销估计

Alex Zongo, Peng Wei

机构 * George Washington University（乔治华盛顿大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文研究了在高密度空域中，基于修改电压势算法的冲突解决对eVTOL能量消耗的影响，发现该算法在不同密度下能量开销较低，但存在右偏分布，最高密度下尾部案例开销可达44%。

Comments Accepted for presentation at the Integrated Communications, Navigation and Surveillance Conference (ICNS) 2026

Foreign Domestic Workers' Perspectives on an LLM-Based Emotional Support tool for Caregiving Burden

外国家庭佣工对基于大语言模型的情感支持工具在照护负担中的看法

Shin Shoon Nicholas Teng, Kenny Tsu Wei Choo

专题命中 安全训练 ：safety(abstract)

AI总结 研究探讨了新加坡外国家庭佣工使用基于大语言模型的聊天机器人作为日常非临床情感支持工具的体验，发现其在心理安全、语言无障碍和多功能资源方面的设计启示。

Comments 5 pages, Accepted at CHI 2026 Posters

How can LLMs Support Policy Researchers? Evaluating an LLM-Assisted Workflow for Large-Scale Unstructured Data

大型语言模型如何支持政策研究？评估一个用于大规模非结构化数据的LLM辅助工作流

Yuhan Liu, Shuyao Zhou, Jakob Kaiser, Ella Colby, Jennifer Okwara, Maggie Wang, Varun Nagaraj Rao, Andrés Monroy-Hernández

专题命中 安全训练 ：alignment(abstract)

AI总结 本文评估了LLM辅助工作流在处理大规模非结构化数据中的应用，探讨了其在政策研究中的可行性和有效性。

FreakOut-LLM: The Effect of Emotional Stimuli on Safety Alignment

FreakOut-LLM：情绪刺激对安全对齐的影响

Daniel Kuznetsov, Ofir Cohen, Karin Shistik, Rami Puzis, Asaf Shabtai

机构 * Ben-Gurion University of the Negev（内盖夫本-古里安大学） 纠错

专题命中 越狱攻击 ：alignment(title,abstract)；safety(title,abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 研究探讨情绪刺激是否影响大语言模型的安全对齐，通过实验发现压力情境显著增加逃逸成功率，而放松情境无显著影响，揭示情绪状态对AI攻击的可测量影响。

Synthetic Trust Attacks: Modeling How Generative AI Manipulates Human Decisions in Social Engineering Fraud

合成信任攻击：生成式AI如何操纵人类在社会工程欺诈中的决策

Muhammad Tahir Ashraf

机构 * AAAI Pakistan Chapter（AAAI巴基斯坦分会） ； PureDesigners Ltd.（PureDesigners有限公司） ； IBM Watson 纠错

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 本文提出合成信任攻击（STA）作为正式威胁类别，引入STAM模型，涵盖从敌手侦察到事后利用的完整攻击链，探讨人类决策层的防御策略。

Comments 15 pages, 3 figures, 2 tables

LaSM: Layer-wise Scaling Mechanism for Defending Pop-up Attack on GUI Agents

LaSM：用于防御GUI代理中弹出攻击的分层缩放机制

Zihe Yan, Jiaping Gui, Zhuosheng Zhang, Gongshen Liu

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 越狱攻击 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出LaSM机制，通过分层放大关键层的注意力和MLP模块，提升模型对任务相关区域的对齐性，有效防御弹出攻击，同时不影响模型整体能力。

Comments Accepted by CVPR-26

Evaluating LLM-based Personal Information Extraction and Countermeasures

评估基于大语言模型的个人信息提取及应对措施

Yupei Liu, Yuqi Jia, Jinyuan Jia, Neil Zhenqiang Gong

专题命中 越狱攻击 ：prompt injection(abstract)

AI总结 研究评估了基于大语言模型的个人信息提取技术及防御策略，通过系统测量研究对比了多种方法的性能，发现大语言模型在提取个人信息上表现优异，但通过提示注入可有效防御其攻击。

Comments USENIX Security Symposium 2025

Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming

通过多样性感知的红队行动揭示视觉-语言-动作模型中的语言脆弱性

Baoshun Tong, Haoran He, Ling Pan, Yang Liu, Liang Lin

机构 * School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 红队测试 ：red teaming(title,abstract)；safety(abstract)

AI总结 本文提出DAERT框架，通过评估统一策略生成多样化挑战性指令，揭示VLA模型在语言变化下的脆弱性，实验显示任务成功率从93.33%降至5.85%。

SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement

SkillAttack：通过攻击路径细化实现对代理技能的自动化红队测试

Zenghao Duan, Yuxin Tian, Zhiyi Yin, Liang Pang, Jingcheng Deng, Zihao Wei, Shicheng Xu, Yuyao Ge, Xueqi Cheng

专题命中 红队测试 ：red teaming(title)

AI总结 本文提出SkillAttack框架，通过对抗性提示动态验证技能漏洞可利用性，实验显示其在对抗性技能和真实场景中均显著优于基线方法，揭示了即使善意技能在实际代理交互中也存在严重安全风险。

From Hallucination to Structure Snowballing: The Alignment Tax of Constrained Decoding in LLM Reflection

从幻觉到结构雪球效应：约束解码在LLM反思中的对齐税

Hongxu Zhou

机构 * Saarland University（萨尔大学） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL

AI总结 研究探讨了在开放式推理任务中，约束解码通过强制结构反思是否能避免错误传播，发现反而引发结构雪球效应，并揭示了约束解码的对齐税问题。

Integration of Object Detection and Small VLMs for Construction Safety Hazard Identification

对象检测与小型视觉语言模型的整合用于建筑安全危险识别

Muhammad Adil, Mehmood Ahmed, Muhammad Aqib, Vicente A. Gonzalez, Gaang Lee, Qipei Mei

机构 * Infrastructure Human Tech (IHT) Lab, Department of Civil and Environmental Engineering, University of Alberta, Edmonton, Alberta, Canada（基础设施人类技术（IHT）实验室，土木与环境工程系，阿尔伯塔大学，埃德蒙顿，阿尔伯塔，加拿大） 纠错

专题命中 幻觉与事实性 ：safety(title,abstract)

AI总结 本文提出了一种结合对象检测与多模态推理的轻量级框架，以提高建筑工地安全危险识别的准确性和效率，实验表明该方法在多个小型视觉语言模型上均提升了检测性能和解释质量。

GrACE: A Generative Approach to Better Confidence Elicitation and Efficient Test-Time Scaling in Large Language Models

GrACE：一种生成方法，用于改进置信度 elicitation 和大语言模型在测试时的高效扩展

Zhaohan Zhang, Ziquan Liu, Ioannis Patras

机构 * Queen Mary University of London（伦敦玛丽女王大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 本文提出GrACE，一种生成方法，用于改进大语言模型的置信度 elicitation 和测试时的高效扩展，通过实时计算隐藏状态与特殊标记嵌入的相似性，实现可靠且可扩展的置信度评估。

Label Effects: Shared Heuristic Reliance in Trust Assessment by Humans and LLM-as-a-Judge

标签效应：人类和LLM-as-a-Judge在信任评估中的共享启发式依赖

Xin Sun, Di Wu, Sijing Qin, Isao Echizen, Abdallah El Ali, Saku Sugawara

机构 * National Institute of Informatics (NII)（国立信息学研究所） ； University of Amsterdam（阿姆斯特丹大学） ； University of Tokyo（东京大学） ； Hitotsubashi University（一桥大学） ； Centrum Wiskunde & Informatica (CWI)（荷兰数学与计算机科学研究中心） ； Utrecht University（乌得勒支大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示人类和LLM在信任评估中受标签影响的共同机制，通过对比人类和模型的反应，发现标签对信任判断有显著偏倚，提出需警惕标签敏感的LLM评估有效性。

Knowledge Reasoning Language Model: Unifying Knowledge and Language for Inductive Knowledge Graph Reasoning

知识推理语言模型：统一知识与语言以进行归纳知识图谱推理

Xingrui Zhuo, Jiapu Wang, Gongqing Wu, Zhongyuan Wang, Jichen Zhang, Shirui Pan, Xindong Wu

机构 * The Key Laboratory of Knowledge Engineering with Big Data (the Ministry of Education of China), Hefei University of Technology, China（合肥工业大学大数据知识工程教育部重点实验室） ； School of Computer Science and Information Engineering, Hefei University of Technology, China（合肥工业大学计算机与信息学院） ； Nanjing University of Science and Technology, China（南京理工大学） ； China Unicom Digital Technology Co., Ltd., Beijing, China（联通数字科技有限公司） ； China Unicom Internet of Things Co., Ltd., Nanjing, China（联通物联网有限责任公司） ； Shandong Inspur Science Research Institute, Jinan, China（山东浪潮科学研究院） ； Griffith University, Australia（格里菲斯大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出KRLM，通过统一语言模型知识与知识图谱上下文，解决归纳知识图谱推理中的知识扭曲和生成幻觉问题，实验表明其在25个真实数据集上表现优异。

Confidence Should Be Calibrated More Than One Turn Deep

置信度应比单轮更深入地校准

Zhaohan Zhang, Chengzhengxu Li, Xiaoming Liu, Chao Shen, Ziquan Liu, Ioannis Patras

机构 * Queen Mary University of London（伦敦玛丽女王大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出多轮校准任务，解决多轮对话中置信度动态校准问题，通过MTCal和ConfChat提升模型在多轮交互中的事实性和一致性。

Uncertainty-Guided Latent Diagnostic Trajectory Learning for Sequential Clinical Diagnosis

不确定性的引导潜在诊断轨迹学习用于顺序临床诊断

Xuyang Shen, Haoran Liu, Dongjin Song, Martin Renqiang Min

机构 * University of Connecticut（康涅狄格大学） ； Texas A&M University（德克萨斯农工大学） ； NEC Laboratories America（NEC美国实验室） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于规划LLM和诊断LLM的潜在诊断轨迹学习框架，通过后验分布优先选择高诊断信息轨迹，提升顺序临床诊断的准确率并减少检测次数。

Probabilistic Tree Inference Enabled by FDSOI Ferroelectric FETs

基于FDSOI铁电FETs的概率树推断

Pengyu Ren, Xingtian Wang, Boyang Cheng, Jiahui Duan, Giuk Kim, Xuezhong Niu, Halid Mulaosmanovic, Stefan Duenkel, Sven Beyer, X. Sharon Hu, Ningyuan Cao, Kai Ni

机构 * University of Notre Dame（圣母大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种基于FDSOI铁电FETs的硬件平台，实现概率决策树的高效推断，提供高能效的不确定性估计和噪声容忍，优于传统决策树。

TS-Agent: Understanding and Reasoning Over Raw Time Series via Iterative Insight Gathering

TS-Agent：通过迭代洞察获取理解并推理原始时间序列

Penghang Liu, Elizabeth Fons, Annita Vapsi, Mohsen Ghassemi, Svitlana Vyetrenko, Daniel Borrajo, Vamsi K. Potluru, Manuela Veloso

机构 * JPMorgan AI Research, NY, USA（摩根大通人工智能研究院，纽约，美国） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 TS-Agent通过迭代洞察获取机制，在时间序列理解和推理任务中匹配或超越文本、视觉及时间序列语言模型基线，尤其在零样本设置下表现更优。

Comments NeurIPS 2025 Workshop on Foundations of Reasoning in Language Models