大模型对齐与安全

DiverValue-Bench: A Benchmark and Fine-Tuning Framework for Aligning Large Language Models with Diverse Human Values

DiverValue-Bench：用于使大语言模型与多元人类价值观对齐的基准及微调框架

Yao Liang, Dongcheng Zhao, Feifei Zhao, Guobin Shen, Yuwei Wang, Dongqi Liang, Yi Zeng

专题命中 偏好对齐 ：DPO(summary_cn,abstract)；alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究推出覆盖74个国家/地区的人群感知基准DiverValue-Bench，发现现有LLMs存在地理与人口统计学价值观对齐差异，结合LoRA与DPO的轻量微调可提升对齐效果，为全球公平AI开发提供实用基础。

Comments 11 pages, 5 figures. Accepted to IJCAI-ECAI 2026 (Human-Centred AI Special Track). v2: Updated to the camera-ready version

Ask to Be Sure: Informative Interactions for Confident Multi-Turn LLM Recommendation

为确认而提问：用于自信多轮大语言模型推荐的信息交互

Cedar Site Bai, Zhenyu Liao, Duanshun Li, Sheikh Sarwar, Huiyuan Chen, Yuan Chen, Changhe Yuan, Haiyang Zhang, Qilin Qi

专题命中 偏好对齐 ：DPO(summary_cn,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对多轮LLM推荐中有效挖掘用户偏好的挑战，提出以推荐熵降为奖励的方法微调LLM，结合SFT与DPO在INSPIRED、ReDial数据集上提升了推荐质量与对话效率。

Comments CIKM 2026

Investigating the Interplay between Contextual and Parametric Chain-of-Thought Faithfulness under Optimization

探究优化下上下文与参数化思维链忠实性之间的相互作用

Jingyi Sun, Qianli Wang, Pepa Atanasova, Nils Feldhus, Isabelle Augenstein

机构 * University of Copenhagen（哥本哈根大学） ； Technische Universität Berlin（柏林技术大学） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； BIFOLD – Berlin Institute for the Foundations of Learning and Data（BIFOLD – 柏林学习与数据基础研究院） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过提出统一偏好对齐接口FaithMate，研究上下文与参数化两种思维链忠实性范式在优化下的相互作用，发现两者正相关但不对称，且上下文忠实性指标间存在权衡。

Comments The first two authors contributed equally and share first-authorship

ROBOSHACKLES: A Safety Dataset for Human-Injury Prevention in Embodied Foundation Models

ROBOSHACKLES: 面向具身基础模型中人体伤害预防的安全数据集

Zhuowen Yin, Chongyang Liu, Wenzhang Yang, Renjue Li, Yinxing Xue

机构 * Institute of Al for Industries, Chinese Academy of Sciences（工业人工智能研究所，中国科学院） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)

AI总结 为解决机器人伤害人类数据难以安全收集的问题，提出基于真实观测的安全数据构建流水线，生成包含1万条视频的ROBOSHACKLES数据集，涵盖直接和间接伤害类别，评估发现现有模型在安全关键场景下100%产生不安全动作。

Reading Between the Pixels: An Inscriptive Jailbreak Attack on Text-to-Image Models

在像素之间阅读：一种针对文本到图像模型的 inscription 性 jailbreak 攻击

Zonghao Ying, Haowen Dai, Lianyu Hu, Zonglei Jing, Quanchen Zou, Yaodong Yang, Aishan Liu, Xianglong Liu

专题命中 越狱攻击 ：jailbreak(title,title_cn)；safety(abstract)

AI总结 本文提出 Etch 框架，通过分解对抗提示为语义伪装、视觉空间锚定和字形编码三层，实现对文本到图像模型的 inscription 性 jailbreak 攻击，验证了现有安全机制的不足。

Every Picture Tells a Dangerous Story: Memory-Augmented Multi-Agent Jailbreak Attacks on VLMs

每幅画都讲述一个危险的故事：基于内存增强的多智能体 jailbreak 攻击 VLMs

Jianhao Chen, Shiqin Wang, Haoyang Chen, Hanjie Zhao, Haozhe Liang, Zheng Wang, Tieyun Qian

机构 * Wuhan University（武汉大学） ； Zhongguancun Academy（中关村学院） ； Tianjin University（天津大学） ； University of the Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,title_cn)；alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出MemJack框架，通过视觉语义引导多智能体协作，利用迭代空域投影过滤器提升对VLMs的攻击成功率，实验表明其在COCO数据集上达到71.48%的攻击成功率。

Comments This work was accepted by WISE2026. 15 pages, 2 figures

Extended to Reality: Prompt Injection in 3D Environments

扩展到现实：3D环境中的提示注入

Zhuoheng Li, Ying Chen

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

AI总结 研究提出PI3D攻击，通过在3D环境中放置带文本的物理物体来注入提示，挑战多模态大语言模型的安全性。

LODESTAR: Robust Entropy-Based Answer Selection in Retrieval-Augmented Generation for Question Answering -- Directing Frozen-LLM Entropy with a Reinforcement-Learned Prompt Polarizer under Misleading Passages

LODESTAR：可信赖熵是被引导的，而非仅被测量——强化偏振器防止冻结型大语言模型（LLM）被错误证据误导而自信出错

Hung-Chun Hsu, Po-Jen Ko, Che-Cheng Wu, Li-Yang Chang, Chuan-Ju Wang

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.LG

AI总结 LODESTAR是首个通过强化学习训练偏振器、依据第三方冻结型LLM的不确定性评分文本干预的方法，可提升检索增强问答的F1值等指标，减少模型读取误导性段落的概率。

Comments 28 pages, 3 figures

Video Evidence to Reasoning Efficient Video Understanding via Explicit Evidence Grounding

视频证据推理：通过显式证据接地实现高效的视频理解

Yanxiang Huang, Guohua Gao, Zhaoyang Wei

机构 * Department of Applied Mathematics, The Hong Kong Polytechnic University（应用数学系，香港理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文提出CoE框架，通过显式证据接地模块和强化学习优化的锚定协议，提升视频推理的准确性和可靠性。

Comments 6 pages

CKAA: Cross-subspace Knowledge Alignment and Aggregation for Robust Continual Learning

CKAA：用于鲁棒持续学习的跨子空间知识对齐与聚合

Lingfeng He, De Cheng, Zhiheng Ma, Huaijie Wang, Dingwen Zhang, Nannan Wang, Xinbo Gao

机构 * School of Telecommunications Engineering, Xidian University（西安电子科技大学电信工程学院） ； School of Electronic Engineering, Xidian University（西安电子科技大学电子工程学院） ； SUAT-Faculty of Computational Microelectronics, Shenzhen University of Advanced Technology（深圳先进技术大学SUAT计算微电子学院） ； Brain and Artificial Intelligence Laboratory, Northwestern Polytechnical University（西北工业大学脑与人工智能实验室） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 该研究针对基于PEFT的持续学习方法在误导性任务ID下决策模糊的问题，提出CKAA框架，通过DKA和TC-MoA两项创新提升鲁棒性，实验显示其性能优于同类方法。

Comments Accepted by IEEE Transactions on Image Processing (TIP), 2026

ATBench: A Diverse and Realistic Agent Trajectory Benchmark for Safety Evaluation and Diagnosis

ATBench：一个多样且现实的代理轨迹基准，用于安全评估与诊断

Yu Li, Haoyu Luo, Yuejin Xie, Yuqian Fu, Zhonghao Yang, Shuai Shao, Qihan Ren, Wanying Qu, Yanwei Fu, Yujiu Yang, Jing Shao, Xia Hu, Dongrui Liu

机构 * Shanghai AI Lab（上海人工智能实验室） ； Fudan University（复旦大学） ； Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； KAUST（卡塔尔人工智能科学中心） ； East China Normal University（华东师范大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 ATBench通过多样化的轨迹和现实场景评估代理安全，包含1000条轨迹，挑战性强，支持跨基准比较和长周期故障诊断。

CADRE: Stable, Parameter Efficient Adaptation of Medical Vision Language Models with Bounded Forgetting and Prior Drift

CADRE：具有有界遗忘和先验漂移的稳定、参数高效的医学视觉语言模型适应

Rishabh Jha, Amrita Singh, Prashanna Chudal

机构 * Mindriser's Consortium, Kathmandu, Nepal（Mindriser's 联盟，加德满都，尼泊尔） ； University of Victoria, BC, Canada（维多利亚大学，不列颠哥伦比亚省，加拿大） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 提出CADRE框架，通过结合低秩适应与弹性权重巩固及先验锚定惩罚，在仅训练0.23%参数下实现医学视觉语言模型的高精度、低遗忘和正向反向迁移，遗忘率降低约七倍。

Beyond Recall: Behavioral Specification as an Interpretive Layer for AI Personalization

超越回忆：行为规范作为AI个性化的解释层

Aarik Gulaya

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出行为规范作为解释层，通过压缩用户数据为解释性模式，显著提升AI代理对用户意图的表示准确性，减少模型规避，并在解释型问题上优于原始语料和商业记忆系统。

Comments 142 pages, 4 figures. Code, data, judge prompts, and reproduction instructions: this http URL (http://github.com/agulaya24/beyond-recall) 8/19 Replacement: Pages updated to 142 from 134. Added Table of Contents. Updated table/graph formatting. Updated Section 8: Data, Code, and Reproducibility to include updated links, corrected author names

TestifAI: Tomography-Based Testing for Deep Learning Systems

TestifAI：基于层析成像的深度学习系统测试方法

Arooj Arif, Tobias Hartung, Elena Botoeva, Alexandros Koliousis

机构 * Northeastern University London（伦敦东北大学） ； University of Kent（肯特大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 TestifAI是一种深度学习测试框架，通过部分模型层析成像从低阶扰动观测预测高阶扰动测试结果，可高效准确估计多扰动下的模型鲁棒性，减少60-80%的推理量且总误差低于7%。

Grounded verification of chemical and materials reasoning: detection is the bottleneck

化学与材料推理的有根据验证：检测是瓶颈

Can Polat, Mustafa Kurban, Erchin Serpedin, Hasan Kurban

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 研究针对大语言模型在化学推理中虚构对象的问题，提出分层验证器，通过与数据库核对及门控校正减少公式错误，检索次数大幅减少，修复成功率高，但检测召回率是瓶颈，基于事实验证可提高答案质量，长尾错误处提升明显。

Calibrated Triage, Not Autonomy: Confidence Estimation for Medical Vision-Language Models

校准的分诊，而非自主：医学视觉-语言模型的置信度估计

Reza Khanmohammadi, Kundan Thind, Mohammad M. Ghassemi

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 针对医学视觉-语言模型在回答时可能忽略图像而依赖语言先验的问题，提出使用置信度估计进行校准分诊，通过评估七种置信度估计器，发现高置信度区域是区分可用估计器的关键，最佳探针可将错误率从41-45%降至1-4%，但无估计器在所有领域和模型中一致最优。

Design strategies for empathetic AI robots for older adults

面向老年人的共情AI机器人的设计策略

Isabel Pedersen, Andrea Slane

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CY

AI总结 本文针对老年人居家养老需求，运用人文学科与修辞理论，提出共情照护词汇表作为设计社交辅助机器人（SARs）的路径，弥补了现有人机设计忽视共情作为理论化设计路径的空白。

Comments 12 pages, 4 figures, edited and updated

Self-Evolving Coding Agents

自进化编码智能体

Hao Zhou, Haichuan Hu, Ye Shang, Quanjun Zhang

专题命中 安全评测 ：safety(abstract)

AI总结 本综述系统梳理自进化编码智能体领域，明确其与传统智能体的区别，提出分类法，分析该领域的挑战，为设计更优智能系统奠定基础。

Can LLM Annotations Replace User Clicks for Learning to Rank?

大语言模型标注能否替代用户点击用于学习排序？

Lulu Yu, Keping Bi, Jiafeng Guo, Shihao Liu, Shuaiqiang Wang, Dawei Yin, Xueqi Cheng

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文探究LLM标注能否替代点击数据用于学习排序，经多维度对比实验发现二者各有优劣，提出两种整合二者监督信号的训练策略可提升排序性能。

Comments 12 pages, 7 figures, accepted as a Full Research Paper at CIKM 2026

Why Do AI Agents Break Rules? How Framing, Context, and Social Signals Shape Compliance

AI智能体为何违反规则？框架、情境与社会信号如何影响合规性

Mika Okamoto, Ansel Kaplan Erol, Kutluhan Erol

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 该研究运用法律与经济学的合规理论，发现安全微调AI模型大体合规，任务优化与智能体模型会在低惩罚等条件下违规，且引入经济激励等会导致大规模合规失败，指出模型选择与合规性评估需改进。

Comments Published at 2026 AAAI/ACM Conference on AI, Ethics, and Society and 2026 COLM Workshop on Agent Behavior

PILOT Technical Report

PILOT技术报告

Jiuning Lin, Ruiquan Lan, Xiaodong Zhu, Bin Zhang, Chengyu Lai, Chuxin Chen, Dimin Wang, Han Zhu, Hongtao Cheng, Jialin Zhu, Lingqing Zhang, Shuai Zhong, Tao Wang, Weipeng Huang, Yinjiang Cai, Yinnan Song, Yuan Liu, Zhibo Xiao, Zhixin Ma, Zihong Huang

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 该研究针对现有推荐系统优化智能体方法的反应式缺陷，提出PILOT框架，通过三类角色构建控制循环，在淘宝平台对比ROAM验证，实现多项指标提升且搜索效率显著提高，无需人工干预。

Comments Technical Report, 42 pages, 10 figures

The Concept Allocation Zone: Tracking How Concepts Form Across Transformer Depth

概念分配区：追踪概念如何跨越Transformer深度形成

James Henry

机构 * Independent Researcher（独立研究者） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出概念分配区（CAZ）框架，通过层间度量（分离度、概念一致性、概念速度）检测概念在残差流中逐渐形成的深度区间，并在34个模型上验证了分离曲线的多模态性及温和CAZ的因果活性。

Comments v2: substantial revision. Cross-architecture ordering statistic and MHA/GQA cohort-split claim retracted per recomputation; corpus and companion-paper citations refreshed. See paper's "Changes from Version 1" section for the full list of superseded values

TS-Reasoner: Aligning Time Series Foundation Models with LLM Reasoning

TS-Reasoner：将时间序列基础模型与大语言模型推理能力对齐

Fangxu Yu, Hongyu Zhao, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学学院公园分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 TS-Reasoner通过两阶段训练将时间序列基础模型与大语言模型对齐，在多个基准上性能优于同类模型且数据效率更高，解决了时间序列模型推理能力不足的问题。

Comments Accepted to Transactions on Machine Learning Research, 2026

Anatomy Contextualized Adaptation of CT Foundation Models

CT基础模型的解剖学上下文适配

Roshan Kenia, Stephanie L McNamara, William Lotter

机构 * Harvard Medical School（哈佛医学院） ； Dana-Farber Cancer Institute（达纳-法伯癌症研究所） ； Massachusetts General Hospital（麻省总医院） ； Brigham and Women’s Hospital（布里格姆妇女医院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出轻量框架ACA，适配冻结CT基础模型实现解剖学级视觉-语言对齐，在Merlin、CT-RATE数据集上零样本发现分类性能优于基线，训练耗时短且可保留增强全局解剖学上下文。

Comments Proceedings of the European Conference on Computer Vision (ECCV) 2026 MedFM-Bench Workshop

FlowEvo: Self-Evolving Agents through the Co-Evolution of Workflows and Executable Skills

FlowEvo：通过工作流和可执行技能的协同进化实现自我进化的智能体

Zeyu Ren, Ling Yue, Ran Li, Yishu Wang, Shengxiang Xu, Hanmo Liu, Shaowu Pan, Shimin Di

机构 * Southeast University（东南大学） ； Rensselaer Polytechnic Institute（伦斯勒理工学院） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究旨在让大型语言模型智能体通过工作流解决复杂任务。提出FlowEvo框架，通过工作流到技能编译、技能到工作流反馈、技能管理三个机制，使智能体无需更新模型参数积累完善能力，实验显示其在基准测试中精度-成本权衡优，各机制有贡献。

Comments Published as a conference paper at the Conference on Language Modeling (COLM) 2026. 25 pages, 3 figures, 16 tables. Code: this https URL (https://github.com/DEFENSE-SEU/FlowEvo)

EvoSelect: Data-Efficient LLM Evolution for Targeted Task Adaptation

EvoSelect：面向目标任务的高效LLM进化

Ting-Wei Li, Sirui Chen, Jiaru Zou, Yingbing Huang, Tianxin Wei, Jingrui He, Hanghang Tong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出EvoSelect框架，通过迭代生成-选择-训练循环提升LLM在目标任务上的适应能力，通过最优传输和多样性机制优化数据选择，实验表明其在不同基准测试中均优于现有方法。

Evolution of Log-Based Detection Rules in Public Repositories

基于日志的检测规则在公共仓库中的演变

Minjun Long, David Evans

专题命中 其他安全 ：alignment(abstract)

AI总结 本文研究了公共仓库中基于日志的检测规则的演变，通过分析Sigma和Splunk Security Content两个项目中的6859条规则历史，发现约56%的规则至少经过一次修订，且规则生命周期内演变非单调，经常出现回退，表明规则变化并非持续积累，而是存在操作上的权衡。

4DLoG: Generative Modeling of Neurodegenerative Brain Anatomy with 4D Longitudinal Diffusion Model

利用4D纵向扩散模型生成神经退行性脑解剖结构

Nivetha Jayakumar, Swakshar Deb, Bahram Jafrasteh, Qingyu Zhao, Miaomiao Zhang

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； Department of Radiology（放射学系） ； Department of Electrical and Computer Engineering, Department of Computer Science（电气与计算机工程系、计算机科学系） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出一种4D纵向扩散模型，用于生成神经退行性疾病的脑解剖结构，通过临床变量条件生成准确的脑部变化轨迹，验证了其在疾病分类和分割中的有效性。