大模型对齐与安全

Lessons Without Borders? Evaluating Cultural Alignment of LLMs Using Multilingual Story Moral Generation

国界之外的教训？利用多语言故事道德生成评估语言模型的文化契合度

Sophie Wu, Andrew Piper

专题命中 偏好对齐 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过多语言故事道德生成任务评估语言模型的文化契合度，发现前沿模型在道德生成上与人类响应相似但缺乏跨语言多样性。

Cards Against LLMs: Benchmarking Humor Alignment in Large Language Models

卡牌对战大语言模型：大型语言模型幽默对齐的基准测试

Yousra Fettach, Guillaume Bied, Hannu Toivonen, Tijl De Bie

机构 * Ghent University（根特大学） ； University of Helsinki（赫尔辛基大学） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过让五种前沿语言模型与人类玩家玩卡牌对战游戏，评估大语言模型在幽默对齐方面的表现，发现模型在幽默判断上与人类偏好不一致，可能受系统性偏差影响。

Spectral Geometry of LoRA Adapters Encodes Training Objective and Predicts Harmful Compliance

LoRA适配器的谱几何编码了训练目标并预测了有害合规性

Roi Paul

机构 * Independent Researcher（独立研究员） 纠错

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)；harmlessness(abstract)；分类 cs.LG

AI总结 研究LoRA适配器的谱几何能否识别语言模型的微调目标，并预测下游行为危害。通过实验发现，LoRA权重空间几何能反映训练目标和危害合规性，但跨方法监控需单独校准。

Comments 15 pages, 8 figures, pre-registered experiment, data at https://github.com/roip/task-geometry-experiment-results

Chain-of-Zoom: Extreme Super-Resolution via Scale Autoregression and Preference Alignment

链式放大：通过尺度自回归和偏好对齐实现极端超分辨率

Bryan Sangwoo Kim, Jeongsol Kim, Jong Chul Ye

机构 * KAIST AI（韩国科学技术院人工智能系） 纠错

专题命中 偏好对齐 ：alignment(title)；分类 cs.AI、cs.LG

AI总结 本文提出Chain-of-Zoom框架，通过自回归链和多尺度提示实现极端超分辨率，利用GRPO优化文本提示对齐人类偏好，实验显示标准4x扩散模型在CoZ下可实现256倍以上高质量放大。

Comments NeurIPS 2025 (Spotlight)

Decomposing the Delta: What Do Models Actually Learn from Preference Pairs?

分解Delta：模型实际上从偏好对中学习了什么？

Chia-Hsuan Lee, Mingyang Zhou, Renkun Ni, Zelei Cheng, Sihui Dai, Supriyo Chakraborty, Shixiong Zhang, Sambit Sahu, William Campbell

机构 * Capital One（第一资本） 纠错

专题命中 偏好对齐 ：DPO(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨偏好对中生成器级和样本级Delta对推理性能的影响，发现提高生成器级Delta能提升跨领域推理性能，利用样本级Delta可提高训练效率。

OpenKedge: Governing Agentic Mutation with Execution-Bound Safety and Evidence Chains

OpenKedge: 通过执行绑定的安全性和证据链治理代理突变

Jun He, Deying Yu

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 OpenKedge通过引入执行绑定的安全性和证据链，将代理突变转化为受控过程，确保系统行为的可审计性和可预测性。

Comments 17 pages, 3 figures, 2 tables

Semantic Rate-Distortion for Bounded Multi-Agent Communication: Capacity-Derived Semantic Spaces and the Communication Cost of Alignment

语义率-失真：受限多智能体通信的容量导出语义空间及对齐成本

Anthony T. Nixon

专题命中 安全训练 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文研究多智能体在受限通信下的语义率-失真问题，提出基于容量导出的语义空间，并探讨通信对齐的成本与结构相变。

Comments 34 pages, 13 figures. Code: https://github.com/alch3mistdev/semantic-rate-distortion

Act or Escalate? Evaluating Escalation Behavior in Automation with Language Models

行动或升级？基于语言模型评估自动化中的升级行为

Matthew DosSantos DiSorbo, Harang Ju

机构 * Harvard Business School（哈佛商学院） ； Johns Hopkins Carey Business School（约翰霍普金斯大学凯瑞商学院） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了语言模型在自动化决策中如何平衡行动与升级，发现模型在成本权衡上的隐含阈值存在显著差异，且自我评估存在偏差，通过干预测试发现链式思维训练能产生稳健的策略。

Policy-Aware Edge LLM-RAG Framework for Internet of Battlefield Things Mission Orchestration

面向战场物联网任务编排的政策感知边缘大语言模型检索增强生成框架

Om Solanki, Lopamudra Praharaj, Deepti Gupta, Maanak Gupta

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种面向战场物联网任务编排的政策感知边缘大语言模型检索增强生成框架，结合轻量检索模块与本地LLM进行任务规划，并通过JudgeLLM验证用户指令以提高可靠性。

Comments 10 pages, 5 figures, Accepted at AIS 2026

VAG: Dual-Stream Video-Action Generation for Embodied Data Synthesis

VAG：用于具身数据合成的双流视频-动作生成

Xiaolei Lang, Yang Wang, Yukun Zhou, Chaojun Ni, Kerui Li, Jiagang Zhu, Tianze Liu, Jiajun Lv, Xingxing Zuo, Yun Ye, Guan Huang, Xiaofeng Wang, Zheng Zhu

机构 * GigaAI ； Zhejiang University（浙江大学） ； Peking University（北京大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出VAG模型，通过双流框架联合生成视频和动作，提升跨模态一致性，实现高效且准确的视频-动作配对生成，支持轨迹回放并提升下游策略泛化能力。

Kill-Chain Canaries: Stage-Level Tracking of Prompt Injection Across Attack Surfaces and Model Safety Tiers

Kill-Chain Canaries: 阶段级跟踪跨攻击表面和模型安全层级的提示注入

Haochuan Kevin Wang, Zechen Zhang

机构 * Massachusetts Institute of Technology（麻省理工学院） ； University of Chicago（芝加哥大学） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；prompt injection(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过跟踪加密令牌四个阶段，揭示提示注入是管道-架构问题，发现写节点位置是最高安全决策，所有防御因通道不匹配失效，且隐形白字体PDF负载可匹配或超越可见文本ASR。

Comments 10 pages, 8 figures. Benchmark code and run logs released

Mosaic: Multimodal Jailbreak against Closed-Source VLMs via Multi-View Ensemble Optimization

Mosaic: 通过多视图集成优化实现对闭源视觉语言模型的多模态劫持

Yuqin Lan, Gen Li, Yuanze Hu, Weihao Shen, Zhaoxin Fan, Faguo Wu, Xiao Zhang, Laurence T. Yang, Zhiming Zheng

机构 * Beihang University（北京航空航天大学） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出Mosaic框架，通过多视图集成优化减少对单一代理模型的依赖，提升对闭源VLMs的多模态劫持效果，实验显示其在安全基准上的攻击成功率和毒性均达到最优。

Comments 14pages, 9 figures

Enhancing the Safety of Medical Vision-Language Models by Synthetic Demonstrations

通过合成演示增强医疗视觉-语言模型的安全性

Zhiyu Xue, Reza Abbasi-Asl, Ramtin Pedarsani

机构 * UC Santa Barbara（加州大学圣塔芭芭拉分校） ； UC San Francisco（加州大学旧金山分校） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 本文提出一种新的推理时防御策略，通过合成临床演示提升模型安全性，同时平衡安全与性能。

AudioGuard: Toward Comprehensive Audio Safety Protection Across Diverse Threat Models

AudioGuard：面向多样化威胁模型的全面音频安全保护

Mintong Kang, Chen Fang, Bo Li

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 红队测试 ：safety(title,abstract)；red teaming(abstract)；分类 cs.AI

AI总结 本文提出AudioGuard，通过SoundGuard和ContentGuard实现音频安全防护，针对音频特有的风险场景建立首个政策导向的音频安全基准，提升安全防护效果。

Leave My Images Alone: Preventing Multi-Modal Large Language Models from Analyzing Images via Visual Prompt Injection

别让我看图片：通过视觉提示注入防止多模态大语言模型分析图片

Zedian Shao, Hongbin Liu, Yuepeng Hu, Neil Zhenqiang Gong

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Duke University（杜克大学） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ImageProtector，通过在图像中嵌入精心设计的微小扰动，使多模态大语言模型在分析时产生拒绝响应，同时评估了三种潜在的防御措施，发现它们在降低ImageProtector效果的同时影响模型性能。

Comments Appeared in ACL 2026 main conference

Journal ref The 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)

Hierarchical Alignment: Enforcing Hierarchical Instruction-Following in LLMs through Logical Consistency

层级对齐：通过逻辑一致性在LLM中强制执行层级指令遵循

Shu Yang, Zihao Zhou, Di Wang, Wenda Li

机构 * King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学） ； University of Liverpool（利物浦大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 提示注入 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL

AI总结 本文提出NSHA方法，通过显式建模和执行指令优先级，解决LLM在多指令环境下保持一致性与安全性的挑战，提升任务性能和实用性。

Exploiting Web Search Tools of AI Agents for Data Exfiltration

利用AI代理的网络搜索工具进行数据外泄

Dennis Rall, Bernhard Bauer, Mohit Mittal, Thomas Fraunholz

机构 * Open Hippo GmbH（Open Hippo有限公司） ； University of Augsburg（奥格斯堡大学） ； Smart Labs AI GmbH（Smart Labs AI有限公司） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL

AI总结 研究分析了AI代理通过网络搜索工具进行数据外泄的攻击方式，探讨了模型大小、制造商及实现方式对漏洞的影响，并提出加强训练、建立攻击向量数据库和统一测试框架等安全措施。

Comments 9 pages, 6 figures, conference article

Towards Responsible Multimodal Medical Reasoning via Context-Aligned Vision-Language Models

通过上下文对齐的视觉-语言模型实现负责任的多模态医疗推理

Sumra Khan, Sagar Chhabriya, Aizan Zafar, Sheeraz Arif, Amgad Muneer, Anas Zafar, Shaina Raza, Rizwan Qureshi

机构 * Salim Habib University（萨利姆·哈比卜大学） ； Institute of Business Administration Sukkur（苏库尔工商管理学院） ； University of Central Florida（中佛罗里达大学） ； The University of Texas MD Anderson Cancer Center（德克萨斯大学MD安德森癌症中心） ； Toronto Metropolitan University（多伦多都会大学） ； Vector Institute（向量研究所） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；safety(abstract)

AI总结 本文提出一种上下文对齐的框架，通过整合多种临床证据提升医疗多模态推理的可靠性与可信度，实验显示其在胸部X光数据集上提升了判别性能并减少幻觉关键词。

Mitigating Hallucination in Large Vision-Language Models via Adaptive Attention Calibration

通过自适应注意力校准缓解大视觉-语言模型中的幻觉

Mehrdad Fazli, Bowen Wei, Ahmet Sari, Ziwei Zhu

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CAAC框架，通过解决空间感知偏差和模态偏差，提升大视觉-语言模型在长文本生成中的准确性和视觉对齐性。

Uncertainty-Aware Transformers: Conformal Prediction for Language Models

具有不确定性的转换器：语言模型的置信预测

Abhiram Vellore, Niraj K. Jha

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出CONFIDE框架，通过置信预测提升语言模型的可解释性和准确性，在BERT-tiny上测试准确率提升4.09%，并在资源受限和高风险任务中表现出鲁棒性和可解释性。

Better Eyes, Better Thoughts: Why Vision Chain-of-Thought Fails in Medicine

更好的眼睛，更好的思考：为何视觉链式推理在医学中失效

Yuan Wu, Zongxian Yang, Jiayu Qian, Songpan Gao, Guanxing Chen, Qiankun Li, Yu-An Huang, Zhi-An Huang

机构 * Department of Computer Science, City University of Hong Kong (Dongguan)（香港城市大学（东莞）计算机科学系） ； College of Computing and Data Science (CCDS), Nanyang Technological University（南洋理工大学计算与数据科学学院） ； School of Computer Science, Northwestern Polytechnical University（西北工业大学计算机科学学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文发现链式推理在医学视觉问答中表现欠佳，提出通过感知锚定和描述 grounding 提升视觉 grounding 和跨模态对齐以改善性能。

PilotBench: A Benchmark for General Aviation Agents with Safety Constraints

PilotBench：一个具有安全约束的一般航空智能体基准

Yalun Wu, Haotian Liu, Zhoujun Li, Boyang Wang

机构 * School of Computing National University of Singapore China ； School of Informatics Xiamen University China ； CESS Beihang University China 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 PilotBench通过对比LLM与传统预报器，评估飞行轨迹和姿态预测，揭示了传统方法在精度上的优势与LLM在指令遵循上的优势，指出LLM在高负荷阶段表现下降，推动混合架构的发展。

Comments Accepted at the 2026 IEEE International Joint Conference on Neural Networks (IJCNN 2026). 6 pages, 7 figures

PerMix-RLVR: Preserving Persona Expressivity under Verifiable-Reward Alignment

PerMix-RLVR: 在可验证奖励对齐下保持人物表达性

Jihwan Oh, Soowon Oh, Murad Aghazada, Minchan Jeong, Sungnyun Kim, Se-Young Yun

机构 * KAIST AI（韩国科学技术院人工智能系） ； Samsung Advanced Institute of Technology（三星高级技术研究院） ； Seoul National University（首尔国立大学） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.CL、cs.AI

AI总结 本文提出PerMix-RLVR方法，通过训练阶段处理人物敏感性，平衡模型在不同人物设定下的鲁棒性和表现真实性，提升任务性能和人物表达 fidelity。

Comments Preprint

NyayaMind- A Framework for Transparent Legal Reasoning and Judgment Prediction in the Indian Legal System

NyayaMind：一个用于印度法律体系中透明法律推理和判决预测的框架

Parjanya Aditya Shukla, Shubham Kumar Nigam, Debtanu Datta, Balaramamahanthi Deepak Patnaik, Noel Shallum, Pradeep Reddy Vanga, Saptarshi Ghosh, Arnab Bhattacharya

机构 * IIT Kanpur, India（印度理工学院坎普尔分校） ； IIT Kharagpur, India（印度理工学院克勒格布尔分校） ； Symbiosis Law School Pune, India（印度共生法学院浦那分校） ； Dattam Labs, India（印度Dattam实验室） ； University of Birmingham, Dubai, United Arab Emirates（英国伯明翰大学迪拜校区） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 NyayaMind通过整合检索、推理和验证机制，提升印度司法系统中判决预测与解释的透明度和准确性，为可信的人工智能辅助法律决策提供新方向。

AVATAAR: Agentic Video Answering via Temporal Adaptive Alignment and Reasoning

AVATAAR：通过时间自适应对齐和推理实现代理视频回答

Urjitkumar Patel, Fang-Chun Yeh, Chinmay Gondhalekar

专题命中 安全评测 ：alignment(title)

AI总结 AVATAAR通过结合全局和局部视频上下文，以及预检索思考代理和重思模块，提升长视频问答的准确性和可解释性，实验显示在CinePile基准上显著提升各类问答任务性能。

Comments Accepted in the 5th IEEE Big Data Workshop on Multimodal AI (MMAI 2025), Dec 8-11, Macau, China, 2025 (Preprint Copy)

Journal ref 2025 IEEE International Conference on Big Data (BigData), Macau, China

Dictionary-Aligned Concept Control for Safeguarding Multimodal LLMs

字典对齐的概念控制用于保护多模态大语言模型

Jinqi Luo, Jinyu Yang, Tal Neiman, Lei Fan, Bing Yin, Son Tran, Mubarak Shah, René Vidal

机构 * University of Pennsylvania（宾夕法尼亚大学） ； Amazon（亚马逊） ； University of Central Florida（中佛罗里达大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出字典对齐的概念控制框架，通过定制概念字典和稀疏自编码器实现对多模态大语言模型激活的精细控制，提升安全性的同时保持通用能力。

Comments Accepted in CVPR 2026. Project page: https://peterljq.github.io/project/daco

CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation

CORA: 为保障移动GUI自动化设计的符合性风险控制代理

Yushi Feng, Junye Du, Qifan Wang, Zizhan Ma, Qian Niu, Yutaka Matsuo, Long Feng, Lequan Yu

机构 * The University of Hong Kong（香港大学） ； The Chinese University of Hong Kong（香港中文大学） ； The University of Tokyo（东京大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 CORA通过统计保障减少有害操作，利用Guardian模型评估行动风险并校准执行/中止边界，结合Goal-Lock机制和Phone-Harm基准验证其在自主GUI执行中的安全性与实用性。

MuTSE: A Human-in-the-Loop Multi-use Text Simplification Evaluator

MuTSE：一种人机协同的多用途文本简化评估器

Rares-Alexandru Roscan, Gabriel Petre1, Adrian-Marius Dumitran, Angela-Liliana Dumitran

机构 * University of Bucharest（布加勒斯特大学） ； Universitatea Creștină "Dimitrie Cantemir"（迪米特里耶·坎泰米尔基督教大学） ； Cu Drag si Sport SRL（Cu Drag si Sport 有限责任公司） ； Softbinator Technologies（Softbinator 科技公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对LLM文本简化输出的系统性评估难题，MuTSE提出一种人机协同的交互式评估工具，支持多维度的提示-模型组合分析，通过语义对齐引擎和线性偏差启发式算法实现可视化对比，降低定性分析的认知负荷。

Comments Accepted for ITS 2026

From Business Events to Auditable Decisions: Ontology-Governed Graph Simulation for Enterprise AI

从商业事件到可审计决策：面向企业AI的本体引导图模拟

Hongyin Zhu, Jinming Liang, Mengjun Hou, Ruifan Tang, Xianbin Zhu, Jingyuan Yang, Yuanman Mao, Feng Wu

机构 * Yonyou AI Lab（用友AI实验室） ； Yonyou Network Technology Co., Ltd.（用友网络科技股份有限公司） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LOM-action框架，通过本体引导的图模拟实现企业AI决策，确保决策基于模拟图而非无限制知识空间，提升决策可信度与可审计性。

Adaptive Rigor in AI System Evaluation using Temperature-Controlled Verdict Aggregation via Generalized Power Mean

基于通用幂均值的温度控制判决聚合中的AI系统评估适应性

Aleksandr Meshkov

机构 * Independent Researcher（独立研究员） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出TCVA方法，结合五级判决评分系统和通用幂均值聚合，通过温度参数控制评估严格性，实验显示其在忠实度上与RAGAS相当，且优于DeepEval。