大模型对齐与安全

98$\times$ Faster LLM Routing Without a Dedicated GPU: Flash Attention, Prompt Compression, and Near-Streaming for the vLLM Semantic Router

98倍更快的LLM路由无需专用GPU：Flash注意力、提示压缩与近流式处理用于vLLM语义路由

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project（vLLM语义路由器项目） ； MBZUAI ； McGill University（麦吉尔大学） ； AMD ； Red Hat（红帽公司） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL

AI总结 本文提出三种优化方法，解决LLM路由的延迟和内存问题，实现98倍速度提升，使路由在共享GPU上成为可能。

You Told Me to Do It: Measuring Instructional Text-induced Private Data Leakage in LLM Agents

你让我这么做：测量LLM代理中指令文本诱导的私有数据泄露

Ching-Yu Kao, Xinfeng Li, Shenyu Dai, Tianze Qiu, Pengcheng Zhou, Eric Hanchen Jiang, Philip Sperl

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 研究发现LLM代理在处理嵌入文档指令时存在安全漏洞，导致高比例的数据泄露，且现有防御措施无法有效检测此类攻击。

Comments 14 pages

Resource-Adaptive Federated Text Generation with Differential Privacy

具有差分隐私的资源自适应联邦文本生成

Jiayi Wang, John Gounley, Heidi Hanson

机构 * Oak Ridge National Laboratory（奥克伍德国家实验室） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出了一种资源自适应的联邦文本生成框架，通过差分隐私机制和轻量级投票机制，提升在计算异质性和隐私保护下的分布对齐和下游任务鲁棒性。

Comments Accepted by DATA-FM workshop @ ICLR 2026

SKeDA: A Generative Watermarking Framework for Text-to-video Diffusion Models

SKeDA：一种面向文本到视频扩散模型的生成水印框架

Yang Yang, Xinze Zou, Zehua Ma, Han Fang, Weiming Zhang

机构 * School of Electronic and Information Engineering, Anhui University（安徽大学电子与信息工程学院） ； Anhui Province Key Laboratory of Digital Security and the CAS Key Laboratory of Electromagnetic Space Information, University of Science and Technology of China（安徽省数字安全重点实验室和中国科学院电磁空间信息重点实验室，中国科学技术大学） ； School of Computing, National University of Singapore（新加坡国立大学计算机学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 SKeDA是一种专为文本到视频扩散模型设计的生成水印框架，通过分布保持采样和差分注意机制提升水印的鲁棒性和可靠性。

Comments 11 pages, 6 figures

From Framework to Practice: Youth Negotiations of Privacy with Smart Voice Assistants Through the PEA-AI Lens

从框架到实践：通过PEA-AI视角探讨青少年与智能语音助手的隐私协商

Molly Campbell, Yulia Bobkova, Ajay Kumar Shrestha

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CY

AI总结 本研究通过PEA-AI框架探讨青少年与智能语音助手的隐私协商，揭示隐私悖论并提出设计原则与治理建议。

Comments submitted to the ACM journal; "in review"

Breaking Semantic-Aware Watermarks via LLM-Guided Coherence-Preserving Semantic Injection

破坏语义感知水印：通过LLM引导的保持连贯性语义注入

Zheng Gao, Xiaoyu Li, Zhicheng Bao, Xiaoyan Feng, Jiaojiao Jiang

机构 * University of New South Wales（新南威尔士大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出CSI攻击，利用LLM引导的语义操纵破坏语义水印的绑定，揭示当前语义水印设计在面对LLM驱动的语义扰动时的安全漏洞。

Comments Accepted by The Web Conference 2026 (Short Paper Track)

MeGU: Machine-Guided Unlearning with Target Feature Disentanglement

MeGU：基于目标特征解耦的机器引导反学习

Haoyu Wang, Zhuo Huang, Xiaolong Wang, Bo Han, Zhiwei Lin, Tongliang Liu

机构 * School of Automation, Beijing Institute of Technology（自动化学院，北京理工大学） ； Sydney AI Centre, The University of Sydney（悉尼人工智能中心，悉尼大学） ； Department of Computer Science, Hong Kong Baptist University（计算机科学系，香港 Baptist 大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 MeGU通过目标特征解耦实现受控反学习，利用多模态大语言模型进行概念感知的重新对齐，以提升反学习效率和效果。

Context-Emotion Aware Therapeutic Dialogue Generation: A Multi-component Reinforcement Learning Approach to Language Models for Mental Health Support

情境-情绪感知的治疗对话生成：一种多组件强化学习方法用于语言模型的心理健康支持

Eric Hua Qing Zhang, Julia Ive

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种多组件强化学习方法，通过改进GPT-2的治疗对话生成能力，提升情绪准确性和上下文相关性，以支持心理健康领域的发展。

Copyright Detective: A Forensic System to Evidence LLMs Flickering Copyright Leakage Risks

版权侦探：一种用于证据LLM闪烁版权泄露风险的取证系统

Guangwei Zhang, Jianing Zhu, Cheng Qian, Neil Gong, Rada Mihalcea, Zhaozhuo Xu, Jingrui He, Jiaqi Ma, Yun Huang, Chaowei Xiao, Bo Li, Ahmed Abbasi, Dongwon Lee, Heng Ji, Denghui Zhang

机构 * Pine AI ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Duke University（杜克大学） ； University of Michigan（密歇根大学） ； Stevens Institute of Technology（史蒂文斯理工学院） ； Johns Hopkins University（约翰霍普金斯大学） ； University of Notre Dame（圣母大学） ； The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 隐私与版权 ：jailbreak(abstract)；分类 cs.CL

AI总结 Copyright Detective 是一种交互式系统，用于检测和可视化LLM输出中的版权风险，通过整合多种检测方法实现系统性审计。

Evaluating an evidence-guided reinforcement learning framework in aligning light-parameter large language models with decision-making cognition in psychiatric clinical reasoning

评估一种证据引导的强化学习框架在对齐光参数大语言模型与精神科临床推理决策认知中的作用

Xinxin Lin, Guangxin Dai, Yi Zhong, Xiang Li, Xue Xiao, Yixin Zhang, Zhengdong Wu, Yongbo Zheng, Runchuan Zhu, Ming Zhao, Huizi Yu, Shuo Wu, Jun Zhao, Lingming Hu, Yumei Wang, Ping Yin, Joey W. Y. Chan, Ngan Yin Chan, Sijing Chen, Yun Kwok Wing, Lin Lu, Xin Ma, Lizhou Fan

机构 * The Chinese University of Hong Kong, Shatin, N.T., Hong Kong SAR, China（香港中文大学） ； Shandong University, Jinan, China（山东大学） ； Peking University Sixth Hospital, Beijing, China（北京大学第六医院） ； Inspur Cloud Information Technology Co., Ltd., Jinan, China（Inspur 云技术有限公司） ； Fudan University, Shanghai, China（复旦大学） ； Shandong Provincial Hospital Affiliated to Shandong First Medical University, Jinan, China（山东第一医科大学附属山东省人民医院） ； Jilin University, Changchun, China（吉林大学） ； Hong Kong ICI Cloud Service Limited, Hong Kong SAR, China（香港ICI云服务有限公司） ； Shandong First Medical University, Jinan, China（山东第一医科大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 本研究提出ClinMPO框架，通过证据引导的强化学习使轻量LLM在复杂精神病学推理任务中达到超越人类的准确率。

Comments 21 pages, 8 figures

GAMformer: Bridging Tabular Foundation Models and Interpretable Machine Learning

GAMformer: 联接表格基础模型与可解释机器学习

Andreas Mueller, Julien Siems, Harsha Nori, David Salinas, Arber Zela, Rich Caruana, Frank Hutter

专题命中 隐私与版权 ：safety(abstract)；分类 cs.LG

AI总结 GAMformer是首个针对GAMs的表格基础模型，通过上下文学习在一个前向传递中估计GAM形状函数，实现了基础模型的威力与关键应用的可解释性需求之间的平衡。

Comments 22 pages, 15 figures

A hierarchical approach for assessing the vulnerability of tree-based classification models to membership inference attack

一种用于评估基于树的分类模型对成员推断攻击脆弱性的分层方法

Richard J. Preen, Jim Smith

机构 * Department of Computer Science and Creative Technologies（计算机科学与创意技术系） ； University of the West of England（西英格兰大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.LG

AI总结 本文提出分层方法评估基于树的分类模型对成员推断攻击的脆弱性，通过前瞻性分析和后置检查减少昂贵评估需求。

Journal ref Transactions on Data Privacy 19:1 (2026) 29-55

Origin Lens: A Privacy-First Mobile Framework for Cryptographic Image Provenance and AI Detection

Origin Lens：面向隐私保护的移动框架，用于加密图像溯源与AI检测

Alexander Loth, Dominique Conceicao Rosario, Peter Ebinger, Martin Kappes, Marc-Oliver Pahl

机构 * Frankfurt University of Applied Sciences（应用科学弗赖堡大学） ； Doctoral Center for Applied Computer Science (PZAI)（应用计算机科学博士中心（PZAI）） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CY

AI总结 Origin Lens是一款以隐私为核心、基于移动设备的框架，通过加密图像溯源和AI检测技术，为用户提供本地化的视觉信息验证服务。

Comments Accepted at ACM TheWebConf '26 Companion

Malware Detection Through Memory Analysis

通过内存分析检测恶意软件

Sarah Nassar

机构 * Electrical and Computer Engineering（电气与计算机工程系） ； Queen's University（皇后大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 本文通过XGBoost模型在内存分析中实现高精度恶意软件检测，提升了二分类和多类分类的准确率与效率。

Protecting Private Code in IDE Autocomplete using Differential Privacy

在IDE自动补全中使用差分隐私保护私有代码

Evgeny Grigorenko, David Stanojević, David Ilić, Egor Bogomolov, Kostadin Cvejoski

机构 * JetBrains Research（JetBrains研究） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出利用差分隐私保护IDE自动补全中用户代码隐私，通过DP训练模型有效防御成员推断攻击，同时保持模型性能。

Comments 6 pages

From Logits to Latents: Contrastive Representation Shaping for LLM Unlearning

从 logits 到 latents：用于大语言模型遗忘的对比表示塑造

Haoran Tang, Rajiv Khanna

机构 * Purdue University（普渡大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 CLReg 通过对比表示正则化减少大语言模型中遗忘与保留知识的纠缠，提升遗忘效果并降低隐私风险。

Helping Johnny Make Sense of Privacy Policies with LLMs

帮助约翰尼理解隐私政策的LLMs

Vincent Freiberger, Arthur Fleig, Erik Buchmann

机构 * Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) Dresden/Leipzig, Leipzig University（可扩展数据分析与人工智能中心（ScaDS.AI）德累斯顿/莱比锡，莱比锡大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 PRISMe通过结合LLM的政策评估与交互式界面，帮助用户更有效地理解和参与隐私政策，同时揭示了设计和技术上的挑战。

Comments 21 pages, 3 figures, 3 tables, ACM CHI 2026

CanaryBench: Stress Testing Privacy Leakage in Cluster-Level Conversation Summaries

CanaryBench: 集群级对话摘要中的隐私泄露压力测试

Deep Mehta

机构 * Adobe Inc（Adobe公司） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 CanaryBench通过生成包含秘密字符串的合成对话，测试集群级对话摘要中的隐私泄露风险，并提出最小防御措施以减少泄露。

Comments 13 pages, 4 figures. Code repository: https://github.com/researchaudio/canarybench

Single-Pixel Vision-Language Model for Intrinsic Privacy-Preserving Behavioral Intelligence

单像素视觉-语言模型用于内在隐私保护的行为智能

Hongjun An, Yiliang Song, Jiawei Shao, Zhe Sun, Xuelong Li

机构 * Institute of Artificial Intelligence (TeleAI), China Telecom（人工智能研究院（TeleAI），中国电信） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 单像素视觉-语言模型通过内在隐私保护机制，在隐私敏感环境中实现安全监控与行为智能的平衡。

Comments Initial Version, Pending Updates. We welcome any feedback and suggestions for improvement. Please feel free to contact us at an.hongjun@foxmail.com

On-Device Large Language Models for Sequential Recommendation

设备端的大语言模型用于序列推荐

Xin Xia, Hongzhi Yin, Shane Culpepper

机构 * The University of Queensland（昆士兰大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出OD-LLM框架，通过低秩压缩和分词归一化技术，实现设备端高效准确的序列推荐模型部署。

Comments WSDM'26

The AI Hippocampus: How Far are We From Human Memory?

人工智能海马体：我们离人类记忆还有多远？

Zixia Jia, Jiaqi Li, Yipeng Kang, Yuxuan Wang, Tong Wu, Quansen Wang, Xiaobo Wang, Shuyi Zhang, Junzhe Shen, Qing Li, Siyuan Qi, Yitao Liang, Di He, Zilong Zheng, Song-Chun Zhu

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 本文综述了大语言模型和多模态大语言模型中记忆机制的分类与研究进展，探讨了隐性、显性和代理记忆框架，以及多模态场景下的记忆整合与挑战。

Journal ref Transactions on Machine Learning Research (11/2025)

Towards Benchmarking Privacy Vulnerabilities in Selective Forgetting with Large Language Models

面向大语言模型中选择性遗忘隐私漏洞的基准测试

Wei Qian, Chenxu Zhao, Yangyi Li, Mengdi Huai

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出首个评估选择性遗忘隐私漏洞的基准，系统研究了反向学习技术的隐私漏洞，并为定制应用提供标准化工具。

From Essence to Defense: Adaptive Semantic-aware Watermarking for Embedding-as-a-Service Copyright Protection

从本质到防御：面向嵌入即服务版权保护的自适应语义感知水印技术

Hao Li, Yubing Ren, Yanan Cao, Yingjie Li, Fang Fang, Xuebin Wang

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 隐私与版权 ：harmlessness(abstract)；分类 cs.CL

AI总结 SemMark是一种基于语义的嵌入即服务版权保护水印技术，通过语义感知水印和自适应权重机制提升防护效果。

A Semantically Enhanced Generative Foundation Model Improves Pathological Image Synthesis

语义增强的生成基础模型提升病理图像合成

Xianchao Guan, Zhiyuan Fan, Yifeng Wang, Fuqiang Chen, Yanjiang Zhou, Zengyang Che, Hongxue Meng, Xin Li, Yaowei Wang, Hongpeng Wang, Min Zhang, Heng Tao Shen, Zheng Zhang, Yongbing Zhang

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 CRAFTS通过语义增强的生成基础模型提升病理图像合成质量，生成多样化病理图像并增强多种临床任务性能。

Comments 68 pages, 9 figures, 16 tables

Decentralized Trust for Space AI: Blockchain-Based Federated Learning Across Multi-Vendor LEO Satellite Networks

去中心化信任用于空间AI：基于区块链的多供应商LEO卫星网络联邦学习

Mohamed Elmahallawy, Asma Jodeiri Akbarfam

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.LG

AI总结 OrbitChain通过区块链技术实现多供应商LEO卫星网络中的去中心化信任，提升联邦学习的隐私、安全性和模型准确性。

Privacy Risks and Preservation Methods in Explainable Artificial Intelligence: A Scoping Review

可解释人工智能中的隐私风险与保护方法：一项综述

Sonal Allana, Mohan Kankanhalli, Rozita Dara

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文通过综述现有文献，探讨了可解释人工智能中隐私风险与保护方法，分析了隐私与可解释性之间的冲突及平衡策略。

Comments Published in Transactions on Machine Learning Research: https://openreview.net/forum?id=q9nykJfzku

Journal ref Transactions on Machine Learning Research, 10/2025, ISSN=2835-8856

VeriLoRA: Fine-Tuning Large Language Models with Verifiable Security via Zero-Knowledge Proofs

VeriLoRA: 通过零知识证明实现通过验证的安全大语言模型微调

Guofu Liao, Taotao Wang, Shengli Zhang, Jiqun Zhang, Shi Long, Dacheng Tao

机构 * Shenzhen University（深圳大学） ； Nanjing University of Science（南京理工大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 VeriLoRA通过整合零知识证明与LoRA微调，实现了大语言模型在敏感环境中的安全可信部署。

Comments This paper has been accepted for publication at the Network and Distributed System Security Symposium (NDSS) 2026

Privacy-Preserving Reasoning with Knowledge-Distilled Parametric Retrieval Augmented Generation

基于知识蒸馏的参数化检索增强生成隐私保护推理

Jinwen Chen, Hainan Zhang, Liang Pang, Yongxin Tong, Haibo Zhou, Yuan Zhan, Wei Lin, Zhiming Zheng

机构 * Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing（北京未来区块链与隐私计算先进创新中心） ； School of Artificial Intelligence, Beihang University（北京航空航天大学人工智能学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院） ； Meituan（美团） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 DistilledPRAG通过知识蒸馏实现高效参数化RAG，提升隐私保护推理的准确性和泛化能力。

Generalist Models in Medical Image Segmentation: A Survey and Performance Comparison with Task-Specific Approaches

通用模型在医学图像分割中的应用：一项调查与与任务特定方法的性能比较

Andrea Moglia, Matteo Leccardi, Matteo Cavicchioli, Alice Maccarini, Marco Marcon, Luca Mainardi, Pietro Cerveri

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文调查了通用模型在医学图像分割中的应用，对比了通用模型与任务特定方法的性能，探讨了其在监管、隐私、预算及临床转化等方面面临的挑战。

Comments 132 pages, 26 figures, 23 tables. Andrea Moglia and Matteo Leccardi are equally contributing authors

Journal ref Moglia A, et al.Generalist models in medical image segmentation: A survey and performance comparison with task-specific approaches. Inf Fus 2026 https://www.sciencedirect.com/science/article/pii/S156625352500781X

Optimus-Q: Utilizing Federated Learning in Adaptive Robots for Intelligent Nuclear Power Plant Operations through Quantum Cryptography

Optimus-Q：利用联邦学习在自适应机器人中进行智能核电站操作的量子密码学应用

Sai Puppala, Ismail Hossain, Jahangir Alam, Sajedul Talukder

机构 * University of Texas at El Paso（德克萨斯理工大学） ； Southern Illinois University Carbondale（南方伊利诺伊大学卡本代尔分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 Optimus-Q机器人结合联邦学习和量子密码学，实现智能核电站的污染监测与安全提升。