大模型对齐与安全

Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference

缓存中的阴影：揭示和缓解LLM推理中KV缓存的隐私风险

Zhifan Luo, Shuo Shao, Su Zhang, Lijing Zhou, Yuke Hu, Chenxu Zhao, Zhihao Liu, Zhan Qin

机构 * State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室） ； Zhejiang University（浙江大学） ； Huawei Technology（华为技术） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术区（滨江）区块链与数据安全研究院） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文揭示了KV缓存中存在严重的隐私泄露问题，设计了三种攻击方法并提出KV-Cloak防御机制，有效缓解了隐私风险且不影响模型精度。

Comments This paper is accepted by Network and Distributed System Security Symposium (NDSS) 2026. Code: https://github.com/SiO-2/kvcloak

Journal ref Published in the Proceedings of the 33rd Network and Distributed System Security Symposium (NDSS 2026)

Stable Forgetting: Bounded Parameter-Efficient Unlearning in Foundation Models

稳定遗忘：基础模型中的有界参数高效反遗忘

Arpit Garg, Hemanth Saratchandran, Ravi Garg, Simon Lucey

机构 * Australian Institute for Machine Learning (AIML)（澳大利亚机器学习研究院） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出稳定反遗忘方法，通过限制MLP适配器的权重动态，解决基础模型中反遗忘的不稳定问题，并在多个基准测试中验证其有效性。

Comments In Submission

Morphemes Without Borders: Evaluating Root-Pattern Morphology in Arabic Tokenizers and LLMs

无国界词素：在阿拉伯语分词器和大语言模型中评估根-模式词素学

Yara Alakeel, Chatrine Qwaider, Hanan Aldarmaki, Sawsan Alqahtani

机构 * Saudi Data & AI Authority (SDAIA)（沙特数据与人工智能局） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） ； Princess Nourah Bint Abdulrahman University (PNU)（普罗瑟·努拉·本·阿卜杜勒拉赫曼大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究评估了阿拉伯语分词器和大语言模型在处理根-模式词素学方面的表现，发现分词器的词素对齐并非生成词素学的必要或充分条件。

Comments Accepted at LREC 2026

Privacy-Preserving Explainable AIoT Application via SHAP Entropy Regularization

通过SHAP熵正则化实现隐私保护的可解释AIoT应用

Dilli Prasad Sharma, Xiaowei Sun, Liang Xue, Xiaodong Lin, Pulei Xiong

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于SHAP熵正则化的隐私保护方法，通过惩罚低熵的SHAP属性分布，减少可解释AIoT中的隐私泄露，同时保持高预测准确性和解释忠实性。

Journal ref 2025 IEEE Annual Congress on Artificial Intelligence of Things (AIoT)

Federated Learning: A Survey on Privacy-Preserving Collaborative Intelligence

联邦学习：关于隐私保护协作智能的综述

Ratun Rahman

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文综述了联邦学习的隐私保护协作智能，探讨了其核心架构、技术挑战、新兴趋势及实际应用，旨在推动可扩展、高效和可信的联邦学习系统发展。

Comments arXiv admin note: This paper has been withdrawn by arXiv due to disputed and unverifiable authorship

Balancing Usability and Compliance in AI Smart Devices: A Privacy-by-Design Audit of Google Home, Alexa, and Siri

在AI智能设备中平衡易用性与合规性：对Google Home、Alexa和Siri的隐私设计审计

Trevor De Clark, Yulia Bobkova, Ajay Kumar Shrestha

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过隐私设计审计评估Google Home、Alexa和Siri的隐私与易用性，发现易用性与合规性之间存在权衡，需提升透明度和政策一致性以保护年轻用户隐私。

Comments Published in the 2026 IEEE CCWC proceedings

Journal ref 2026 IEEE 16th Annual Computing and Communication Workshop and Conference (CCWC)

Detecting Cybersecurity Threats by Integrating Explainable AI with SHAP Interpretability and Strategic Data Sampling

通过整合可解释AI与SHAP可解释性及战略数据采样检测网络安全威胁

Norrakith Srisumrith, Sunantha Sodsee

机构 * Dept. of Digital Network and Information Security Management（数字网络与信息安全管理系） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过整合可解释AI与SHAP可解释性及战略数据采样，提升网络安全威胁检测的透明度和效率

Comments 10 pages, 6 figures, accepted for publication in ICTIS 2026

Breaking Data Efficiency Dilemma: A Federated and Augmented Learning Framework For Alzheimer's Disease Detection via Speech

突破数据效率困境：一种联邦学习与增强学习框架用于通过语音检测阿尔茨海默病

Xiao Wei, Bin Wen, Yuqin Lin, Kai Li, Mingyang gu, Xiaobao Wang, Longbiao Wang, Jianwu Dang

机构 * Tianjin Key Laboratory of Cognitive Computing and Application（认知计算与应用天津重点实验室） ； College of Intelligence and Computing, Tianjin University（智能计算学院，天津大学） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院） ； College of Computer and Data Science, Fuzhou University（计算机与数据科学学院，福州大学） ； Huiyan Technology (Tianjin) Co., Ltd（慧研科技（天津）有限公司） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 FAL-AD通过联邦学习与数据增强框架，实现阿尔茨海默病语音检测中的数据效率提升，达到91.52%的多模态准确率。

Comments 5 pages, 1 figures, accepted by ICASSP 2026 conference

Privacy in Human-AI Romantic Relationships: Concerns, Boundaries, and Agency

人机浪漫关系中的隐私：担忧、界限与自主性

Rongjun Ma, Shijing He, Jose Luis Martin-Navarro, Xiao Zhan, Jose Such

机构 * VRAIN, Universitat Politècnica de València（VRAIN，瓦伦西亚理工大学） ； Aalto University（艾尔沃斯大学） ； King’s College London（伦敦国王学院） ； University of Cambridge（剑桥大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨了人机浪漫关系中的隐私问题，通过访谈研究发现，AI伴侣具有自主性，影响隐私界限和用户隐私保护策略。

Comments Accepted at CHI 2026

A Model-Driven Engineering Approach to AI-Powered Healthcare Platforms

基于模型驱动工程的AI赋能医疗平台方法

Mira Raheem, Amal Elgammal, Michael Papazoglou, Bernd Krämer, Neamat El-Tazi

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于模型驱动工程的医疗AI框架，通过医学互操作性语言和联邦学习实现数据隐私保护与高预测性能。

Comments Disclaimer: This manuscript is currently under review at * MDPI Informatics*

Journal ref Informatics 2026

XGeM: A Multi-Prompt Foundation Model for Multimodal Medical Data Generation

XGeM：一种多提示基础模型，用于多模态医学数据生成

Daniele Molino, Francesco Di Feola, Eliodoro Faiella, Deborah Fazzini, Domiziana Santucci, Linlin Shen, Valerio Guarrasi, Paolo Soda

机构 * Unit of Artificial Intelligence and Computer Systems, Department of Engineering, Università Campus Bio-Medico di Roma（人工智能与计算机系统单位，工程系，罗马生物医学大学） ； Department of Diagnostics and Intervention, Biomedical Engineering and Radiation Physics, Umeå University（诊断与介入部门，生物医学工程与辐射物理，乌梅大学） ； Department of Diagnostic Imaging and Stereotactic Radiosurgey, Centro Diagnostico Italiano S.p.A.（诊断影像与立体放射外科部门，意大利诊断中心股份有限公司） ； Department of Radiology and Interventional Radiology, Fondazione Policlinico Universitario Campus Bio-Medico（放射科与介入放射科，大学医学中心生物医学校园基金会） ； Research Unit of Radiology and Interventional Radiology, Department of Medicine and Surgery, Università Campus Bio-Medico di Roma（放射科与介入放射科研究单位，医学与外科系，罗马生物医学大学） ； College of Computer Science and Software Engineering, Shenzhen University（计算机科学与软件工程学院，深圳大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 XGeM是一种多模态生成模型，通过多提示训练策略实现灵活的医学数据合成，解决多模态数据生成中的临床一致性与数据稀缺问题。

Zero2Text: Zero-Training Cross-Domain Inversion Attacks on Textual Embeddings

Zero2Text: 无训练跨域反向攻击文本嵌入

Doohyun Kim, Donghwa Kang, Kyungjae Lee, Hyeongboo Baek, Brent Byunghoon Kang

机构 * School of Computing, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院计算学院） ； Graduate School of Information Security, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院信息安全研究生院） ； Department of Artificial Intelligence, University of Seoul, Seoul, Republic of Korea（首尔大学人工智能系） ； Department of Computer Science, University of Seoul, Seoul, Republic of Korea（首尔大学计算机科学系） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 Zero2Text通过递归在线对齐机制，在无训练情况下实现跨域文本嵌入反向攻击，有效对抗传统防御手段，实验显示其在恢复句子方面表现优异。

Comments 10 pages

Rethinking Anonymity Claims in Synthetic Data Generation: A Model-Centric Privacy Attack Perspective

重新思考合成数据生成中的匿名性主张：一种以模型为中心的隐私攻击视角

Georgi Ganev, Emiliano De Cristofaro

机构 * UCL（伦敦大学学院） ； SAS（SAS公司） ； UC Riverside（加州大学河滨分校） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CY、cs.LG

AI总结 本文从模型为中心的视角重新审视合成数据生成中的匿名性主张，强调需考虑生成模型能力和隐私攻击，指出合成数据技术不足以保证匿名性，并比较差分隐私与相似性隐私度量的优劣。

Ad Insertion in LLM-Generated Responses

在大语言模型生成响应中插入广告

Shengwei Xu, Zhaohua Chen, Xiaotie Deng, Zhiyi Huang, Grant Schoenebeck

机构 * University of Michigan（密歇根大学） ； Peking University（北京大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了解耦广告插入与响应生成、以及竞价与用户查询的框架，通过基于类型拍卖机制实现近最优的社会福利，同时提高计算效率和上下文一致性。

Comments 31 pages, 8 figures

AI-in-the-Loop: Privacy Preserving Real-Time Scam Detection and Conversational Scambaiting by Leveraging LLMs and Federated Learning

AI-in-the-Loop：通过利用LLMs和联邦学习实现隐私保护的实时诈骗检测与对话诈骗

Ismail Hossain, Sai Puppala, Md Jahangir Alam, Sajedul Talukder

机构 * University of Texas at El Paso（德克萨斯理工大学） ； School of Computing（计算机学院） ； Southern Illinois University Carbondale（南方伊利诺伊大学卡本达莱分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种结合联邦学习和LLMs的AI-in-the-loop框架，用于实时诈骗检测与对话诈骗，实现了隐私保护与安全审查的统一。

Comments This paper got accepted in 26th Privacy Enhancing Technologies Symposium (PETS 2026). We uploaded it into ArXiv as pre-print

User Perceptions vs. Proxy LLM Judges: Privacy and Helpfulness in LLM Responses to Privacy-Sensitive Scenarios

用户感知与代理LLM评判：隐私与帮助性在隐私敏感场景中的LLM响应

Xiaoyuan Wu, Roshni Kaushik, Wenkai Li, Lujo Bauer, Koichi Onoue

机构 * Fujitsu Research of America Inc.（富士通美国研究所） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究发现用户对LLM响应的隐私和帮助性感知与代理LLM评判存在显著差异，需加强用户为中心的评估以提升隐私保护与实用性平衡。

Exploring Approaches for Detecting Memorization of Recommender System Data in Large Language Models

探索用于检测大型语言模型中推荐系统数据记忆的方法

Antonio Colacicco, Vito Guida, Dario Di Palma, Fedelucio Narducci, Tommaso Di Noia

机构 * Politecnico di Bari（巴里理工大学） 纠错

专题命中 隐私与版权 ：jailbreak(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出三种方法探索大型语言模型中推荐系统数据记忆的检测，发现自动优化提示是提取记忆样本最有效的方法。

ZKPROV: A Zero-Knowledge Approach to Dataset Provenance for Large Language Models

ZKPROV: 一种用于大语言模型数据溯源的零知识方法

Mina Namazi, Alexander Nemecek, Erman Ayday

机构 * Open University of Catalonia（加泰罗尼亚开放大学） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 ZKPROV通过零知识证明实现大语言模型的数据溯源验证，保障数据隐私与效率平衡，适用于医疗等敏感领域。

Comments 16 pages, 3 figures

Feature-Selective Representation Misdirection for Machine Unlearning

特征选择性表示误导用于机器去学习

Taozhao Chen, Linghan Huang, Kim-Kwang Raymond Choo, Huaming Chen

机构 * University of Sydney（悉尼大学） ； University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 SRMU通过特征意识的激活编辑框架，实现安全驱动的模型去学习，有效抑制有害表示并保持模型效用。

Safer Prompts: Reducing Risks from Memorization in Visual Generative AI

更安全的提示：减少视觉生成AI中记忆化风险

Lena Reissinger, Yuanyuan Li, Anna-Carolina Haensch, Neeraj Sarna

机构 * Ludwig Maximilian University of Munich（慕尼黑路易斯·马克西米利安大学） ； Munich RE（慕尼黑RE） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出通过提示工程技术减少视觉生成AI中因记忆训练数据导致的安全风险，提升生成图像与训练数据的相似性降低，同时保持输出的相关性和美观性。

A Privacy-Preserving Cloud Architecture for Distributed Machine Learning at Scale

大规模分布式机器学习的隐私保护云架构

Vinoth Punniyamoorthy, Ashok Gadi Parthi, Mayilsamy Palanigounder, Ravi Kiran Kodali, Bikesh Kumar, Kabilan Kannan

机构 * Texas, USA（德克萨斯大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种结合联邦学习、差分隐私和强化学习的隐私保护云架构，实现安全的分布式机器学习部署与持续合规治理。

Journal ref International Journal of Engineering Research & Technology 2025

Melody or Machine: Detecting Synthetic Music with Dual-Stream Contrastive Learning

旋律或机器：基于双流对比学习的合成音乐检测

Arnesh Batra, Dev Sharma, Krish Thukral, Ruhani Bhatia, Naman Batra, Aditya Gautam

机构 * Indraprastha Institute of Information Technology Delhi (IIIT-Delhi)（印度理工学院德里分校） ； Manipal University Jaipur（曼海姆大学斋普尔） ； Netaji Subhas University of Technology (NSUT)（尼赫鲁大学技术学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MoM基准和CLAM架构，通过双流对比学习检测合成音乐，实现高精度的合成音乐识别

Comments Accepted at Transactions on Machine Learning Research (TMLR)

DeepPersona: A Generative Engine for Scaling Deep Synthetic Personas

DeepPersona: 一个用于扩展深度合成人设的生成引擎

Zhen Wang, Yufan Zhou, Zhongyan Luo, Lyumanshan Ye, Adam Wood, Man Yao, Saab Mansour, Luoshang Pan

机构 * UCSD（加州大学圣地亚哥分校） ； KU Leuven（鲁汶大学） ； SJTU（上海交通大学） ； University of Michigan（密歇根大学） ； Denison University（德尼森大学） ； Amazon（亚马逊） ； Meta 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 DeepPersona通过双阶段分类学引导方法生成深度合成人设，提升LLM个性化和人类模拟的准确性与多样性。

Comments add an author[Update], 12 pages, 5 figures, accepted at LAW 2025 Workshop (NeurIPS 2025) Project page: https://deeppersona-ai.github.io/

Journal ref LAW 2025 Workshop, NeurIPS 2025

A Novel Hierarchical Integration Method for Efficient Model Merging in Medical LLMs

Prakrit Timilsina, Anuj Nepal, Rajan Kadel, Robin Doss

机构 * Deakin Cyber Research（德肯网络研究） ； Innovation Centre Deakin University / Universal Higher Education Melbourne, Australia（德肯大学创新中心/通用高等教育墨尔本，澳大利亚） ； School of IT（信息科技学院） ； Engineering Melbourne Institute of Technology Melbourne, Australia（工程墨尔本技术学院墨尔本，澳大利亚） ； Innovation Centre Deakin University Geelong, Australia（德肯大学创新中心吉朗，澳大利亚） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

LLM-Generated Negative News Headlines Dataset: Creation and Benchmarking Against Real Journalism

Olusola Babalola, Bolanle Ojokoh, Olutayo Boyinbode

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

Comments 50 pages, 19 figures, 9 tables

Simulator and Experience Enhanced Diffusion Model for Comprehensive ECG Generation

Xiaoda Wang, Kaiqiao Han, Yuhao Xu, Xiao Luo, Yizhou Sun, Wei Wang, Carl Yang

机构 * Emory University（埃默里大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

Rethinking Text-based Protein Understanding: Retrieval or LLM?

Juntong Wu, Zijing Liu, He Cao, Hao Li, Bin Feng, Zishan Shu, Ke Yu, Li Yuan, Yu Li

机构 * Peking University, Shenzhen Graduate School（北京大学深圳研究生院） ； International Digital Economy Academy (IDEA)（国际数字经济学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

Comments Accepted by Empirical Methods in Natural Language Processing 2025 (EMNLP 2025) Main Conference

Retracing the Past: LLMs Emit Training Data When They Get Lost

Myeongseob Ko, Nikhil Reddy Billa, Adam Nguyen, Charles Fleming, Ming Jin, Ruoxi Jia

机构 * Virginia Tech（弗吉尼亚理工大学） ； Cisco Research（思科研究） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

Comments The 2025 Conference on Empirical Methods in Natural Language Processing

REMIND: Input Loss Landscapes Reveal Residual Memorization in Post-Unlearning LLMs

Liran Cohen, Yaniv Nemcovesky, Avi Mendelson

机构 * Technion - Israel Institute of Technology（技术离子-以色列理工学院） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL、cs.LG

Comments Pre-print version under review

Hierarchical Federated Learning for Crop Yield Prediction in Smart Agricultural Production Systems

Anas Abouaomar, Mohammed El hanjri, Abdellatif Kobbane, Anis Laouiti, Khalid Nafil

机构 * ENSIAS, Mohammed V University in Rabat（ENSIAS，摩洛哥拉巴特穆罕默德五世大学） ； Samovar, Télécom SudParis, Institut Polytechnique de Paris（Samovar，电信南巴黎，巴黎理工学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

Comments 6 pages, 3 figures, conference