大模型对齐与安全

Federated Learning for Object Detection: Enabling Collaborative Drone Learning Without Centralizing Data

用于目标检测的联邦学习：实现无需集中数据的协作式无人机学习

Daniel M. Jimenez-Gutierrez, Enrique Zuazua, Georgios Kellaris, Joaquin del Rio, Oleksii Sliusarenko, Xabi Uribe-Etxebarria

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究将联邦学习应用于无人机目标检测，通过本地保留图像数据实现隐私保护，在KIIT - MiTA数据集上实现联邦目标检测管道，对比单无人机和集中式基线，结果显示该方法可实现分布式无人机机群的可扩展、高性能且隐私保护的目标检测。

Hidden-State Privacy Has an Empty Middle

隐藏状态隐私存在空中间

Alexander Okezue Bell

机构 * Stanford University（斯坦福大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 通过理论下界和实验证明，高斯释放机制在隐藏状态隐私中无法同时实现中等效用和隐私，存在空中间区域，并提出了对角逆Fisher机制作为最优解。

Comments 74 pages, 61 figures

Prompt Optimization for User Simulation in Conversational Recommender Systems: A Multi-Objective Framework

对话推荐系统中用户模拟的提示优化：一个多目标框架

Nipun B Nair, Tongtong Wu, Weiqing Wang

机构 * Monash University（莫纳什大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出多目标框架自动优化LLM提示，以生成更真实、多样化的用户模拟行为，缓解对话推荐系统中的评估与数据获取难题。

Comments to be published in 2026 IEEE 42nd International Conference on Data Engineering Workshops (ICDEW)

Paying to Know: Micro-Transaction Markets for Verified Product Information in Agentic E-Commerce

付费知情：代理型电商中已验证产品信息的微交易市场

Filippos Ventirozos, Matthew Shardlow

机构 * Manchester Metropolitan University（曼彻斯特城市大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 提出代理型电商作为已验证信息的微交易市场，买家代理通过微支付逐步获取卖家与评论者提供的数据，以解决信息可信度瓶颈，并转化为具体NLP问题。

Comments 8 pages, 1 figure. Vision paper, under review

Understanding U.S. Users' Security and Privacy Transparency Needs for Consumer-Facing Generative AI

用户在面向消费者的人工智能生成技术中需要哪些安全和隐私透明度

Jiaxun Cao, Yu Dong, Chunxi Zhan, Rithvik Neti, Sai Teja Peddinti, Pardis Emami-Naeini

机构 * Duke University（杜克大学） ； Duke Kunshan University（杜克昆山大学） ； Google（谷歌） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结 研究探讨用户在使用面向消费者的人工智能生成技术时对安全和隐私信息的需求，发现现有信息不足以驱动初始采用，用户更依赖流行度等粗略指标，后续使用中不确定性影响用户行为，提出需可信信息和易用界面的透明度设计。

Comments To Appear at the Twenty-Second Symposium on Usable Privacy and Security (SOUPS) 2026

OFMU: Optimization-Driven Framework for Machine Unlearning

OFMU：面向机器遗忘的优化驱动框架

Sadia Asif, Mohammad Mohammadi Amiri

机构 * Rensselaer Polytechnic Institute（拉特格斯理工学院） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出OFMU，一种基于惩罚的双层优化框架，通过层次结构优先遗忘并保持保留性能，在视觉和语言基准上优于现有方法。

Comments Under review at ICLR 2026

WebSP-Eval: Evaluating Web Agents on Website Security and Privacy Tasks

WebSP-Eval：在网站安全与隐私任务上评估网络代理

Guruprasad Viswanathan Ramesh, Asmit Nayak, Basieem Siddique, Kassem Fawaz

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出WebSP-Eval框架，通过200个任务实例和自动化评估器，测试多模态大模型在网站安全与隐私任务上的表现，发现状态UI元素（如开关）导致超过45%的任务失败。

Comments Accepted at PETS 2026. Project Page: https://wiscprivacy.com/webspeval/

Efficient Zeroth-Order Federated Finetuning of Language Models on Resource-Constrained Devices

资源受限设备上语言模型的高效零阶联邦微调

Mohamed Aboelenien Ahmed, Kilian Pfeiffer, Ramin Khalili, Heba Khdr, Jörg Henkel

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） ； Huawei（华为） ； Heisenberg Research Center (Munich), Germany（海森堡研究中心（慕尼黑），德国） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种基于零阶优化的联邦微调方法，通过分块模型并分配更多扰动到后一块，复用中间激活减少前向评估次数，在保持内存和通信优势的同时将计算量降低至其他零阶方法的1/3。

Comments Published at TMLR

TrustErase: Auditable Instant Machine Unlearning with Passport-Embedded Representations

TrustErase：基于护照嵌入表示的可审计即时机器遗忘

Rutger Hendrix, Leonardo G. Russo, Concetto Spampinato, Matteo Pennisi, Giovanni Bellitto

机构 * University of Catania（卡塔尼亚大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 提出TrustErase框架，利用护照嵌入表示实现无需数据、可验证的即时遗忘，通过参数高效适配层中的护照作为密钥，仅需停用即可移除特定类别或数据集，无需重训练或微调。

Privacy-Preserving Text Sanitization for Distributed Agents Collaboration via Disentangled Representations

基于解耦表示的分布式智能体协作隐私保护文本净化

Xuan Liu, Hefeng Zhou, Sicheng Chen, Chao Yang, Xingcheng Xu, Jingjing Qu, Jiong Lou, Jie LI, Xia Hu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出DiSan框架，通过解耦文本为任务语义和风格子空间，结合联邦原型对齐与对抗正则化，在分布式多智能体协作中实现隐私保护，显著降低风格归因和PII泄露。

SDFLoRA: Selective Decoupled Federated LoRA for Privacy-preserving Fine-tuning with Heterogeneous Clients

SDFLoRA: 面向异构客户隐私保护微调的选择性解耦联邦LoRA

Zhikang Shen, Jianrong Lu, Haiyuan Wan, Jianhai Chen

机构 * Zhejiang University（浙江大学） ； Tsinghua University（清华大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出SDFLoRA，通过将LoRA更新解耦为共享和私有组件，仅聚合共享部分并注入差分隐私噪声，解决联邦微调中的秩异构和数据异构问题，提升隐私-效用权衡。

Dep-LLM: Training-Free Depression Diagnosis via Evidence-Guided Structured Multi-factor with Reliable LLM Reasoning

Dep-LLM：基于证据引导的结构化多因素与可靠LLM推理的无训练抑郁症诊断

Yiqing Lyu, Xianbing Zhao, Buzhou Tang, Ronghuan Jiang

机构 * School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen, Guangdong, China（哈尔滨工业大学（深圳）计算机科学与技术学院） ； School of Artificial Intelligence and Computer Science, Jiangnan University, Wuxi, China（江南大学人工智能与计算机学院） ； Guangdong Provincial Key Laboratory of Intelligent Information Processing（广东省智能信息处理重点实验室） ； Pengcheng Laboratory（鹏城实验室） ； Chinese People’s Liberation Army General Hospital, Beijing, China（中国人民解放军总医院） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 提出无训练框架Dep-LLM，通过思维链多因素分析、置信度调制和协作预测，在冻结LLM上实现抑郁症诊断，超越零样本和微调方法。

FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning

FedTreeLoRA：协调联邦LoRA微调中的统计异质性与功能异质性

Jieming Bian, Lei Wang, Letian Zhang, Jie Xu

机构 * University of Florida, Gainesville, FL 32611（佛罗里达大学） ； Middle Tennessee State University Murfreesboro, TN 37132（中田纳西州立大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 针对联邦LoRA微调中统计异质性与功能异质性正交耦合的问题，提出树结构聚合框架FedTreeLoRA，通过逐层对齐实现泛化与个性化的有效平衡。

Comments Accepted by ICML 2026

SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking

SWAP：通过顺序水印实现软提示的版权审计

Wenyuan Yang, Yichen Sun, Changzheng Chen, Zhixuan Chu, Jiaheng Zhang, Yiming Li, Dacheng Tao

机构 * Sun Yat-sen University（中山大学） ； Zhejiang University（浙江大学） ； National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 隐私与版权 ：harmlessness(abstract)；分类 cs.AI、cs.LG

AI总结 针对软提示的版权保护问题，提出一种基于顺序水印的审计方法SWAP，通过将水印嵌入到更复杂的输出分布顺序空间中，实现无害且鲁棒的版权验证。

Comments This paper has been accepted by the International Journal of Computer Vision (IJCV), 2026. The first two authors contributed equally to this work. 28 pages

Addressing the Reality Gap: A Three-Tension Framework for Agentic AI Adoption

弥合现实鸿沟：面向智能体AI采纳的三重张力框架

Jason Fournier, Kacper Łodzikowski

机构 * Imagine Learning ； Adam Mickiewicz University in Poznań（波兹南亚当·密茨凯维奇大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出一个三重张力框架，用于指导教育领域在采纳智能体AI时平衡实施可行性、适应速度和使命契合度，以实现教育个性化和公平性。

Comments This is a preprint version of an edited book chapter to appear in Mayrath, M., J. Behrens, D. Robinson, (eds) (2026). Handbook of Generative AI in Education: Integrating Research into Practice, Springer

The Bayesian Geometry of Transformer Attention

Transformer 注意力的贝叶斯几何

Naman Agarwal, Siddhartha R. Dalal, Vishal Misra

机构 * Columbia University（哥伦比亚大学） ； Columbia University School of Professional Studies（哥伦比亚大学专业研究学院） ； Department of Statistics（统计学系） ； Columbia University Department of Computer Science（哥伦比亚大学计算机科学系） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过构建贝叶斯风道，验证了Transformer在上下文中的贝叶斯推理能力，发现其通过几何机制实现后验更新与路由，揭示了注意力机制的必要性及扁平架构的不足。

Comments v2: Add dual-entropy measurement framework (H_I, H_P, \r{ho} = H_P/H_I); incorporate Overleaf revisions; fix duplicate bibliography entries (akyurek mashup; openai title; legacy aliases removed)

GONE: Structural Knowledge Unlearning via Neighborhood-Expanded Distribution Shaping

GONE: 通过邻域扩展分布塑造实现结构知识卸载

Chahana Dahal, Ashutosh Balasubramaniam, Zuobin Xiong

机构 * University of Nevada, Las Vegas（内华达大学拉斯维加斯分校） ； Indian Institute of Technology Guwahati（印度理工学院古瓦哈提分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出GONE基准，用于评估LLM在结构知识图谱中的知识卸载能力，引入NEDS框架通过图连接性识别相关邻居，实现精确的遗忘边界划分，展示出在知识编辑和卸载任务中的优越性能。

Privacy-Aware Video Anomaly Detection through Orthogonal Subspace Projection

通过正交子空间投影实现隐私感知的视频异常检测

Lei Wang, Wenxiang Diao, Andrew Busch, Jun Zhou, Yongsheng Gao

机构 * School of Engineering and Built Environment, Griffith University（格里菲斯大学工程与环境学院） ； School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院） ； School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出正交投影层（OPL）和引导OPL（G-OPL），通过去除无关变化提升异常检测相关特征，同时抑制面部属性以保护隐私，实验表明隐私约束能减少敏感信息并保持检测精度。

Comments Accepted as a Spotlight paper at the Forty-Third International Conference on Machine Learning (ICML 2026)

SMI: Statistical Membership Inference for Reliable Unlearned Model Auditing

SMI: 统计成员推断用于可靠未学习模型审计

Jialong Sun, Zeming Wei, Jiaxuan Zou, Jiacheng Gong, Jie Fu, Chengyang Dong, Heng Xu, Jialong Li, Bo Liu

机构 * Shenzhen University of Advanced Technology（深圳先进技术大学） ； Peking University（北京大学） ； Xi’an Jiaotong University（西安交通大学） ； Heilongjiang University（黑龙江大学） ； Stevens Institute of Technology（斯蒂文斯理工学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SMI方法，通过统计成员混合比例评估未学习模型的遗忘率，无需训练影子模型，有效解决传统成员推断攻击的局限性。

FedACT: Concurrent Federated Intelligence across Heterogeneous Data Sources

FedACT: 在异构数据源上实现协同联邦智能

Md Sirajul Islam, Isabelle G Chapman, N I Md Ashafuddula, Xu Yuan, Li Chen, Nian-Feng Tzeng, Klara Nahrstedt

机构 * School of Computing and Informatics, University of Louisiana at Lafayette, USA（路易斯安那州立大学拉斐特分校计算机与信息学院） ； Department of Computer and Information Sciences, University of Delaware, USA（德雷塞尔大学计算机与信息科学系） ； Department of Computer Science, University of Illinois at Urbana-Champaign, USA（伊利诺伊大学厄巴纳-香槟分校计算机科学系） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 FedACT通过动态调度异构设备优化联邦学习任务，减少平均完成时间并提升模型精度，适用于多任务协同学习场景。

Data-Centric Foundation Models in Computational Healthcare: A Survey

计算医学中的数据驱动基础模型：一项综述

Yunkun Zhang, Jin Gao, Zheling Tan, Lingfeng Zhou, Kexin Ding, Mu Zhou, Shaoting Zhang, Dequan Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Rutgers University（罗切斯特大学） ； Shanghai Jiao Tong University, China（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文综述了计算医学中数据驱动基础模型的发展，探讨了从预训练到推理的数据中心化方法，旨在提升医疗工作流程，并讨论了AI安全、评估及与人类价值观的对齐问题。

Comments Published in ACM Computing Surveys

Journal ref ACM Comput. Surv. 58, 11, Article 287 (August 2026), 35 pages

Device-Native Autonomous Agents for Privacy-Preserving Negotiations

设备本机自主代理用于隐私保护的谈判

Joyjit Roy, Samaresh Kumar Singh

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于设备的自主代理系统，通过零知识证明和本地推理实现隐私保护的谈判，实验显示在保险和B2B采购场景中成功率高，隐私保护效果显著。

Comments 9 pages, 6 figures, 9 tables. This version updates metadata after publication in IEEE Xplore

Journal ref 2026 IEEE SoutheastCon, Huntsville, AL, USA, 2026

Rethinking Scale: Deployment Trade-offs of Small Language Models under Agent Paradigms

重新思考规模：在代理范式下小型语言模型的部署权衡

Xinlin Wang, Mats Brorsson

机构 * Proximus Luxembourg S.A.（普罗米修斯卢森堡股份有限公司） ； University of Luxembourg（卢森堡大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了在代理范式下小型语言模型的部署权衡，通过对比基础模型、单代理工具系统和多代理协作系统，发现单代理系统在性能与成本间达到最佳平衡。

How people use Copilot for Health

人们如何使用Copilot进行健康咨询

Beatriz Costa-Gomes, Pavel Tolmachev, Eloise Taysom, Viknesh Sounderajah, Hannah Richardson, Philipp Schoenegger, Xiaoxuan Liu, Matthew M Nour, Seth Spielman, Samuel F. Way, Yash Shah, Michael Bhaskar, Harsha Nori, Christopher Kelly, Peter Hames, Bay Gross, Mustafa Suleyman, Dominic King

机构 * Microsoft AI（微软人工智能） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 研究通过分析50万条健康对话，构建了12类意图分类体系，揭示了健康查询的意图分布、主题演变及使用差异，发现健康咨询多涉及个人症状、他人健康及医疗系统导航问题。

Comments 12 pages, 7 figures

A Linguistics-Aware LLM Watermarking via Syntactic Predictability

一种基于语言学的LLM水印方法：通过语法可预测性

Shinwoo Park, Hyejin Park, Hyeseon An, Yo-Sub Han

机构 * Yonsei University（延世大学） ； Rensselaer Polytechnic Institute（拉特格斯理工学院） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出STELA框架，通过语法可预测性动态调整水印信号，提升检测鲁棒性，适用于多种语言。

Comments ACL 2026

ZK-APEX: Zero-Knowledge Approximate Personalized Unlearning with Executable Proofs

ZK-APEX: 零知识近似个性化去学习与可执行证明

Mohammad M Maheri, Sunil Cotterill, Alex Davidson, Hamed Haddadi

机构 * Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country（匿名机构，匿名城市，匿名地区，匿名国家） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 ZK-APEX通过零知识证明实现高效个性化去学习，无需重新训练模型，在边缘设备上验证轻量级更新，有效移除目标数据影响。

Comments Accepted at the 9th Conference on Machine Learning and Systems (MLSys 2026)

Machine Unlearning in the Era of Quantum Machine Learning: An Empirical Study

量子机器学习时代的机器反学习：一项实证研究

Carla Crivoi, Radu Tudor Ionescu

机构 * University of Bucharest, Romania（布加勒斯特大学（罗马尼亚）） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了量子混合神经网络中机器反学习的行为，发现量子模型能有效支持反学习，但结果依赖于电路深度、纠缠结构和任务复杂性。

Comments Accepted at ICPR 2026

DISCO-TAB: A Hierarchical Reinforcement Learning Framework for Privacy-Preserving Synthesis of Complex Clinical Data

DISCO-TAB：一种用于隐私保护合成复杂临床数据的分层强化学习框架

Arshia Ilaty, Hossein Shirazi, Amir Rahmani, Hajar Homayouni

机构 * Computational Science Research Center, San Diego State University（圣地亚哥州立大学计算科学研究中心） ； School of Nursing and Department of Computer Science, University of California, Irvine（加州大学尔湾分校护理学院与计算机科学系） ； Fowler College of Business, San Diego State University（圣地亚哥州立大学福勒商学院） ； Department of Computer Science, San Diego State University（圣地亚哥州立大学计算机科学系） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出DISCO-TAB框架，结合微调LLM与多目标判别器，通过强化学习优化，解决临床数据生成中的复杂依赖和类别不平衡问题，提升合成数据的临床有效性与统计真实性。

A Step Toward Federated Pretraining of Multimodal Large Language Models

迈向多模态大语言模型联邦预训练的一小步

Baochen Xiong, Yifan Xu, Xiaoshan Yang, Yaguang Song, Yaowei Wang, Changsheng Xu

机构 * MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所多模态人工智能系统实验室） ； King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学） ； Pengcheng Laboratory（鹏城实验室） ； School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS)（中国科学院大学人工智能学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Fed-MA任务，通过冻结视觉编码器和LLM，协同训练跨模态投影器，解决参数干扰和梯度震荡问题，提出Fed-CMP框架在联邦预训练中取得显著优势。

Does Privacy Always Harm Fairness? Data-Dependent Trade-offs via Chernoff Information Neural Estimation

隐私是否总是损害公平性？通过Chernoff信息神经估计的数据依赖性权衡

Arjun Nichani, Hsiang Hsu, Chun-Fu, Chen, Haewon Jeong

机构 * University of California Santa Barbara（加州大学圣芭芭拉分校） ； JP Morgan Chase Global Technology Applied Research（摩根大通全球技术应用研究） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过Chernoff信息理论分析隐私与公平性之间的数据依赖性权衡，提出Chernoff差异及其噪声变体，并开发神经网络估计器CINE以实现实世界数据集的分析。