Platform Choice, Trust, and Privacy in the Consumer AI Assistant Market
消费型人工智能助手市场中的平台选择、信任与隐私
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CY
AI总结 研究美国成年AI助手用户在平台选择、任务分配、信任评估及隐私重视方面的情况，发现市场集中且内部有别，任务分配受平台主导，信任靠使用积累，隐私担忧普遍但行动受知识制约。
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 隐私与版权 686 篇
Watermark Forensics for Generative Models: An Information-Theoretic Perspective
生成模型的水印取证：信息论视角
机构 * University of New South Wales（新南威尔士大学） ； Griffith University（格里菲斯大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 从信息论视角研究生成模型水印取证，通过信息轮廓确定取证阶梯各级成本，给出多用户归属和提取有效载荷的熵率定律，实验验证了相关预测常数，揭示了水印取证中的实际差距。
Comments The abstract has been shortened to comply with arXiv's length limit
Toward Production-Ready Federated Learning in Healthcare: Privacy, Orchestration, and Governance in MLOps
迈向医疗保健领域可投入生产的联邦学习：MLOps 中的隐私、编排与治理
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.LG
AI总结 研究医疗保健领域联邦学习，探讨 MLOps 实践和 FLOps 理念，回答容器化编排对联邦部署的支持、隐私机制的影响及部署后重要实践等问题，提出需集成 MLOps 架构让联邦医疗保健机器学习系统更具性能。
Comments 5 pages, 2 figures, 1 table; v2 adds the permanent arXiv identifier and DOI to the reference block. No changes to the analysis or conclusions
Inference-Time Machine Unlearning via Gated Activation Redirection
推理时的机器去学习 via 门控激活重定向
机构 * MALTA, Machine Learning Theory and Applications Lab, PUCRS, Porto Alegre, Brazil（MALTA机器学习理论与应用实验室，PUCRS，波士顿-阿尔格雷，巴西） ； Harvard University（哈佛大学） ； Kunumi Institute, Brazil（库努米研究所，巴西）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.LG
AI总结 本文提出了一种无需训练和梯度的机器去学习方法GUARD-IT，通过在推理时依赖输入的激活引导来消除特定数据集的影响，同时保持模型性能，且在量化部署下仍有效。
Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models
用于在与语言模型交互中保护敏感数据隐私的多智能体防火墙架构
机构 * Universidad Carlos III de Madrid（卡洛斯三世大学）
专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI
AI总结 针对大语言模型集成到工作流程中缺乏保障措施的风险，提出开源多智能体防火墙架构，结合浏览器扩展和代理拦截流量，通过混合方法防止数据泄漏，分层架构可跨异构环境部署，最佳配置下F1分数达94.93%。
Improving TabPFN's Synthetic Data Generation by Integrating Causal Structure
通过整合因果结构改进TabPFN的合成数据生成
机构 * Department of Mathematics, Informatics and Geosciences（数学、信息学与地质科学系） ； University of Trieste（特里este大学） ； Department of Engineering and Architecture（工程与建筑系） ； InSilicoTrials Technologies BV（InSilicoTrials技术公司） ； Amsterdam UMC Institute for Logic, Language and Computation（阿姆斯特丹大学医学中心逻辑、语言与计算研究所） ； University of Amsterdam（阿姆斯特丹大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 通过整合因果结构改进TabPFN的合成数据生成，提升合成数据的质量和稳定性
Comments Camera-ready version, accepted at UAI 2026. 9 pages main text, 44 pages total (including supplementary material), 35 figures. Code: https://github.com/DavideTugnoli/tabpfn-causal-synthetic
JuZhou 1.0 Technical Report: The First Edge-Native Text-to-Image Foundation Model Trained Entirely on China-Developed AI Accelerators
JuZhou 1.0 技术报告：首个完全在中国开发的AI加速器上训练的边缘原生文本到图像基础模型
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 提出JuZhou 1.0，一个超轻量级文本到图像基础模型，通过紧凑骨干网络、Rectified Flow训练、DMD2蒸馏和中文语义对齐，实现完全离线设备端运行，性能优于SDXL等模型。
TIER: Trajectory-Invariant Explanation Regularization for Membership Privacy
TIER：用于成员隐私的轨迹不变解释正则化
机构 * ST Engineering（ST工程）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI
AI总结 研究利用模型自身梯度作为防御信号抵御基于解释的成员推理攻击，提出TIER防御，通过惩罚梯度引导扰动模拟的置信度下降波动及最小化分布偏移来保护隐私，兼顾模型效用和解释保真度。
Superior resilience to poisoning and amenability to unlearning in quantum machine learning
在量子机器学习中对污染的优越鲁棒性和可卸载性
机构 * Graduate School of China Academy of Engineering Physics（中国工程物理研究院研究生院） ； Institute of Physics, Chinese Academy of Sciences（中国科学院物理研究所）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文通过对比经典和量子神经网络在经典和量子数据上的表现，揭示了两者在数据污染下的根本差异，发现量子模型具有更强的鲁棒性，且更易通过近似卸载方法实现高效遗忘。
Comments 9 pages, 4 figures with references and supplemental materials
Journal ref Nature Communications 17, 3716 (2026)
Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents
知道太多的智能体：LLM智能体中隐私的数据中心调查
机构 * University of California, Irvine（加州大学尔湾分校）
专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI
AI总结 从数据中心视角调查LLM智能体隐私风险，分类数据源、隐私风险及治理机制，发现信息流控制可覆盖组合和跨会话推理泄露，但缺乏统一隐私策略的基准。
Comments 17 pages, 4 figures, 7 tables
Quantum ring all-reduce: communication and privacy advantages for distributed learning
量子环全归约：分布式学习的通信与隐私优势
机构 * University of Edinburgh（爱丁堡大学） ； Centre for Quantum Technologies（量子技术中心）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 提出量子环全归约协议，利用预共享纠缠和超密编码将每链路在线通信量减半，并通过验证纠缠实现信息论安全的可组合ε-安全聚合，同时获得通信与隐私优势。
Comments 23 pages, 1 figure / v2: Minor expository corrections; results unchanged
NOEM$^{3}$A: a Neuro-symbolic Ontology-Enhanced Method for Multi-intent understanding in Mobile Agents
NOEM$^{3}$A：一种用于移动代理中多意图理解的神经符号本体增强方法
机构 * Huawei Heisenberg Research Center（华为海森堡研究中心） ； Technical University of Munich（慕尼黑技术大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 提出NOEM$^{3}$A，一种轻量级神经符号层，通过意图本体增强紧凑语言模型，在低延迟和隐私约束下提升移动代理的自然语言理解准确率。
CogGuard: Cognitive and Operational Profiling for Proactive Warning in Edge Intelligent Services
CogGuard：边缘智能服务中基于认知与操作画像的主动预警
机构 * Beijing Normal-Hong Kong Baptist University（北京师范大学-香港浸会大学） ； Guangdong Key Lab of AI and Multi-modal Data Processing（广东省人工智能与多模态数据处理重点实验室） ； Institute of Artificial Intelligence and Future Networks（人工智能与未来网络研究院） ； Engineering Center of AI and Future Education（人工智能与未来教育工程中心） ； Guangdong Provincial Department of Science and Technology（广东省科学技术厅） ； Zhuhai Science-Tech Innovation Bureau（珠海市科技创新局） ； Beijing Normal University at Zhuhai（北京师范大学珠海校区）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 提出CogGuard框架，通过解耦离线LLM画像构建与在线SLM评分预测，结合前缀对齐KV缓存重用和长度感知分布式微调，实现边缘智能服务的主动预警，在教育和操作任务上降低构建时间48%、微调时间19%。
Comments Accepted to ICWS 2026
MedLatentDx: Latent Multi-Agent Communication for Cross-Hospital Rare-Disease Diagnosis
MedLatentDx：用于跨医院罕见病诊断的潜在多智能体通信
机构 * Northwestern University（西北大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL
AI总结 提出MedLatentDx框架，通过潜在多智能体通信实现跨医院罕见病诊断，利用潜在KV块传输保护隐私，支持同骨干和跨家族LLM部署，在CrossRare-Bench上提升诊断性能并减少可重建临床内容。
The Interlocutor Effect: Why LLMs Leak More Personal Data to Agents Than Humans
对话者效应：为什么LLMs向智能体泄露的个人数据比向人类多
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI
AI总结 研究发现LLMs在与AI智能体对话时比与人类对话更易泄露个人身份信息，通过注意力抑制假说解释该现象，实验表明安全对齐注意力头在智能体交互中失活导致泄露增加23个百分点。
Short paper: Models in the dark -- Rectification and erasure under GDPR in ML supply chains
短论文：黑暗中的模型——机器学习供应链中GDPR下的更正与删除
机构 * Karlstad University（卡尔斯塔德大学）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文从跨学科视角调查机器学习供应链中实现GDPR更正权和删除权的挑战，提出“黑暗中的模型”概念，并分析其带来的紧迫问题。
Comments accepted for presentation at Annual Privacy Forum 2026
Selective Token-Level Cryptographic Redaction for Privacy-Preserving Clinical Deployment of Large Language Models
选择性令牌级密码学编辑用于大型语言模型的隐私保护临床部署
机构 * MedVisAI Lab, Singapore（新加坡MedVisAI实验室） ； Ruijin Hospital, Shanghai Jiao Tong University School of Medicine, China（中国上海交通大学医学院瑞金医院） ； Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore（新加坡南洋理工大学Lee Kong Chian医学院）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL
AI总结 提出HERALD框架，通过令牌级密码学编辑仅加密敏感令牌，在保护隐私的同时保持下游模型效用，在分类和医疗问答任务上接近明文性能。
Comments 33 pages, 8 figures, 26 tables
Visual-Noise Guided In-Context Distillation for Multimodal Large Language Model Unlearning
视觉噪声引导的上下文蒸馏用于多模态大语言模型遗忘
机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Advanced Interdisciplinary Sciences, UCAS（北京大学交叉学科研究院）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI
AI总结 提出视觉噪声引导的上下文蒸馏（VGID）框架，通过双模态干预构建教师分布进行蒸馏，实现多模态大语言模型参数级遗忘，平衡遗忘效果与模型效用。
What's on Your Mind? Exploring Privacy of Mental Health Apps
你在想什么？探索心理健康应用的隐私
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CY
AI总结 通过对25款流行的Android心理健康应用进行静态分析、动态网络捕获和LLM辅助隐私政策提取，发现这些应用存在严重的透明度问题，包括未披露的跟踪器、权限政策矛盾以及第三方AI处理披露不充分。
Auditing Training Data in Generative Music Models via Black-Box Membership Inference
通过黑盒成员推断审计生成音乐模型中的训练数据
机构 * University of Georgia（佐治亚大学） ； Independent Researcher（独立研究者） ； University of Tennessee（田纳西大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出一种黑盒成员推断方法，通过比较候选音频与模型基于其描述生成输出的语义对齐程度，并训练音乐审计器分类成员身份，实现对生成音乐模型训练数据的高精度审计。
Comments The paper has been accepted for presentation at the workshop ArtSec 2026: Workshop on Artwork Security and Provenance in the Age of AI
SYNAPSE: Neuro-Symbolic Visual Thought-to-Text Decoding via Topological Semantic Denoising
SYNAPSE: 通过拓扑语义去噪的神经符号视觉思维到文本解码
机构 * School of Information University of Texas at Austin（信息学院德克萨斯大学奥斯汀分校）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 提出SYNAPSE框架，利用常识图结构和潜在样本进行推理时符号正则化，稳定脑电到文本解码中的语义生成，无需微调大语言模型。
Got a Secret? LLM Agents Can't Keep It: Evaluating Privacy in Multi-Agent Systems
Got a Secret? LLM Agents Can't Keep It: Evaluating Privacy in Multi-Agent Systems
机构 * Foundation AI USA（Foundation AI美国）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI
AI总结 本研究通过多智能体模拟平台评估LLM智能体在社交压力下的隐私泄露风险，发现多轮社交交互显著增加隐私泄露，且泄露具有社交传染性，即使有隐私指令也无法完全消除。
When Eyes Betray AI: Social Gaze Consistency as a Semantic Cue for AI-Generated Image Detection
当眼睛背叛AI：社交注视一致性作为AI生成图像检测的语义线索
机构 * School of Computer Engineering（计算机工程学院） ； Hoseo University（Hoseo大学） ； School of Electronic Engineering（电子工程学院） ； Soongsil University（Soongsil大学） ； School of Computer Science（计算机科学学院） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 提出社交注视一致性作为高层语义线索，通过构建诊断数据集、块组合描述监督和跨架构验证，证明该线索能有效检测AI生成图像，并解释其跨生成器迁移的机制。
Comments 23 pages, 2 figures, 17 tables
Forgettable Federated Linear Learning with Certified Data Unlearning
具有认证数据遗忘的可遗忘联邦线性学习
机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） ； Renmin University of China（中国人民大学）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.LG
AI总结 提出一种基于预训练模型线性近似的联邦遗忘框架，通过联邦线性训练实现高效、安全且可认证的客户端数据遗忘。
Comments IEEE Transactions on Neural Networks and Learning Systems
Journal ref IEEE Transactions on Neural Networks and Learning Systems, Early Access, pp. 1-10, 2026
PrivFusion: A Privacy-preserving Multi-Agent Framework for Harmonizing Distributed Datasets
PrivFusion: 一种用于协调分布式数据集的隐私保护多智能体框架
机构 * IBM Research（IBM研究院）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 提出PrivFusion框架，通过多智能体自动协调异构结构化数据集，在联邦学习前实现隐私保护的数据对齐，减少人工干预。
Comments Accepted by IEEE CBMS 2026
Unlocking Apple's Private Cloud Compute: An Analysis of Privacy-Preserving Artificial Intelligence
解锁苹果的私有云计算：隐私保护人工智能分析
机构 * Hasso Plattner Institute, University of Potsdam（哈索普兰特纳研究所，波茨坦大学） ； TU Darmstadt, Secure Mobile Networking Lab（德累斯顿技术大学，安全移动网络实验室） ； IMDEA Networks Institute, Madrid, Spain（IMDEA网络研究所，马德里，西班牙）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI
AI总结 通过逆向工程苹果私有云计算（PCC）在移动设备上的实现，评估其隐私保护特性，并开放非公开接口以支持自定义查询和独立基准测试。
Journal ref Proceedings of the 19th ACM Conference on Security and Privacy in Wireless and Mobile Networks (WiSec 2026)
POLAR-Bench: A Diagnostic Benchmark for Privacy-Utility Trade-offs in LLM Agents
POLAR-Bench: 一个用于LLM代理隐私-效用权衡的诊断基准
机构 * ETH Zurich（苏黎世联邦理工学院） ； ETH AI Center（ETH人工智能中心）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出POLAR-Bench基准，用于评估LLM代理在隐私和效用之间的权衡。通过在10个领域和7,852个样本上进行测试，该基准通过确定性集合成员hip评分隐私和效用，并在两个正交轴上变化隐私策略维度和攻击策略，生成5x5的诊断表面。结果揭示了当前前沿模型在保护属性上隐瞒超过99%，而较小的开放权重模型在1-30B范围内表现更差，泄露率高达一半。
Comments Preprint
Dual-Space Knowledge Distillation with Key-Query Matching for Large Language Models with Vocabulary Mismatch
双空间知识蒸馏与关键-查询匹配用于具有词汇不匹配的大型语言模型
机构 * University of Cambridge, Department of Engineering（剑桥大学工程系） ； Toshiba Europe Limited（东芝欧洲有限公司）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL
AI总结 本文研究了针对具有词汇不匹配的大型语言模型的双空间知识蒸馏与关键-查询匹配方法，通过分析注意力机制揭示其优缺点，并提出基于生成对抗学习的新方法以解决关键-查询分布不匹配问题。
Comments Copyright 2026 IEEE. Published in ICASSP 2026 - 2026 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), scheduled for 4-8 May 2026 in Barcelona, Spain
A Survey on Foundation Models for Personalized Federated Intelligence
面向个性化联邦智能的基础模型综述
机构 * School of Computing, Kyung Hee University（韩国庆熙大学计算机学院） ； Noakhali Science and Technology University（诺阿克利科学与技术大学） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） ； College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文综述了基础模型在个性化联邦智能中的应用，探讨了联邦学习与基础模型的结合，提出了一种新的个性化联邦智能范式，旨在为实现人工智能个性化提供基础支持。
Comments Accepted ACM Computing Survey
netFound: Principled Design for Network Foundation Models
netFound：网络基础模型的原理化设计
机构 * UC Santa Barbara（加州大学圣芭芭拉分校） ； Northwestern University（西北大学） ； ESNet
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 netFound通过四个设计原则提升网络基础模型性能，实现高质量表示与隐私保护，在多个基准测试中表现优异。
