大模型对齐与安全

Paying to Know: Micro-Transaction Markets for Verified Product Information in Agentic E-Commerce

付费知情：代理型电商中已验证产品信息的微交易市场

Filippos Ventirozos, Matthew Shardlow

机构 * Manchester Metropolitan University（曼彻斯特城市大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 提出代理型电商作为已验证信息的微交易市场，买家代理通过微支付逐步获取卖家与评论者提供的数据，以解决信息可信度瓶颈，并转化为具体NLP问题。

Comments 8 pages, 1 figure. Vision paper, under review

TrustErase: Auditable Instant Machine Unlearning with Passport-Embedded Representations

TrustErase：基于护照嵌入表示的可审计即时机器遗忘

Rutger Hendrix, Leonardo G. Russo, Concetto Spampinato, Matteo Pennisi, Giovanni Bellitto

机构 * University of Catania（卡塔尼亚大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 提出TrustErase框架，利用护照嵌入表示实现无需数据、可验证的即时遗忘，通过参数高效适配层中的护照作为密钥，仅需停用即可移除特定类别或数据集，无需重训练或微调。

Privacy-Preserving Text Sanitization for Distributed Agents Collaboration via Disentangled Representations

基于解耦表示的分布式智能体协作隐私保护文本净化

Xuan Liu, Hefeng Zhou, Sicheng Chen, Chao Yang, Xingcheng Xu, Jingjing Qu, Jiong Lou, Jie LI, Xia Hu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出DiSan框架，通过解耦文本为任务语义和风格子空间，结合联邦原型对齐与对抗正则化，在分布式多智能体协作中实现隐私保护，显著降低风格归因和PII泄露。

Dep-LLM: Training-Free Depression Diagnosis via Evidence-Guided Structured Multi-factor with Reliable LLM Reasoning

Dep-LLM：基于证据引导的结构化多因素与可靠LLM推理的无训练抑郁症诊断

Yiqing Lyu, Xianbing Zhao, Buzhou Tang, Ronghuan Jiang

机构 * School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen, Guangdong, China（哈尔滨工业大学（深圳）计算机科学与技术学院） ； School of Artificial Intelligence and Computer Science, Jiangnan University, Wuxi, China（江南大学人工智能与计算机学院） ； Guangdong Provincial Key Laboratory of Intelligent Information Processing（广东省智能信息处理重点实验室） ； Pengcheng Laboratory（鹏城实验室） ； Chinese People’s Liberation Army General Hospital, Beijing, China（中国人民解放军总医院） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 提出无训练框架Dep-LLM，通过思维链多因素分析、置信度调制和协作预测，在冻结LLM上实现抑郁症诊断，超越零样本和微调方法。

AlignFace: Human-Aligned Face Similarity Metric with Interpretable Concept Relations

AlignFace：具有可解释概念关系的人类对齐人脸相似度度量

Ying Huang, Wencan Zhang, Brian Y. Lim

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 本研究针对人脸生成模型评估中现有度量未实现认知对齐的问题，提出AlignFace度量，结合VLM、CA、CBM、GAM等技术，利用FACETS数据集，提升了与人类亚群感知的对齐度。

Comments 10 pages, 10 figures, 2 tables, ACM MM 26

Heterogeneity-Aware Belief Synchronization for Semantic Communication in AI-Native 6G Networks

面向AI原生6G网络中语义通信的异质性感知信念同步

Muhammad Hannan Akram, Muhammad Abubakar Rashid, Wassi Haider Kabir, Haejoon Jung, Kapal Dev, Syed Ali Hassan

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 针对AI原生6G网络中异构AI模型导致的信念对齐难题，提出基于MEC服务器潜在翻译模型的异质性感知信念同步框架，可降低同步成本、保护隐私并维持低信念对齐误差。

Comments 8 pages, 4 figures

MarkNull: Model-Agnostic Watermark Removal in AI-Generated Images via On-Manifold Latent Manipulation

MarkNull：通过流形上潜在空间操纵实现AI生成图像的模型无关水印去除

Jie Cao, Qi Li, Zelin Zhang, Xiaodong Wu, Lingshuang Liu, Xiangman Li, Jianbing Ni

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出MarkNull及变体MarkNull-A，通过流形上潜在空间操纵实现AI生成图像的模型无关水印去除，可降低水印比特准确率至近随机猜测水平，还能破解谷歌SynthID-Image系统，为防御提供攻击检测机制。

Comments Accepted to the 35th USENIX Security Symposium (USENIX Security 2026)

Software Engineering for and with GUI Agent

面向GUI智能体的软件工程及与GUI智能体协同的软件工程

Shengcheng Yu, Yuchen Ling, Junyang Xing, Quan Zhou, Chunrong Fang, Zhenyu Chen

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 该研究通过分析2018年1月至2026年4月的336篇GUI智能体论文，指出其在恢复机制、安全执行等方面的不足，提出需结合可靠执行与生命周期测试等以构建可部署的GUI智能体系统。

Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations

基于代理表示的大规模大语言模型应用的隐私保护数据漂移检测与恢复

Michael Levit, Josh Ledgard, Haoyu Dong, Vishwas Suryanarayanan, Eyal Kolman, Sharon Tan, Qiang Gan, Vishal Chowdhary

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 针对大规模LLM应用的隐私约束导致的评估与漂移追踪难题，提出ProxyDrift框架，基于非PII代理表示实现无敏感数据暴露的漂移监测与合成数据生成，实验验证其对齐度达RA~0.9。

EFFEKT: Efficient Federated Knowledge Transfer to Foundation Models

EFFEKT：面向基础模型的高效联邦知识迁移

Matteo Caligiuri, Francesco Barbato, Pietro Zanuttigh, Francesco Restuccia

机构 * Northeastern University（东北大学） ； University of Padua（帕多瓦大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 EFFEKT是一种联邦学习框架，通过双向跨蒸馏策略，结合轻量级客户端代理模型与服务器端基础模型，实现高效的领域特定LoRA适配器训练，在低功耗边缘设备上性能优于基线。

Comments 12 main content pages, 8 appendix pages; 3 main figures, 9 appendix figures; 8 main tables, 9 appendix tables; 1 main algorithm, 4 appendix algorithms; accepted at TMLR

Copyright Is the Headline; Capability Is the Blind Spot: AI Technology in the Book-Publishing Trade Press, November 2025--August 2026

版权是头条，能力是盲区：2025年11月—2026年8月图书出版行业媒体中的人工智能技术

Fred Zimmerman

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.CY

AI总结 本研究通过分析多国行业媒体的89篇文章，指出图书出版领域AI报道存在能力盲区，提出设立常设AI报道板块等改进建议。

Comments 7 pages, 2 figures. 15-page Supplemental Information, coded 89-item corpus, crosstabs, BibTeX database, and citation audit included as ancillary files

Edge Intelligence in Civil Aviation: Paradigms, Techniques, and Applications

民航中的边缘智能：范式、技术与应用

Wenbin Li, Zhongtian Liao, Bolin Liu, Yongjie Zhou, Jingling Wu, Xiaoyong Lin, Jing Chen

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 针对民航网络边缘数据处理问题，介绍边缘人工智能通过压缩、协作推理和分割学习等技术，减少延迟、带宽和暴露风险，实现断连平稳运行，阐述其运行动机、技术、范式及应用趋势，为民航提供低延迟、隐私保护和弹性的人工智能服务。

Comments 8 pages, 2 figures, 2 tables

Journal ref 2025 5th International Conference on Information Communication and Software Engineering (ICICSE), Chongqing, China, 12 to 14 December 2025, IEEE, 2026

Autoresearch with Coding Agents: Generalizers and Metric-Maximizers on Quran Recitation Data

使用编码智能体进行自动研究：古兰经诵读数据上的泛化器和指标最大化器

Nursultan Askarbekuly, Mohamad Al Mdfaa, Ahmed Helaly, Gonzalo Ferrer, Manuel Mazzara

机构 * Innopolis University（因诺波利斯大学） ； Skolkovo Institute of Science and Technology（斯克尔科沃科学与技术研究所） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 研究在古兰经诵读数据任务中智能体自动研究模式，Claude Code和OpenAI Codex从同一起点出发，先发明相同算法后有分歧，添加测试集后情况变化，还提炼出评估自主智能体的五条设计规则，智能体解决方案超越手工管道。

Platform Choice, Trust, and Privacy in the Consumer AI Assistant Market

消费型人工智能助手市场中的平台选择、信任与隐私

Jennifer Zou

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CY

AI总结 研究美国成年AI助手用户在平台选择、任务分配、信任评估及隐私重视方面的情况，发现市场集中且内部有别，任务分配受平台主导，信任靠使用积累，隐私担忧普遍但行动受知识制约。

Watermark Forensics for Generative Models: An Information-Theoretic Perspective

生成模型的水印取证：信息论视角

Xiaoyu Li, Zheng Gao, Xiaoyan Feng, Jiaojiao Jiang, Yulei Sui, Jiankun Hu

机构 * University of New South Wales（新南威尔士大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 从信息论视角研究生成模型水印取证，通过信息轮廓确定取证阶梯各级成本，给出多用户归属和提取有效载荷的熵率定律，实验验证了相关预测常数，揭示了水印取证中的实际差距。

Comments The abstract has been shortened to comply with arXiv's length limit

Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models

用于在与语言模型交互中保护敏感数据隐私的多智能体防火墙架构

Hugo García Cuesta, Pablo Mateo Torrejón, Alfonso Sánchez-Macián

机构 * Universidad Carlos III de Madrid（卡洛斯三世大学） 纠错

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI

AI总结 针对大语言模型集成到工作流程中缺乏保障措施的风险，提出开源多智能体防火墙架构，结合浏览器扩展和代理拦截流量，通过混合方法防止数据泄漏，分层架构可跨异构环境部署，最佳配置下F1分数达94.93%。

TIER: Trajectory-Invariant Explanation Regularization for Membership Privacy

TIER：用于成员隐私的轨迹不变解释正则化

Varun Sharma, Kar Wai Fok, Vrizlynn L. L. Thing

机构 * ST Engineering（ST工程） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究利用模型自身梯度作为防御信号抵御基于解释的成员推理攻击，提出TIER防御，通过惩罚梯度引导扰动模拟的置信度下降波动及最小化分布偏移来保护隐私，兼顾模型效用和解释保真度。

Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents

知道太多的智能体：LLM智能体中隐私的数据中心调查

Nada Lahjouji, Ashwin Gerard Colaco

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI

AI总结 从数据中心视角调查LLM智能体隐私风险，分类数据源、隐私风险及治理机制，发现信息流控制可覆盖组合和跨会话推理泄露，但缺乏统一隐私策略的基准。

Comments 17 pages, 4 figures, 7 tables

Quantum ring all-reduce: communication and privacy advantages for distributed learning

量子环全归约：分布式学习的通信与隐私优势

María Gragera Garcés, Lirandë Pira

机构 * University of Edinburgh（爱丁堡大学） ； Centre for Quantum Technologies（量子技术中心） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 提出量子环全归约协议，利用预共享纠缠和超密编码将每链路在线通信量减半，并通过验证纠缠实现信息论安全的可组合ε-安全聚合，同时获得通信与隐私优势。

Comments 23 pages, 1 figure / v2: Minor expository corrections; results unchanged

CogGuard: Cognitive and Operational Profiling for Proactive Warning in Edge Intelligent Services

CogGuard：边缘智能服务中基于认知与操作画像的主动预警

Zhi Yao, Weihao Chen, Zhiqing Tang, Hanshuai Cui, Qianli Ma, Weijia Jia, Wei Zhao

机构 * Beijing Normal-Hong Kong Baptist University（北京师范大学-香港浸会大学） ； Guangdong Key Lab of AI and Multi-modal Data Processing（广东省人工智能与多模态数据处理重点实验室） ； Institute of Artificial Intelligence and Future Networks（人工智能与未来网络研究院） ； Engineering Center of AI and Future Education（人工智能与未来教育工程中心） ； Guangdong Provincial Department of Science and Technology（广东省科学技术厅） ； Zhuhai Science-Tech Innovation Bureau（珠海市科技创新局） ； Beijing Normal University at Zhuhai（北京师范大学珠海校区） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 提出CogGuard框架，通过解耦离线LLM画像构建与在线SLM评分预测，结合前缀对齐KV缓存重用和长度感知分布式微调，实现边缘智能服务的主动预警，在教育和操作任务上降低构建时间48%、微调时间19%。

Comments Accepted to ICWS 2026

MedLatentDx: Latent Multi-Agent Communication for Cross-Hospital Rare-Disease Diagnosis

MedLatentDx：用于跨医院罕见病诊断的潜在多智能体通信

Ziqing Wang, Lili Zhao, Kaize Ding

机构 * Northwestern University（西北大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 提出MedLatentDx框架，通过潜在多智能体通信实现跨医院罕见病诊断，利用潜在KV块传输保护隐私，支持同骨干和跨家族LLM部署，在CrossRare-Bench上提升诊断性能并减少可重建临床内容。

The Interlocutor Effect: Why LLMs Leak More Personal Data to Agents Than Humans

对话者效应：为什么LLMs向智能体泄露的个人数据比向人类多

Faouzi El Yagoubi, Godwin Badu-Marfo, Ranwa Al Mallah

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 研究发现LLMs在与AI智能体对话时比与人类对话更易泄露个人身份信息，通过注意力抑制假说解释该现象，实验表明安全对齐注意力头在智能体交互中失活导致泄露增加23个百分点。

Designing Mobile and Wearable Sensor-Fused Conversational Agents for Health and Wellbeing

面向健康与福祉的移动及可穿戴传感器融合对话智能体设计

Hansoo Lee, Pablo Fonseca, Md Haseen Akhtar

专题命中 隐私与版权 ：safety(abstract)

AI总结 本教程面向健康领域，旨在教授参与者使用WSDWAS工具，将可穿戴传感器数据与LLM驱动的对话智能体结合，实现从被动监测到可操作福祉对话的转变。

Comments 6 pages, 3 figures. Accepted as a Tutorial at the 28th International Conference on Mobile Human-Computer Interaction (MobileHCI '26)

"Allow" to Achieve, Over-Privileged Inadvertently: The Unintended Cost of Task-Completion-Driven Pop-up Decisions in Mobile GUI Agents

“允许”达成目标：移动GUI智能体中任务完成驱动的弹窗决策的意外代价

Dongsheng Chen, Yuxuan Li, Guanhua Chen, Jiaxin Zhang, Xiangyu Zhao, Lei Ma, Xin Yao, Xuetao Wei

专题命中 隐私与版权 ：safety(abstract)

AI总结 研究移动GUI智能体的权限素养，发现其存在应用信任偏差、任务优先级覆盖等问题，提示干预效果不一，建议将任务执行与权限授权分离。

A literature review of recent advances in software design and architecture

软件设计与架构的最新进展文献综述

Malach Obisa Amonga

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 本文综述2024-2025年软件设计与架构研究，采用主题综合法分析五大领域，指出现代架构需覆盖全生命周期，AI辅助等技术可提升软件特性，同时存在实证验证不足等缺口。

3D FaceShell: Attribute Transfer in 3D Face Avatars as a VLM Defense Mechanism

3D FaceShell：作为视觉语言模型防御机制的3D人脸头像属性转移

Weston Bondurant, Srijan Das, Hieu Le, Stephanie Schuckers

机构 * University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 隐私与版权 ：alignment(abstract)

AI总结 针对VLM可从3D人脸渲染图像提取敏感属性的隐私挑战，提出3D FaceShell框架，通过可学习高斯壳产生扰动，在保持面部外观的同时引导VLM语义解释，实验证明其能有效提高属性注入和不匹配率。

Comments ECCV 2026

FM$^2$: Unified Federated Foundation Models for Heterogeneous Multimodal Medical Imaging

FM$^2$：用于异构多模态医学成像的统一联邦基础模型

Shengchao Chen, Ting Shu

机构 * School of Artificial Intelligence, Shenzhen University（深圳大学人工智能学院） ； Australian AI Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所） 纠错

专题命中 隐私与版权 ：alignment(abstract)

AI总结 针对医学成像基础模型构建中隐私与任务统一问题，提出FM$^2$框架，通过从头训练核心主干、结合预训练编码器、配备双混合专家模块及正则化器，并引入字幕增强学习，实现跨模态泛化，优于现有联邦基线。

Comments Accepted by ACM MM 2026 (Main Track): the 34th ACM International Conference on Multimedia

Exploring the Interaction of Explanation Styles, Context, and Trust of AI Privacy Redaction in AI-mediated Interactions

探索人工智能隐私编辑的解释风格、上下文和信任在人工智能介导交互中的相互作用

Roshni Kaushik, Maarten Sap, Koichi Onoue

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 研究人工智能介导通信中隐私编辑解释对用户信任的影响，设计场景并开展用户研究，发现提供解释能提升信任，上下文因素有影响，解释偏好因个体差异而异，强调平衡透明度与隐私及适应性解释对设计可信AI系统的重要性。

Comments Originally submitted to UIST, will be resubmitting

PathMark: Protecting Intellectual Property of Mixture-of-Expert LLMs via Path Watermarks

PathMark：通过路径水印保护混合专家语言模型的知识产权

Yudong Gao, Qingyue Wang, Yuanyuan Yuan, Ruixuan Huang, Linghan Chen, Zimo Ji, Shuai Wang

专题命中 隐私与版权 ：alignment(abstract)

AI总结 针对混合专家（MoE）架构中传统水印方案失效的问题，提出PathMark框架，通过主动控制路由作为隐蔽水印通道，利用多种机制解决脆弱决策边界和路由纠缠问题，实现高验证准确率和强鲁棒性。

Comments 20 pages, accepted by CCS'26

Toward a Unified Security and Privacy Framework for AI-Native 6G Networks

面向AI原生6G网络的统一安全与隐私框架

Bidushi Barua, Ahsan Khan, Kangfeng Ye, Panagiotis Papanastasiou, Yifan Liu, Mohit Bidikar, Anthony Moulds, Julie McCann, Poonam Yadav

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 针对AI原生6G网络中安全与隐私的碎片化问题，提出跨层威胁分类与统一框架，分析关键技术威胁并映射对策，为可信6G系统提供基础。