大模型对齐与安全

Copyright Is the Headline; Capability Is the Blind Spot: AI Technology in the Book-Publishing Trade Press, November 2025--August 2026

版权是头条，能力是盲区：2025年11月—2026年8月图书出版行业媒体中的人工智能技术

Fred Zimmerman

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.CY

AI总结 本研究通过分析多国行业媒体的89篇文章，指出图书出版领域AI报道存在能力盲区，提出设立常设AI报道板块等改进建议。

Comments 7 pages, 2 figures. 15-page Supplemental Information, coded 89-item corpus, crosstabs, BibTeX database, and citation audit included as ancillary files

Edge Intelligence in Civil Aviation: Paradigms, Techniques, and Applications

民航中的边缘智能：范式、技术与应用

Wenbin Li, Zhongtian Liao, Bolin Liu, Yongjie Zhou, Jingling Wu, Xiaoyong Lin, Jing Chen

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 针对民航网络边缘数据处理问题，介绍边缘人工智能通过压缩、协作推理和分割学习等技术，减少延迟、带宽和暴露风险，实现断连平稳运行，阐述其运行动机、技术、范式及应用趋势，为民航提供低延迟、隐私保护和弹性的人工智能服务。

Comments 8 pages, 2 figures, 2 tables

Journal ref 2025 5th International Conference on Information Communication and Software Engineering (ICICSE), Chongqing, China, 12 to 14 December 2025, IEEE, 2026

Autoresearch with Coding Agents: Generalizers and Metric-Maximizers on Quran Recitation Data

使用编码智能体进行自动研究：古兰经诵读数据上的泛化器和指标最大化器

Nursultan Askarbekuly, Mohamad Al Mdfaa, Ahmed Helaly, Gonzalo Ferrer, Manuel Mazzara

机构 * Innopolis University（因诺波利斯大学） ； Skolkovo Institute of Science and Technology（斯克尔科沃科学与技术研究所） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 研究在古兰经诵读数据任务中智能体自动研究模式，Claude Code和OpenAI Codex从同一起点出发，先发明相同算法后有分歧，添加测试集后情况变化，还提炼出评估自主智能体的五条设计规则，智能体解决方案超越手工管道。

Platform Choice, Trust, and Privacy in the Consumer AI Assistant Market

消费型人工智能助手市场中的平台选择、信任与隐私

Jennifer Zou

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.CY

AI总结 研究美国成年AI助手用户在平台选择、任务分配、信任评估及隐私重视方面的情况，发现市场集中且内部有别，任务分配受平台主导，信任靠使用积累，隐私担忧普遍但行动受知识制约。

Watermark Forensics for Generative Models: An Information-Theoretic Perspective

生成模型的水印取证：信息论视角

Xiaoyu Li, Zheng Gao, Xiaoyan Feng, Jiaojiao Jiang, Yulei Sui, Jiankun Hu

机构 * University of New South Wales（新南威尔士大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 从信息论视角研究生成模型水印取证，通过信息轮廓确定取证阶梯各级成本，给出多用户归属和提取有效载荷的熵率定律，实验验证了相关预测常数，揭示了水印取证中的实际差距。

Comments The abstract has been shortened to comply with arXiv's length limit

Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models

用于在与语言模型交互中保护敏感数据隐私的多智能体防火墙架构

Hugo García Cuesta, Pablo Mateo Torrejón, Alfonso Sánchez-Macián

机构 * Universidad Carlos III de Madrid（卡洛斯三世大学） 纠错

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI

AI总结 针对大语言模型集成到工作流程中缺乏保障措施的风险，提出开源多智能体防火墙架构，结合浏览器扩展和代理拦截流量，通过混合方法防止数据泄漏，分层架构可跨异构环境部署，最佳配置下F1分数达94.93%。

TIER: Trajectory-Invariant Explanation Regularization for Membership Privacy

TIER：用于成员隐私的轨迹不变解释正则化

Varun Sharma, Kar Wai Fok, Vrizlynn L. L. Thing

机构 * ST Engineering（ST工程） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究利用模型自身梯度作为防御信号抵御基于解释的成员推理攻击，提出TIER防御，通过惩罚梯度引导扰动模拟的置信度下降波动及最小化分布偏移来保护隐私，兼顾模型效用和解释保真度。

Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents

知道太多的智能体：LLM智能体中隐私的数据中心调查

Nada Lahjouji, Ashwin Gerard Colaco

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI

AI总结 从数据中心视角调查LLM智能体隐私风险，分类数据源、隐私风险及治理机制，发现信息流控制可覆盖组合和跨会话推理泄露，但缺乏统一隐私策略的基准。

Comments 17 pages, 4 figures, 7 tables

Quantum ring all-reduce: communication and privacy advantages for distributed learning

量子环全归约：分布式学习的通信与隐私优势

María Gragera Garcés, Lirandë Pira

机构 * University of Edinburgh（爱丁堡大学） ； Centre for Quantum Technologies（量子技术中心） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG

AI总结 提出量子环全归约协议，利用预共享纠缠和超密编码将每链路在线通信量减半，并通过验证纠缠实现信息论安全的可组合ε-安全聚合，同时获得通信与隐私优势。

Comments 23 pages, 1 figure / v2: Minor expository corrections; results unchanged

CogGuard: Cognitive and Operational Profiling for Proactive Warning in Edge Intelligent Services

CogGuard：边缘智能服务中基于认知与操作画像的主动预警

Zhi Yao, Weihao Chen, Zhiqing Tang, Hanshuai Cui, Qianli Ma, Weijia Jia, Wei Zhao

机构 * Beijing Normal-Hong Kong Baptist University（北京师范大学-香港浸会大学） ； Guangdong Key Lab of AI and Multi-modal Data Processing（广东省人工智能与多模态数据处理重点实验室） ； Institute of Artificial Intelligence and Future Networks（人工智能与未来网络研究院） ； Engineering Center of AI and Future Education（人工智能与未来教育工程中心） ； Guangdong Provincial Department of Science and Technology（广东省科学技术厅） ； Zhuhai Science-Tech Innovation Bureau（珠海市科技创新局） ； Beijing Normal University at Zhuhai（北京师范大学珠海校区） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI

AI总结 提出CogGuard框架，通过解耦离线LLM画像构建与在线SLM评分预测，结合前缀对齐KV缓存重用和长度感知分布式微调，实现边缘智能服务的主动预警，在教育和操作任务上降低构建时间48%、微调时间19%。

Comments Accepted to ICWS 2026

MedLatentDx: Latent Multi-Agent Communication for Cross-Hospital Rare-Disease Diagnosis

MedLatentDx：用于跨医院罕见病诊断的潜在多智能体通信

Ziqing Wang, Lili Zhao, Kaize Ding

机构 * Northwestern University（西北大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 提出MedLatentDx框架，通过潜在多智能体通信实现跨医院罕见病诊断，利用潜在KV块传输保护隐私，支持同骨干和跨家族LLM部署，在CrossRare-Bench上提升诊断性能并减少可重建临床内容。

The Interlocutor Effect: Why LLMs Leak More Personal Data to Agents Than Humans

对话者效应：为什么LLMs向智能体泄露的个人数据比向人类多

Faouzi El Yagoubi, Godwin Badu-Marfo, Ranwa Al Mallah

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 研究发现LLMs在与AI智能体对话时比与人类对话更易泄露个人身份信息，通过注意力抑制假说解释该现象，实验表明安全对齐注意力头在智能体交互中失活导致泄露增加23个百分点。

"Allow" to Achieve, Over-Privileged Inadvertently: The Unintended Cost of Task-Completion-Driven Pop-up Decisions in Mobile GUI Agents

“允许”达成目标：移动GUI智能体中任务完成驱动的弹窗决策的意外代价

Dongsheng Chen, Yuxuan Li, Guanhua Chen, Jiaxin Zhang, Xiangyu Zhao, Lei Ma, Xin Yao, Xuetao Wei

专题命中 隐私与版权 ：safety(abstract)

AI总结 研究移动GUI智能体的权限素养，发现其存在应用信任偏差、任务优先级覆盖等问题，提示干预效果不一，建议将任务执行与权限授权分离。

A literature review of recent advances in software design and architecture

软件设计与架构的最新进展文献综述

Malach Obisa Amonga

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 本文综述2024-2025年软件设计与架构研究，采用主题综合法分析五大领域，指出现代架构需覆盖全生命周期，AI辅助等技术可提升软件特性，同时存在实证验证不足等缺口。

3D FaceShell: Attribute Transfer in 3D Face Avatars as a VLM Defense Mechanism

3D FaceShell：作为视觉语言模型防御机制的3D人脸头像属性转移

Weston Bondurant, Srijan Das, Hieu Le, Stephanie Schuckers

机构 * University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 隐私与版权 ：alignment(abstract)

AI总结 针对VLM可从3D人脸渲染图像提取敏感属性的隐私挑战，提出3D FaceShell框架，通过可学习高斯壳产生扰动，在保持面部外观的同时引导VLM语义解释，实验证明其能有效提高属性注入和不匹配率。

Comments ECCV 2026

FM$^2$: Unified Federated Foundation Models for Heterogeneous Multimodal Medical Imaging

FM$^2$：用于异构多模态医学成像的统一联邦基础模型

Shengchao Chen, Ting Shu

机构 * School of Artificial Intelligence, Shenzhen University（深圳大学人工智能学院） ； Australian AI Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所） 纠错

专题命中 隐私与版权 ：alignment(abstract)

AI总结 针对医学成像基础模型构建中隐私与任务统一问题，提出FM$^2$框架，通过从头训练核心主干、结合预训练编码器、配备双混合专家模块及正则化器，并引入字幕增强学习，实现跨模态泛化，优于现有联邦基线。

Comments Accepted by ACM MM 2026 (Main Track): the 34th ACM International Conference on Multimedia

Exploring the Interaction of Explanation Styles, Context, and Trust of AI Privacy Redaction in AI-mediated Interactions

探索人工智能隐私编辑的解释风格、上下文和信任在人工智能介导交互中的相互作用

Roshni Kaushik, Maarten Sap, Koichi Onoue

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 研究人工智能介导通信中隐私编辑解释对用户信任的影响，设计场景并开展用户研究，发现提供解释能提升信任，上下文因素有影响，解释偏好因个体差异而异，强调平衡透明度与隐私及适应性解释对设计可信AI系统的重要性。

Comments Originally submitted to UIST, will be resubmitting

PathMark: Protecting Intellectual Property of Mixture-of-Expert LLMs via Path Watermarks

PathMark：通过路径水印保护混合专家语言模型的知识产权

Yudong Gao, Qingyue Wang, Yuanyuan Yuan, Ruixuan Huang, Linghan Chen, Zimo Ji, Shuai Wang

专题命中 隐私与版权 ：alignment(abstract)

AI总结 针对混合专家（MoE）架构中传统水印方案失效的问题，提出PathMark框架，通过主动控制路由作为隐蔽水印通道，利用多种机制解决脆弱决策边界和路由纠缠问题，实现高验证准确率和强鲁棒性。

Comments 20 pages, accepted by CCS'26

Toward a Unified Security and Privacy Framework for AI-Native 6G Networks

面向AI原生6G网络的统一安全与隐私框架

Bidushi Barua, Ahsan Khan, Kangfeng Ye, Panagiotis Papanastasiou, Yifan Liu, Mohit Bidikar, Anthony Moulds, Julie McCann, Poonam Yadav

专题命中 隐私与版权 ：trustworthy(abstract)

AI总结 针对AI原生6G网络中安全与隐私的碎片化问题，提出跨层威胁分类与统一框架，分析关键技术威胁并映射对策，为可信6G系统提供基础。

Attribute-Prompted Kernel Hashing for Unsupervised Data-Efficient Cross-Modal Retrieval

属性提示核哈希用于无监督数据高效跨模态检索

Runhao Li, Xiaoxu Ma, Zhenyu Weng, Yue Zhang, Guibo Luo, Huiping Zhuang, Zhiping Lin, Yap-Peng Tan

机构 * School of Electrical and Electronic Engineering, Nanyang Technological University（南洋理工大学电气与电子工程学院） ； VinUniversity 纠错

专题命中 隐私与版权 ：alignment(abstract)

AI总结 提出属性提示核哈希（APKH），利用视觉-语言基础模型的广义属性先验，通过上下文优化属性核映射和核平滑对比对齐，在数据受限场景下实现从可见到不可见类别的跨模态检索。

Delegation Rights: Property, Agency, and Investment Incentives in the Age of AI Agents

委托权：AI代理时代中的财产、代理与投资激励

Yukun Zhang, Kemu Xu

专题命中 隐私与版权 ：safety(abstract)

AI总结 本文定义委托权为账户持有人授权代理执行的可撤销、身份保留、范围受限且模式特定的权限，通过三方不完全契约模型分析平台控制、用户控制与认证委托三种机制对投资激励和风险分配的影响。

Explainable AI for Next-Generation Wireless Physical Layer: Basics, State-of-the-Art, and Open Challenges

下一代无线物理层的可解释人工智能：基础、最新进展与开放挑战

Bingnan Xiao, Shuyan Hu, Xiaojing Chen, Zhiyuan Zhai, Bingcong Li, Wei Ni, Xin Wang, Ekram Hossain

专题命中 隐私与版权 ：safety(abstract)

AI总结 本文综述了无线物理层中可解释人工智能（XAI）的应用，提出了面向责任的目标，建立了系统分类法，并讨论了可解释性-性能权衡等开放挑战。

Comments 30 pages, 11 figures

OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents

OCELOT：面向隐私保护LLM代理的推理泄露预算

Jin Xie, Songze Li

专题命中 隐私与版权 ：jailbreak(abstract)

AI总结 提出OCELOT运行时中介，通过后验风险控制和证人验证降级机制，在代理轨迹中预算对手信念更新，平衡任务效用与隐私泄露。