大模型对齐与安全

Selective Token-Level Cryptographic Redaction for Privacy-Preserving Clinical Deployment of Large Language Models

选择性令牌级密码学编辑用于大型语言模型的隐私保护临床部署

Farhan Sheth, Ziyuan Yang, Yongying Lan, Si Yong Yeo

机构 * MedVisAI Lab, Singapore（新加坡MedVisAI实验室） ； Ruijin Hospital, Shanghai Jiao Tong University School of Medicine, China（中国上海交通大学医学院瑞金医院） ； Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore（新加坡南洋理工大学Lee Kong Chian医学院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 提出HERALD框架，通过令牌级密码学编辑仅加密敏感令牌，在保护隐私的同时保持下游模型效用，在分类和医疗问答任务上接近明文性能。

Comments 33 pages, 8 figures, 26 tables

Focused on the User, Overlooking the Risks: Security and Privacy Understandings, Practices and Challenges of Independent Chinese AI Agent Developers

聚焦用户，忽视风险：中国独立AI代理开发者的安全与隐私理解、实践与挑战

Shuning Zhang, Mingyao Xu, Zhixin Huang, Yutong Jiang, Rongjun Ma, Yuting Yang, Xin Yi, Kanye Ye Wang, Hewu Li

专题命中 隐私与版权 ：safety(abstract)

AI总结 通过访谈28名中国独立AI代理开发者，发现他们以用户为中心，关注面向用户的安全风险（如有害内容），但对安全漏洞意识薄弱，依赖临时手动防护和非正式沟通，缺乏正式工具和流程，主要受限于缺乏安全培训、工具和平台指导。