大模型对齐与安全

Distilling the Thought, Watermarking the Answer: A Principle Semantic Guided Watermark for Large Reasoning Models

提炼思维，标注答案：一种基于原则语义的水印方法用于大型推理模型

Shuliang Liu, Xingyu Li, Hongyi Liu, Dong Fang, Yibo Yan, Bingchen Duan, Qi Zheng, Lingfeng Su, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； LIGHTSPEED（光速） 纠错

专题命中 隐私与版权 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出ReasonMark，一种专为推理密集型LLM设计的水印框架，通过分离生成过程为无干扰的思维阶段和水印标注的答案阶段，利用关键性评分提取语义关键标记，提升水印鲁棒性与推理质量。

Comments 31 pages, Published in ICLR 2026

More Human, More Efficient: Aligning Annotations with Quantized SLMs

更人性化、更高效：将注释与量化小型语言模型对齐

Jiayu Wang, Junyoung Lee

机构 * Home Team Science and Technology Agency（内政团队科技局） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出通过量化小型语言模型在有限人类注释数据上进行微调，以获得高对齐性和确定性的评估与注释方法，提升了注释一致性并展示了其在情感分类任务中的通用性。

Lumos: Let there be Language Model System Certification

Lumos: 让语言模型系统认证成为可能

Isha Chaudhary, Vedaant Jain, Prineet Parhar, Kavya Sachdeva, Avaljot Singh, Sayan Ranu, Gagandeep Singh

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Indian Institute of Technology Delhi（印度理工学院德里分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 Lumos提出首个系统化框架，通过概率编程DSL实现语言模型系统行为的正式认证，支持复杂关系和时间规格，揭示了先进视觉语言模型在自动驾驶场景中的安全风险。

HarassGuard: Detecting Harassment Behaviors in Social Virtual Reality with Vision-Language Models

HarassGuard: 在社交虚拟现实中利用视觉-语言模型检测骚扰行为

Junhee Lee, Minseok Kim, Hwanjo Heo, Seungwon Woo, Jinwoo Kim

机构 * Kwangwoon University（光云大学） ； ETRI（韩国电子通信研究院） ； Chungbuk National University（忠北大学） 纠错

专题命中 隐私与版权 ：safety(abstract)

AI总结 本文提出HarassGuard系统，通过视觉输入检测社交VR中的身体骚扰行为，利用提示工程和微调VLMs，在不使用敏感生物数据的情况下实现高准确率的骚扰检测。

Comments To appear in the 2026 TVCG Special Issue on the 2026 IEEE Conference on Virtual Reality and 3D User Interfaces (VR)