大模型对齐与安全

Why Safety Probes Catch Liars But Miss Fanatics

为何安全探针会识破骗子却无法识别狂热分子

Kristiyan Haralambiev

机构 * Independent Research（独立研究） 纠错

专题命中 偏好对齐 ：safety(title)；RLHF(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究安全探针在检测欺骗性对齐AI系统时的局限性，发现当模型相信有害行为是正当的而非隐藏时，探针无法检测到这种一致性偏差，揭示了探针逃避现象的形成机制。

Comments 18 pages, 4 figures, 14 tables

Fluent Alignment with Disfluent Judges: Post-training for Lower-resource Languages

流畅对齐与不流畅评判：低资源语言的后训练方法

David Samuel, Lilja Øvrelid, Erik Velldal, Andrey Kutuzov

机构 * Language Technology Group, University of Oslo（奥斯陆大学语言技术组） 纠错

专题命中 偏好对齐 ：alignment(title)；分类 cs.CL、cs.AI

AI总结 本文提出一种低资源语言的后训练方法，通过不流畅评判模型保持语言模型的流畅性，通过挪威语案例研究验证了基于策略的训练方法在无需额外数据时的有效性。

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026)

Nemotron-Cascade: Scaling Cascaded Reinforcement Learning for General-Purpose Reasoning Models

Nemotron-Cascade：基于级联强化学习的通用推理模型规模化

Boxin Wang, Chankyu Lee, Nayeon Lee, Sheng-Chieh Lin, Wenliang Dai, Yang Chen, Yangyi Chen, Zhuolin Yang, Zihan Liu, Mohammad Shoeybi, Bryan Catanzaro, Wei Ping

机构 * NVIDIA（英伟达） 纠错

专题命中 偏好对齐 ：alignment(abstract)；RLHF(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出级联域强化学习（Cascade RL）方法，开发出Nemotron-Cascade模型，可在指令和深度思考模式间切换，性能不逊于纯思考模型，同时提升推理能力并保持跨领域基准性能。

Comments We publicly release the Nemotron-Cascade models and the full collection of training data at: https://huggingface.co/collections/nvidia/nemotron-cascade

Learning Rollout from Sampling:An R1-Style Tokenized Traffic Simulation Model

从采样中学习：一种R1风格的分词交通仿真模型

Ziyan Wang, Peng Chen, Ding Li, Chiwei Li, Qichao Zhang, Zhongpu Xia, Guizhen Yu

机构 * State Key Laboratory of Intelligent Transportation System, Key Laboratory of Autonomous Transportation Technology for Special Vehicles, Ministry of Industry and Information Technology, School of Transportation Science and Engineering, Beihang University（北京航空航天大学交通科学与工程学院，智能交通系统国家重点实验室，特种车辆自主运输技术重点实验室（工业和信息化部）） ； State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所，多模态人工智能系统国家重点实验室） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出R1Sim模型，通过分词交通仿真结合熵引导采样和GRPO优化，实现探索与利用的平衡，生成真实安全的多智能体行为。

From Imitation to Intuition: Intrinsic Reasoning for Open-Instance Video Classification

从模仿到直觉：用于开放实例视频分类的内在推理

Ke Zhang, Xiangchen Zhao, Yunjie Tian, Jiayu Zheng, Vishal M. Patel, Di Fu

机构 * Johns Hopkins University（约翰霍普金斯大学） ； ByteDance Inc（字节跳动公司） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出DeepIntuit框架，通过冷启动监督对齐和GRPO优化，将视频分类从模仿转向直觉推理，提升开放实例分类性能。

Comments 18 pages, 7 figures

The Alignment Tax: Response Homogenization in Aligned LLMs and Its Implications for Uncertainty Estimation

对齐税：对齐语言模型中的响应同质化及其对不确定性估计的影响

Mingyi Liu

专题命中 幻觉与事实性 ：alignment(title,abstract)；RLHF(abstract)；DPO(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现对齐语言模型存在响应同质化现象，影响不确定性估计方法的效果，提出通过叠加不确定性信号提升模型性能。

Comments 25 pages, 3 figures, 10 tables, 24 experiments across 5 benchmarks. v2: added SINdex head-to-head (Exp 27), NLI validation (Exp 28), decoding protocol analysis. Code: https://github.com/DigitLion/ucbd-experiment

Compositional Image Synthesis with Inference-Time Scaling

基于推理时缩放的图像合成

Minsuk Ji, Sanghyeok Lee, Namhyuk Ahn

机构 * Inha University（仁荷大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种无需训练的框架，结合对象中心方法与自我完善，提升布局忠实度并保持美学质量，通过大语言模型生成布局并注入图像生成过程，利用对象中心视觉-语言模型进行迭代选择，实现更强的场景对齐。

Comments projcet page: https://github.com/gcl-inha/ReFocus

Deception and Communication in Autonomous Multi-Agent Systems: An Experimental Study with Among Us

自主多智能体系统中的欺骗与交流：以Among Us为例的实证研究

Maria Milkowski, Tim Weninger

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文通过Among Us游戏研究自主智能体的欺骗与交流行为，发现智能体主要使用指示性语言，伪装者倾向使用解释和否认等行为，欺骗多表现为 equivocation 而非直接谎言，揭示了自主交流中真理与效用之间的根本矛盾。

Comments 8 pages + references, 9 figures. Accepted at AAMAS 2026

Journal ref Proceedings of the 25th International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2026), IFAAMAS, 2026

ClipTTT: CLIP-Guided Test-Time Training Helps LVLMs See Better

ClipTTT: CLIP引导的测试时间训练帮助LVLMs看得更清楚

Mriganka Nath, Anurag Das, Jiahao Xie, Bernt Schiele

机构 * Max Planck Institute for Informatics, Saarland Informatics Campus（马克斯·普朗克信息学研究所，萨尔兰信息学园区） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文提出ClipTTT方法，通过CLIP模型的图像-文本对齐能力，在测试时引导LVLMs适应退化条件，减少幻觉并提升描述准确性。

Comments 30 pages, 12 figures

TinyML for Acoustic Anomaly Detection in IoT Sensor Networks

TinyML用于物联网传感器网络中的声音异常检测

Amar Almaini, Jakob Folz, Ghadeer Ashour

机构 * Deggendorf Institute of Technology（代根多夫应用技术大学） ； University of West Bohemia（西波希米亚大学） ； King Abdulaziz University（阿卜杜勒阿齐兹国王大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.LG

AI总结 本文提出了一种紧凑的TinyML流程，用于在物联网传感器网络中检测环境声音异常，通过提取梅尔频率倒谱系数并训练轻量级神经网络分类器，实现了91%的测试准确率和平衡的F1分数。

Journal ref 2025 5th International Conference on Electrical, Computer, Communications and Mechatronics Engineering (ICECCME), Zanzibar, Tanzania, 2025, pp. 1-5

The Competence Shadow: Theory and Bounds of AI Assistance in Safety Engineering

能力阴影：物理AI系统安全工程中AI辅助的理论与界限

Umair Siddique

机构 * Independent Research（独立研究） 纠错

专题命中 安全评测 ：safety(title,abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文探讨AI在安全工程中的辅助作用，提出能力阴影理论，揭示AI辅助可能带来的系统性盲区，并强调协作设计的重要性。

Comments 8 Pages, 3 Figures, 2 table

BeSafe-Bench: Unveiling Behavioral Safety Risks of Situated Agents in Functional Environments

BeSafe-Bench：揭示功能环境中情境代理的行为安全风险

Yuxuan Li, Yi Lin, Peng Wang, Shiming Liu, Xuetao Wei

机构 * Southern University of Science and Technology（南方科技大学） ； Huawei RAMS Lab（华为RAMS实验室） 纠错

专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI

AI总结 本文提出BeSafe-Bench，通过构建功能环境和引入九类安全关键风险，评估代理在Web、Mobile、Embodied VLM和Embodied VLA等领域的行为安全风险，发现最佳性能代理在安全约束下完成任务的比例不足40%。

ABot-PhysWorld: Interactive World Foundation Model for Robotic Manipulation with Physics Alignment

ABot-PhysWorld：用于机器人操作的交互世界基础模型，具有物理对齐

Yuzhi Chen, Ronghan Chen, Dongjie Huo, Yandan Yang, Dekang Qi, Haoyun Liu, Tong Lin, Shuang Zeng, Junjin Xiao, Xinyuan Chang, Feng Xiong, Xing Wei, Zhiheng Ma, Mu Xu

专题命中 安全评测 ：alignment(title,abstract)；DPO(abstract)

AI总结 ABot-PhysWorld通过物理对齐的交互世界模型，生成物理合理且可控的视频，解决了传统方法在物理仿真中的不足，通过新框架和基准测试提升了性能。

Comments Code: https://github.com/amap-cvlab/ABot-PhysWorld.git

SkinGPT-X: A Self-Evolving Collaborative Multi-Agent System for Transparent and Trustworthy Dermatological Diagnosis

SkinGPT-X: 一种自演化协作多智能体系统用于透明和可信的皮肤病诊断

Zhangtianyi Chen, Yuhao Shen, Florensia Widjaja, Yan Xu, Liyuan Sun, Zijian Wang, Hongyi Chen, Wufei Dai, Juexiao Zhou

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院） ； Department of Dermatology, Tianjin Institute of Integrative Dermatology, Tianjin Academy of Traditional Chinese Medicine Affiliated Hospital（天津中医药大学附属医院天津市中西医结合皮肤病研究所皮肤科） ； Department of Dermatology, Beijing AnZhen Hospital, Capital Medical University（首都医科大学附属北京安贞医院皮肤科） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI

AI总结 SkinGPT-X通过自演化皮肤病记忆机制，解决单一大语言模型在细粒度多类诊断和罕见皮肤病诊断中的不足，实现透明可信的皮肤病诊断。

INSIGHT: Enhancing Autonomous Driving Safety through Vision-Language Models on Context-Aware Hazard Detection and Edge Case Evaluation

洞察：通过基于视觉-语言模型的上下文感知危险检测与边缘案例评估提升自动驾驶安全性

Dianwei Chen, Zifan Zhang, Lei Cheng, Yuchen Liu, Xianfeng Terry Yang

机构 * University of Maryland（马里兰大学） ； North Carolina State University（北卡罗来纳州立大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出INSIGHT框架，通过多模态数据融合提升自动驾驶中危险检测和边缘案例评估的准确性和泛化能力，实验表明在BDD100K数据集上显著提高了危险预测的准确性和鲁棒性。

Generative Modeling in Protein Design: Neural Representations, Conditional Generation, and Evaluation Standards

蛋白质设计中的生成建模：神经表示、条件生成与评估标准

Senura Hansaja Wanasekara, Minh-Duong Nguyen, Xiaochen Liu, Nguyen H. Tran, Ken-Tye Yong

机构 * The University of Sydney（悉尼大学） ； VinUniversity 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文系统综述了蛋白质研究中的生成AI，涵盖序列、几何和多模态表示，生成架构如SE(3)等价扩散、流匹配和混合预测生成系统，以及从结构预测到蛋白质-配体相互作用的任务设置，并提出评估最佳实践和开放挑战。

Comments 20 pages, 7 tables, 4 figures

MAGNET: Autonomous Expert Model Generation via Decentralized Autoresearch and BitNet Training

MAGNET：通过去中心化自研与BitNet训练实现自主专家模型生成

Yongwan Kim, Sungchul Park

机构 * Holo Studio Co., Ltd.（Holo Studio 有限公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 MAGNET通过去中心化自研和BitNet训练，实现跨通用硬件的领域专家语言模型自主生成、训练与服务，核心贡献包括自研流水线、BitNet三进制训练、分布式融合与链上贡献追踪。

Comments 20 pages, 4 figures, 8 tables

Development of a European Union Time-Indexed Reference Dataset for Assessing the Performance of Signal Detection Methods in Pharmacovigilance using a Large Language Model

欧盟时间索引参考数据集的开发：利用大型语言模型评估药监信号检测方法性能

Maria Kefala, Jeffery L. Painter, Syed Tauhid Bukhari, Maurizio Sessa

机构 * Department of Drug Design and Pharmacology, University of Copenhagen（哥本哈根大学药物设计与药理学系） ； GSK（葛兰素史克） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文开发了欧盟时间索引参考数据集，利用大型语言模型识别药品不良反应，以评估信号检测方法的性能，填补了药监领域的时间信息缺失空白。

Comments 4 Figures and 2 Tables

Speech-Synchronized Whiteboard Generation via VLM-Driven Structured Drawing Representations

通过VLM驱动的结构化绘图表示实现语音同步的白板生成

Suraj Prasad, Pinak Mahapatra

机构 * Latent Spaces IITB（印度理工学院孟买分校潜在空间实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出首个包含24对Excalidraw演示与叙述音频的白板数据集，研究基于Qwen2-VL-7B模型通过时间戳条件化实现语音同步的绘图预测，验证了模型在跨学科领域中的泛化能力。

MLLM-based Textual Explanations for Face Comparison

基于MLLM的文本解释用于面部比较

Redwan Sony, Anil K Jain, Arun Ross

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文研究了MLLM在无约束面部验证任务中生成解释的可靠性，发现其解释常依赖不可验证的面部属性，并提出基于似然比的框架评估解释可信度。

Comments Accepted at 14th International Workshop on Biometrics and Forensics (IWBF)

MM-OVSeg:Multimodal Optical-SAR Fusion for Open-Vocabulary Segmentation in Remote Sensing

MM-OVSeg：多模态光学-合成孔径雷达融合用于遥感中的开放词汇分割

Yimin Wei, Aoran Xiao, Hongruixuan Chen, Junshi Xia, Naoto Yokoya

机构 * The University of Tokyo（东京大学） ； RIKEN AIP（日本理化学研究所先进智能研究中心） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 MM-OVSeg通过融合光学和SAR数据，提升恶劣天气下的开放词汇分割鲁棒性与泛化能力，采用跨模态统一过程和双编码器融合模块实现多传感器表征对齐与多模态分割。

Comments CVPR2026

ArtHOI: Taming Foundation Models for Monocular 4D Reconstruction of Hand-Articulated-Object Interactions

ArtHOI：通过基础模型驯化实现单目4D手-物体交互重建

Zikai Wang, Zhilu Zhang, Yiqing Wang, Hui Li, Wangmeng Zuo

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出ArtHOI框架，通过整合多基础模型先验知识，解决单目视频中手-物体交互的4D重建问题，引入自适应采样细化和多模态大语言模型引导对齐方法，构建两个新数据集并验证方法有效性。

Comments Accepted to CVPR 2026

FairLLaVA: Fairness-Aware Parameter-Efficient Fine-Tuning for Large Vision-Language Assistants

FairLLaVA: 大规模视觉-语言助手中的公平性感知参数高效微调

Mahesh Bhosale, Abdul Wasi, Shantam Srivastava, Shifa Latif, Tianyu Luan, Mingchen Gao, David Doermann, Xuan Gong

机构 * University at Buffalo（布法罗大学） ； University of Kashmir（克什米尔大学） ； Accenture（埃森哲） ； Harvard Medical School（哈佛医学院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 FairLLaVA通过减少目标属性间的互信息，实现视觉指令微调中的公平性改进，提升医疗影像生成的公平性和自然语言生成质量。

Comments Accepted to CVPR 2026

Temporal Coverage Bias in Financial Panel Data: A Coverage-Aware Structuring Framework with Evidence from the Dhaka Stock Exchange

金融面板数据中的时间覆盖偏差：一种覆盖意识的结构化框架及达卡证券交易所的实证研究

Tashreef Muhammad

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 本文提出一种覆盖意识的结构化框架，用于解决金融面板数据中因时间覆盖不一致导致的偏差问题，并通过达卡证券交易所的数据验证了该方法对收益率动态和波动性的影响。

Comments 16 pages, 7 figures, 2 tables

Reframing Human-Robot Interaction Through Extended Reality: Unlocking Safer, Smarter, and More Empathic Interactions with Virtual Robots and Foundation Models

通过扩展现实重新定义人机交互：利用虚拟机器人和基础模型实现更安全、更智能和更具同理心的交互

Yuchong Zhang, Yong Ma, Danica Kragic

机构 * Division of Robotics, Perception, and Learning, KTH Royal Institute of Technology（KTH皇家理工学院机器人、感知与学习部） ； Department of Clinical Medicine, University of Bergen（卑尔根大学临床医学系） 纠错

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文探讨通过扩展现实技术，利用基础模型驱动的虚拟机器人实现更安全、智能和具同理心的人机交互，同时讨论多模态大模型在认知和情感交互中的应用及潜在风险。

Comments This paper is under review

Journal ref Empathic Computing, 2026

Attention-Aligned Reasoning for Large Language Models

面向大语言模型的注意力对齐推理

Hongxiang Zhang, Yuan Tian, Tianyi Zhang

机构 * Purdue University（普渡大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ATAR方法，通过利用推理结构引导LLM注意力，提升复杂任务处理性能，实验显示在六个基准上表现优于现有方法，且非推理模型性能可与推理模型媲美。

Selection, Reflection and Self-Refinement: Revisit Reasoning Tasks via a Causal Lens

选择、反思与自我完善：通过因果视角重新审视推理任务

Yunlong Deng, Boyang Sun, Yan Li, Lingjing Kong, Zeyu Tang, Kun Zhang, Guangyi Chen

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Stanford University（斯坦福大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文从因果视角重新审视推理任务，将其视为选择机制，通过引入潜变量反馈提升对潜在依赖关系的学习，显著提升了Sudoku和Maze任务的推理准确率。

DiReCT: Disentangled Regularization of Contrastive Trajectories for Physics-Refined Video Generation

DiReCT：对比轨迹解耦的对比正则化用于物理精细视频生成

Abolfazl Meyarian, Amin Karimi Monsefi, Rajiv Ramnath, Ser-Nam Lim

机构 * Path Robotics ； The Ohio State University（俄亥俄州立大学） ； University of Central Florida（中佛罗里达大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出DiReCT方法，通过解耦对比轨迹正则化提升物理精细视频生成的物理合理性，改进VideoPhy的物理常识评分。

CARPE: Context-Aware Image Representation Prioritization via Ensemble for Large Vision-Language Models

CARPE：通过集成实现上下文感知的图像表示优先级

Donghee Lee, Rui Cai, Zhe Zhao

机构 * University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 CARPE通过集成机制增强大视觉-语言模型对视觉和文本模态的自适应加权能力，提升图像分类和多模态任务表现。

Autonomous Detection and Coverage of Unknown Target Areas by Multi-Agent Systems

多智能体系统自主探测和未知目标区域覆盖

Jie Song, Yang Bai, Mikhail Svinin, Naoki Wakamiya

专题命中 其他安全 ：safety(abstract)

AI总结 本文提出了一种新型多智能体覆盖控制算法，使智能体能自主探测目标区域并协同实现全面覆盖，结合密度驱动机制与CVT实现最优空间分布，利用CBFs确保安全性和效率。

Comments 8 pages, 9 figures