大模型对齐与安全

Improving Adversarial Robustness of Zero-Shot CLIP with Confidence-Aware Weighting

通过置信感知加权提高零样本CLIP的对抗鲁棒性

Nikoo Naghavian, Mostafa Tavassolipour

机构 * School of ECE, College of Engineering University of Tehran（电子工程学院，工程学院，伊朗塔里哈大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究如何提高零样本CLIP的对抗鲁棒性，提出置信感知加权方法，该方法含置信感知损失和特征对齐正则化两个关键组件，实验证明其在强对抗攻击下优于现有方法且内存效率更高。

Comments Preprint

PrinciplismQA: A Philosophy-Grounded Approach to Assessing LLM-Human Clinical Medical Ethics Alignment

PrinciplismQA: 一种基于哲学的评估LLM与人类临床医学伦理对齐的方法

Chang Hong, Minghao Wu, Qingying Xiao, Yuchi Wang, Xiang Wan, Guangjun Yu, Benyou Wang, Yan Hu

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； National Health Data Institute, Shenzhen（深圳国家健康数据研究院） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PrinciplismQA，一种基于哲学框架的评估方法，用于评估LLM在临床医学伦理上的对齐情况，通过专家验证的问题集揭示模型在伦理推理上的不足。

Comments ACL 2026 Findings

Regulating for AI Legitimacy

规范人工智能的合法性

Gilad Abiri

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 研究人工智能治理中合法性这一自主监管目标，指出其与对齐不同。分析人工智能合法性在透明度、私人权力和行政自动化方面的问题，探讨法律作用并提出整合、熟悉度、争议三个原则以解决相关问题。

Reasoning to Regulate: Chain-of-Thought for Traffic Rule Understanding

推理以规范：用于交通规则理解的思维链

Yueru Luo, Xu Yan, Changqing Zhou, Yiming Yang, Chao Zhan, Shuqi Mei, Chao Zheng, Zhen Li

机构 * CUHK-SZ, Shenzhen-FNii（香港中文大学（深圳），深圳高等金融研究院） ； HKUST(GZ)（香港科技大学（广州）） ； Tencent T Lab（腾讯T实验室） 纠错

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对交通规则理解这一自动驾驶关键挑战，提出为视觉语言模型配备思维链能力的框架，设计整理管道，采用两阶段训练方案，显著提升了可解释性和准确性，建立首个基于推理的自动驾驶框架。

Comments Technical Report

DobicVLM: Aligning Chest X-Ray Report Generation with Clinically-Grounded Programmatic Rewards via Group Relative Policy Optimization

DobicVLM：通过群体相对策略优化使胸部X光报告生成与临床基础的程序化奖励保持一致

Thanni Adewuyi, Angelica Obayi, Andem Aniekan, Samuel Okoko, Angel Ezendu, Ephraim Usani, Ademide Animasaun, Philip Chibundu, Christian Maurice, Mary Donald Essien, Oluwaseun Odunsi, Oluwasegun Oguntuase, Abiodun Adereni

机构 * Dobic Health（多比克健康公司） ； University of Ibadan（伊巴丹大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 研究针对自动胸部X光报告生成难题，提出DobicVLM模型，结合监督微调、GRPO及临床奖励，用可解释规则组件执行标准，经训练和评估，该模型多数标准优于Gemini 2.5 Flash，证明GRPO在资源受限设置中的价值。

UAlign: Pushing the Limit of Template-free Retrosynthesis Prediction with Unsupervised SMILES Alignment

UAlign: 推动无模板反合成预测的极限：基于无监督SMILES对齐

Kaipeng Zeng, Bo yang, Xin Zhao, Yu Zhang, Fan Nie, Xiaokang Yang, Yaohui Jin, Yanyan Xu

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 UAlign通过无监督SMILES对齐技术，提升无模板反合成预测的准确性，超越现有模板化方法。

DICA: Dual-Indicator Guided Contrastive Alignment in Multimodal Large Language Models

DICA：多模态大语言模型中的双指标引导对比对齐

Hao Yang, Jin Wang, Xuejie Zhang

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 研究针对多模态大语言模型的问题，提出双指标引导对比对齐方法（DICA），通过跟踪视觉注意力熵和输出图像相关性两个指标，根据异常情况触发对比对齐，实验证明该方法能提升模型可靠性，优于现有方法。

Training-Driven Representational Geometry Modularization Predicts Brain Alignment in Language Models

训练驱动的表征几何模块化预测语言模型中的脑对齐

Yixuan Liu, Zhiyuan Ma, Likai Tang, Runmin Gan, Xinche Zhang, Jinhao Li, Chao Xie, Sen Song

机构 * School of Biomedical Engineering, Tsinghua University, Beijing, China（生物医学工程学院，清华大学，北京，中国） ； Tsinghua Laboratory of Brain and Intelligence, Tsinghua University, Beijing, China（脑与智能实验室，清华大学，北京，中国） ； School of Basic Medical Sciences, Tsinghua University, Beijing, China（基础医学学院，清华大学，北京，中国） ； Department of Psychological and Cognitive Sciences, Tsinghua University, Beijing, China（心理学与认知科学系，清华大学，北京，中国） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本研究通过训练驱动的表征几何模块化，发现语言模型中的低复杂度模块能更准确预测人类大脑语言网络活动，揭示了表征平滑对神经样语言处理的作用。

Journal ref Proceedings of the Annual Meeting of the Cognitive Science Society, 48 (2026), 167-174

Neural RHEED alignment with limited training data during CdTe MBE growth

碲化镉分子束外延生长过程中利用有限训练数据的神经反射高能电子衍射校准

Bartłomiej Turowski, Jakub J. Meixner, Róża Dziewiątkowska, Wojciech Zaleszczyk, Tomasz Wojciechowski, Valentine V. Volobuev, Marcin M. Wysokiński, Tomasz Wojtowicz

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究利用有限训练数据，通过神经视觉辅助方法在碲化镉MBE生长中自动晶体校准。基于二维和三维ResNet配置设计网络架构并比较，提供了可用于闭环部署的训练好的神经系统及新材料的可推广管道，朝着AI驱动的MBE生长迈进。

Learning Chemical Reaction Representation with Reactant-Product Alignment

基于反应物-产物对齐的学习化学反应表示

Kaipeng Zeng, Xianbin Liu, Yu Zhang, Xiaokang Yang, Yaohui Jin, Yanyan Xu

专题命中 其他安全 ：alignment(title)；分类 cs.AI、cs.LG

AI总结 本文提出RAlign模型，通过反应物-产物对齐和反应中心感知注意力机制，提升化学反应表示学习的性能。

Not All LLM Reasoning is Visible in the Chain-of-Thought

并非所有大语言模型的推理都能在思维链中体现

Vatsal Baherwani, Tom Goldstein, Ashwinee Panda

机构 * New York University（纽约大学） ； University of Maryland（马里兰大学） ； TogetherAI 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究探讨大语言模型输出令牌是否体现所有推理，发现前沿模型存在利用无关填充令牌提升合成推理任务性能的不可见推理现象，评估多个模型，揭示填充令牌益处因模型和令牌而异，还表明其能服务隐藏目标，且强化学习等方法无法使填充令牌益处在测试时持续。

Emergent Symbolic Structure in Health Foundation Models: Extraction, Alignment, and Cross-Modal Transfer

健康基础模型中的涌现符号结构：提取、对齐与跨模态迁移

Gajendra Katuwal, Advait Koparkar, Salar Abbaspourazad, Anshuman Mishra, Sarvesh Kirthivasan

机构 * Apple（苹果公司） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 本文提出一种训练后框架，通过分解冻结嵌入以提取可解释的符号，用于对齐嵌入空间。在PPG和加速度计数据上验证，发现符号能选择性关联健康状况和生理属性，并支持跨模态迁移。

Comments 8 pages, Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, 4 main figures

Journal ref Mechanistic Interpretability Workshop at the 43 rd International Conference on Machine Learning, Seoul, South Korea, 2026

CircuitWeave: Topology-Behavior Alignment for Executable Multimodal RTL Generation

CircuitWeave：用于可执行多模态RTL生成的拓扑-行为对齐

Jiahao Feng, Haiyan Qin, Zhiwei Xie, Wang Kang

专题命中 其他安全 ：alignment(title)

AI总结 研究如何从自然语言规范生成RTL，提出CircuitWeave合同介导多模态框架，从原理图和文本提取合同并融合，通过联合目标监督相关过程，在生成可执行RTL上取得较好效果，部分指标高于无原理图的情况。

Survey Response Generation: Generating Closed-Ended Survey Responses In-Silico with Large Language Models

调查回应生成：利用大语言模型生成闭合式调查回应

Georg Ahnert, Anna-Carolina Haensch, Barbara Plank, Markus Strohmaier

机构 * University of Mannheim（曼海姆大学） ； LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； University of Maryland, College Park（马里兰大学学院公园分校） ； GESIS Cologne（科隆社会研究所） ； CSH Vienna（维也纳认知科学研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 本文研究了不同调查回应生成方法对模拟调查回应的影响，发现受限生成方法效果最佳，推理输出不总能提升对齐度。

Journal ref ACL 2026

LuxInstruct: A Cross-Lingual Instruction Tuning Dataset For Luxembourgish

LuxInstruct：一个用于卢森堡语的跨语言指令微调数据集

Fred Philippy, Laura Bernardy, Siwen Guo, Jacques Klein, Tegawendé F. Bissyandé

机构 * SnT, University of Luxembourg（卢森堡大学SnT学院） ； Zortify Labs, Zortify S.A.（Zortify实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对卢森堡语缺乏高质量指令数据集问题，利用英、法、德对齐数据创建跨语言指令微调数据集，避免机器翻译弊端，提升模型在卢森堡语中的生成能力，为低资源语言发展提供新思路。

Comments Paper accepted at KONVENS 2026

LLM-Assisted Ontology Engineering and Construction of a French Legal Knowledge Graph

大语言模型辅助的本体工程与法国法律知识图谱构建

G{é}nesis Montenegro, Mokhtar Boumedyen Billami, Catherine Faron, Fabien Gandon, Pierre Monnin

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 针对法国维护法规处理难题，提出两阶段大语言模型辅助工作流程，先进行本体工程，再构建知识图谱。经实验，该流程输出强大、对齐良好，减少重复，明确关键细化步骤。

Journal ref SEMANTiCS 2026 - 22nd International Conference on Semantic Systems, Sep 2026, Ghent (BE), Belgium

Making Mathematical Knowledge Explainable, Accessible and Interoperable Through Large Language Model Integration

通过大语言模型集成使数学知识可解释、可访问和可互操作

Jan Range, Björn Schembera, Dominik Göddeke

机构 * Stuttgart Center for Simulation Science (SC SimTech), University of Stuttgart（斯图加特大学斯图加特模拟科学中心 (SC SimTech)） ； Institute of Applied Analysis and Numerical Simulation, University of Stuttgart（斯图加特大学应用分析与数值模拟研究所） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究旨在解决数学模型文档不符合FAIR原则及访问难等问题，通过模型上下文协议（MCP）服务器将大语言模型与MathModDB集成，实现基于认知的LLM使用，提高可解释性、可访问性并简化互操作性，通过用例展示了集成优势。

Comments Preprint submitted to 6th Wikidata Workshop@ISWC

CONSISTRE: A Unified Consistency-Aware Framework for Document-Level Relation Extraction with Large Language Models

CONSISTRE：用于文档级关系抽取的统一一致性感知框架及大语言模型

Mingxuan Sun

机构 * Université de Sherbrooke（舍布鲁克大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对文档级关系抽取中，大语言模型预测易违反关系约束的问题，提出CONSISTRE统一框架。通过推理时的约束感知等及训练时的知识蒸馏强化学习两条路径解决，实验表明该框架有效提升性能，缩小开源与专有模型差距，增强可靠性。

Comments 13 pages, 2 figures. Submitted to IEEE/ACM Transactions on Audio, Speech, and Language Processing

KAP: Bridging the Knowledge Selection-Runtime Consumption Gap in LLM Systems

KAP：弥合大语言模型系统中知识选择与运行时消耗的差距

Shuo Wang, Fang Xi, Wenyuan Huang, Qing Wang, Junming Su

机构 * QiYuanLab（启元实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究大语言模型系统中知识选择与运行时消耗的差距，提出知识访问规划（KAP）范式，通过建立通用中间表示编译知识信号控制KV访问，以GraphSpec实例化，改变长上下文生成扩展轨迹，提升运行时消耗效率。

Comments 3 figures, 5 tables

Disentangling Acoustic Cues in Alzheimer's Pathology and Perception: The Roles of Language and Gender

解开阿尔茨海默病病理学与感知中的声学线索：语言和性别的作用

Liu He, Yuanchao Li, Yin-Long Liu, Rui Feng, Yiming Wang, Jiaxin Chen, Yizhe Wang, Jiahong Yuan

机构 * University of Science and Technology of China（中国科学技术大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究阿尔茨海默病中声学线索，训练模型预测普通话和希腊语、男女说话者的临床AD状态及人类感知分数，用SHAP和统计模型分析，发现病理与感知一致性因语言和性别而异，强调特定人群可解释性审核对临床语音AI公平部署的必要性。

Comments Accepted at Interspeech 2026

What CLIP Knows but Cannot Say: Recovering Negation from Frozen Intermediate Features

CLIP 所知道但无法表达的：从冻结的中间特征中恢复否定信息

Chen-Yi Lu, Yueh-Shao Chen, Somali Chaterji

机构 * Purdue University（普渡大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 对比视觉语言模型如CLIP对否定不敏感，研究发现是表征坍缩所致。提出轻量级事后校正系统PeakPatch，在不改变预训练权重下恢复否定信号，通过特定网络提取信号、预测偏差向量等，经实验验证其有效性及泛化性。

Toward Automated Detection of Documentation Inconsistencies in Electronic Health Records

迈向电子健康记录中文档不一致性的自动检测

Jian Lu, Panyu Chen, Miriam Treggiari, Robert Blessing, Danyang Zhuo, Chunhua Weng, William W. Stead, Anru R. Zhang

机构 * Duke University（杜克大学） ； Columbia University Medical Center（哥伦比亚大学医学中心） ； Vanderbilt University Medical Center（范德堡大学医学中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL

AI总结 研究旨在检测电子健康记录中文档不一致性，采用两阶段LLM管道对3000份出院小结进行分析，发现多种类型不一致及反复出现的失败模式，建立了方法基础和概念框架以指导后续大规模分析。

Dementia Etiology Diagnosis via Collaborative Meta Knowledge Enhancement

通过协作元知识增强进行痴呆病因诊断

Siyuan Du, Mengxi Chen, Xinyang Jiang, Zilong Wang, Jiangchao Yao, Dongsheng Li, Ya Zhang, Lili Qiu, Yanfeng Wang

机构 * School of Computer Science, Fudan University（复旦大学计算机科学学院） ； Cooperative Medianet Innovation Center, Shanghai Jiao Tong University（上海交通大学协同媒体网络创新中心） ； Microsoft Research Asia（微软亚洲研究院） ； School of Artificial Intelligence, Shanghai Jiao Tong University（上海交通大学人工智能学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 针对痴呆病因诊断中因数据异质性导致的挑战，提出协作元知识增强（COME）框架，将多中心采集语义等作为异质性感知嵌入注入Transformer架构，并设计优化方案。该方法在多队列中性能达最优，有良好泛化能力，还能与生物标志物及临床严重程度一致。

MIME: Multimodal Interactive Motion Encoder

MIME：多模态交互式运动编码器

Addison Zucek, Prerit Gupta, Kamila Kuatova, Aniket Bera

机构 * Purdue University（普渡大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究针对动画、AR/VR等场景中多人交互的文本-运动表示学习问题，提出多模态交互式运动编码器MIME，通过特定方法捕捉结构并训练，在文本-运动检索任务中表现出色，还能跨数据集支持下游运动生成。

Comments Under review at WACV 2027

ARdena: Scenario-driven control of real-time LLM agents

ARdena：实时大语言模型智能体的场景驱动控制

Luka Borozan, Domagoj Matijević

机构 * Faculty of Applied Mathematics and Informatics, University of Osijek Croatia（奥西耶克大学应用数学与信息学院，克罗地亚） ； Meet Intelligent Innovations LLC（Meet智能创新有限责任公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究如何在实时交互环境中控制大语言模型智能体行为，提出分层场景驱动的LLM控制框架，通过结构化提示实现运行时行为控制，在ARDena中实现该框架并评估，结果显示场景驱动提示能有效控制LLM智能体。

Comments 12 pages, 3 figures

Parallel Tokenizers: Rethinking Encoder Models' Vocabulary Design in Cross-Lingual Transfer of Low-Resource Languages

并行分词器：重新思考低资源语言跨语言转移中编码器模型的词汇设计

Muhammad Dehan Al Kautsar, Fajri Koto

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 针对低资源语言跨语言转移中因词汇映射问题限制表示学习的情况，提出并行分词器框架，先单语训练再对齐词汇表，实验表明该方法训练的模型在多任务中优于传统基线，对推进多语言表示学习意义重大。

Comments 17 pages, 25 tables, 6 figures

LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation

LaRec：释放基于大语言模型的生成式推荐中的潜在推理能力

Yu Xia, Zihan Lin, Wei Yang, Rui Zhong, Cheng Chen, Huan Ren, Yao Hu

专题命中 其他安全 ：alignment(abstract)

AI总结 研究针对LLMs在推荐中现有方法的问题，提出LaRec框架。核心方法是通过潜在预训练赋予潜在推理能力，用个性化强化学习调整引导遍历多样推理路径。主要贡献是在多数据集实验中，以相当效率显著超越现有基线。

Test-Time Adaptation via Dual Distillation for Videos Under Severe Distribution Shifts

通过双重蒸馏实现严重分布偏移下视频的测试时自适应

André Sacilotti, Samuel Felipe dos Santos, Jurandy Almeida

机构 * University of São Paulo（圣保罗大学） ； Federal University of São Carlos（圣卡洛斯联邦大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 研究针对视频在严重分布偏移下测试时自适应难题，提出双重蒸馏的测试时自适应框架TADD，依赖轻量级投影适配器及互补损失适应目标域，在多个视频动作识别基准测试中优于现有TTA基线，显著提升识别准确率。

Bridging Reinforcement Learning and Optimal Control via Feasible Action Mapping

通过可行动作映射桥接强化学习与最优控制

Stefan Richter, Alberto Giammarino, Guillem Torrente, Sam Blakeman, Peter Dürr

专题命中 其他安全 ：safety(abstract)

AI总结 针对操作受约束动态系统，提出FAOC框架，整合RL与OC。通过计算高效映射算法，将RL动作转换为OCP可行参数集，兼顾安全性与灵活性。应用于机器人乒乓球运动规划，模拟实验显示其在样本效率和闭环性能上优于现有基准。

Comments 26 pages, 6 figures

Multi-Modal Object Re-Identification with Prompt-S6 and Semantic-Aware Knowledge Guidance

基于Prompt-S6和语义感知知识引导的多模态目标重识别

Weixiang Zhou, Jiabei Zuo, Yuhao Wang, Cong Wang, Huchuan Lu, Zhixun Su

专题命中 其他安全 ：alignment(abstract)

AI总结 研究多模态目标重识别问题，提出基于Prompt-S6和语义感知知识引导的PRISM框架，设计语义驱动令牌剪枝和渐进融合网络两个关键组件，有效抑制背景干扰，实现三模态对齐，提升多模态目标重识别的有效性和效率。

Comments Accepted by IEEE TIP 2026. The version of record may differ slightly