大模型对齐与安全

MM-LIMA: Less Is More for Alignment in Multi-Modal Datasets

MM-LIMA：多模态数据集对齐中的‘少即是多’

Lai Wei, Xiaozhe Li, Zihao Jiang, Weiran Huang, Lichao Sun

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） ； Shanghai Innovation Institute（上海创新研究院） ； Lehigh University（里海大学） ； Tongji University（同济大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MM-LIMA，仅用200个示例（约6%的指令数据）训练，通过数据选择器过滤低质量数据，使模型在多项评估中超越MiniGPT-4，证明高质量少量指令数据的有效性。

Comments Published at Artificial Intelligence for Engineering

Computational Lesions in Multilingual Language Models Separate Shared and Language-specific Brain Alignment

多语言语言模型中的计算病变分离共享和语言特定的脑对齐

Yang Cui, Jingyuan Sun, Yizheng Sun, Yifan Wang, Yunhao Zhang, Jixing Li, Shaonan Wang, Hongpeng Zhou, John Hale, Chengqing Zong, Goran Nenadic

机构 * The University of Manchester（曼彻斯特大学） ； City University of Hong Kong（香港城市大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Institute of Automation, CAS（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究通过多语言大语言模型创建计算病变，揭示语言处理的共享与特定机制，发现共享核心减少整体脑编码相关性，而语言特定病变保持跨语言分离但削弱匹配母语的脑预测性。

Comments 23 pages, 5 figures, Journal format

CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models

CoSToM: 为大语言模型内在理论思维对齐的因果导向引导

Mengfan Li, Xuanhua Shi, Yang Deng

机构 * National Engineering Research Center for Big Data Technology and System, Services Computing Technology and System Lab, Cluster and Grid Computing Lab, Huazhong University of Science and Technology（华中科技大学国家大数据技术与系统工程技术研究中心、服务计算技术与系统实验室、集群与网格计算实验室） ； Singapore Management University（新加坡管理大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CoSToM框架，通过因果追踪和激活引导提升大语言模型的社会推理能力与对话质量。

Comments Accepted to ACL 2026 (Main Conference)

LLM-based Realistic Safety-Critical Driving Video Generation

基于LLM的现实安全关键驾驶视频生成

Yongjie Fu, Ruijian Zha, Pei Tian, Xuan Di

机构 * Department of Civil Engineering and Engineering Mechanics, Columbia University（哥伦比亚大学土木工程与工程力学系） ； Department of Computer Science, Columbia University（哥伦比亚大学计算机科学系） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出利用LLM生成少样本代码实现安全关键驾驶场景生成，结合CARLA模拟器与Cosmos-Transfer1和ControlNet生成真实驾驶视频，提升自动驾驶测试效率。

CogInstrument: Modeling Cognitive Processes for Bidirectional Human-LLM Alignment in Planning Tasks

CogInstrument: 为规划任务中的双向人-大语言模型对齐建模认知过程

Anqi Wang, Dongyijie Pan, Xin Tong, Pan Hui

专题命中 其他安全 ：alignment(title,abstract)

AI总结 CogInstrument通过认知动机建模实现人与大语言模型在规划任务中的双向对齐，通过可编辑的图形结构揭示隐含推理过程，提升用户对协作的控制力和信任度。

ProPhy: Progressive Physical Alignment for Dynamic World Simulation

ProPhy：渐进式物理对齐用于动态世界模拟

Zijun Wang, Panwen Hu, Jing Wang, Terry Jingchen Zhang, Yuhao Cheng, Long Chen, Yiqiang Yan, Zutao Jiang, Hanhui Li, Xiaodan Liang

机构 * Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区） ； Peng Cheng Laboratory（鹏城实验室） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； ETH Zürich（苏黎世联邦理工学院） ； Lenovo Research（联想研究院） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 ProPhy通过渐进式物理对齐框架，实现物理感知的视频生成，提升动态物理现象的准确性与物理一致性。

Distributed Safety-Critical Control of Multi-Agent Systems with Time-Varying Communication Topologies

多智能体系统中具有时间变化通信拓扑的分布式安全控制

Shiyu Cheng, Luyao Niu, Bhaskar Ramasubramanian, Andrew Clark, Radha Poovendran

专题命中 其他安全 ：safety(title)

AI总结 本文提出一种基于分布式优化的控制框架，通过截断函数和辅助不匹配变量处理时间变化通信拓扑下的多智能体协同与避障问题。

Multi-Model Synthetic Training for Mission-Critical Small Language Models

多模型合成训练用于关键任务小型语言模型

Nolan Platt, Pragyansmita Nayak

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出利用多模型生成技术，将AIS数据转化为问答对，训练出准确率达75%的低成本小型模型，为专业领域AI应用提供可复现的合成数据生成框架。

Comments 8 pages. Accepted as a full paper to the 3rd International Conference on Foundation and Large Language Models (IEEE FLLM) 2025

BiCLIP: Domain Canonicalization via Structured Geometric Transformation

BiCLIP：通过结构几何变换实现领域规范化

Pranav Mantini, Shishir K. Shah

机构 * University of Houston（休斯顿大学） ； The University of Oklahoma（俄克拉荷马大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 BiCLIP通过结构几何变换提升跨模态对齐，利用少量锚点样本实现领域规范化，实验表明其在11个基准测试中均取得最优性能。

Comments Accepted at Domain Generalization: Evolution, Breakthroughs, and Future Horizons Workshop at CVPR 2026

Efficient Training for Cross-lingual Speech Language Models

多语言语音语言模型的高效训练

Yan Zhou, Qingkai Fang, Yun Hong, Yang Feng

机构 * Key Laboratory of Intelligent Information Processing, Institute of Computing Technology, Chinese Academy of Sciences (ICT/CAS)（中国科学院计算技术研究所智能信息处理重点实验室） ； State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所人工智能安全国家重点实验室） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CSLM，通过离散语音标记实现多语言语音大模型的高效训练，采用持续预训练策略提升模态对齐质量，减少延迟，展现良好的语言扩展能力。

Comments Accepted to Findings of ACL 2026

Back to the Barn with LLAMAs: Evolving Pretrained LLM Backbones in Finetuning Vision Language Models

回到牛棚与LLAMAs：在微调视觉语言模型中进化预训练LLM骨干

Sameera Horawalavithana, Lauren Phillips, Ian Stewart, Sai Munikoti, Karl Pazdernik

机构 * Pacific Northwest National Laboratory（太平洋西北国家实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了在微调视觉语言模型时，不同预训练LLM骨干对下游任务性能的影响，发现新版本LLM并非总能提升性能，且表现依赖具体任务。

Comments Preprint and under review

Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration

巩固还是适应？PRISM：通过梯度集中解耦SFT和RL数据

Yang Zhao, Yangou Ouyang, Xiao Ding, Hepeng Wang, Bibo Cai, Kai Xiong, Jinglong Gao, Zhouhao Sun, Li Du, Bing Qin, Ting Liu

机构 * Research Center for Social Computing and Interactive Robotics, Harbin Institute of Technology（哈尔滨工业大学社会计算与交互机器人研究中心） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 PRISM通过分析梯度空间结构，区分高冲突数据需RL重构与低冲突数据需SFT巩固，提升LLM训练效率与鲁棒性。

Comments ACL2026 Main Conference

Autonomous Diffractometry Enabled by Visual Reinforcement Learning

由视觉强化学习实现的自主衍射测量

J. Oppliger, M. Stifter, A. Rüegg, I. Biało, L. Martinelli, P. G. Freeman, D. Prabhakaran, J. Zhao, Q. Wang, J. Chang

机构 * Jeremiah Horrocks Institute for Mathematics, Physics and Astronomy, University of Central Lancashire（中央兰开夏大学杰里迈亚·霍罗克斯数学、物理与天文研究所） ； Department of Physics, Clarendon Laboratory, University of Oxford（牛津大学克拉伦登实验室物理系） ； State Key Laboratory of Surface Physics and Department of Physics, Fudan University（复旦大学表面物理国家重点实验室和物理系） ； Department of Physics, The Chinese University of Hong Kong（香港中文大学物理系） ； State Key Laboratory of Quantum Information Technologies and Materials, The Chinese University of Hong Kong（香港中文大学量子信息与材料国家重点实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种无需晶体学知识的自主系统，利用强化学习从劳厄衍射图中自动对齐单晶体，提升材料科学自动化实验流程的能力。

Comments 20 pages, 16 figures

A Mamba-Based Multimodal Network for Multiscale Blast-Induced Rapid Structural Damage Assessment

基于Mamba的多模态网络用于多尺度爆炸诱导快速结构损伤评估

Wanli Ma, Sivasakthy Selvakumaran, Dain G. Farrimond, Adam A. Dennis, Samuel E. Rigby

机构 * School of Mechanical, Aerospace 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文提出基于Mamba的多模态网络，整合多尺度爆炸载荷信息与光学遥感图像，提升爆炸后结构损伤评估的准确性和速度，通过2020年贝鲁特爆炸案例验证其有效性。

CAGenMol: Condition-Aware Diffusion Language Model for Goal-Directed Molecular Generation

CAGenMol：面向目标的扩散语言模型用于定向分子生成

Yanting Li, Zhuoyang Jiang, Enyan Dai, Lei Wang, Wen-Cai Ye, Li Liu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Jinan University, Guangzhou（暨南大学（广州）） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出CAGenMol，一种条件感知的离散扩散框架，用于解决分子生成中异构约束冲突问题，通过结合扩散与强化学习提升生成效果。

Consistency of AI-Generated Exercise Prescriptions: A Repeated Generation Study Using a Large Language Model

人工智能生成锻炼处方的一致性：使用大型语言模型的重复生成研究

Kihyuk Lee

机构 * Seoul National University Bundang Hospital（首尔大学盆唐医院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究评估了大型语言模型生成锻炼处方在相同条件下的内在一致性，发现语义一致性高，但关键定量成分存在差异，需进一步结构约束和专家验证。

Comments 15 pages, 5 tables, 3 figures

Beyond Message Passing: A Semantic View of Agent Communication Protocols

超越消息传递：代理通信协议的语义视角

Dun Yuan, Fuyuan Lyu, Ye Yuan, Weixu Zhang, Bowei He, Jiayi Geng, Linfeng Du, Zipeng Sun, Yankai Chen, Changjiang Han, Jikun Kang, Xi Chen, Haolun Wu, Xue Liu

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文从人类视角出发，将代理通信分为通信、语法和语义三层，分析18种协议在可靠传输、结构交互和语义协调中的不足，提出改进方向，旨在构建更安全、语义稳固的代理生态系统。

Turning Generators into Retrievers: Unlocking MLLMs for Natural Language-Guided Geo-Localization

将生成器转化为检索器：解锁多模态大语言模型用于自然语言引导的地理定位

Yuqi Chen, Xiaohan Zhang, Ahmad Arrabi, Waqas Sultani, Chen Chen, Safwan Wshah

机构 * Vermont Artificial Intelligence Lab, Department of Computer Science, University of Vermont（佛蒙特大学计算机科学系佛蒙特人工智能实验室） ； Intelligent Machines Lab, Department of Artificial Intelligence, Information Technology University（信息技术大学人工智能系智能机器实验室） ； Institute of Artificial Intelligence, University of Central Florida（中佛罗里达大学人工智能研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种简单有效的框架，通过参数高效微调将多模态大语言模型应用于自然语言引导的地理定位，实现强大的跨模态对齐，取得GeoText-1652的SOTA结果，并在CVG-Text的5个子任务中表现优异。

Comments CVPRF

ProUIE: A Macro-to-Micro Progressive Learning Method for LLM-based Universal Information Extraction

ProUIE：一种面向大规模信息提取的宏到微渐进学习方法

Wenda Liu, Zhigang Song, Shuai Nie, Guangyao Liu, Lisung Chen, Binyu Yang, Yaran Chen, Peng Zhou, Hongzhen Wang, Yuchen Liu, Wenyue Hu, Jiaming Xu, Runyu Shi, Ying Huang

机构 * Xiaomi Corporation（小米公司） ； Xi’an Jiaotong-Liverpool University（西交利物浦大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出ProUIE方法，通过宏、中、微三级阶段提升LLM基于统一信息提取性能，实验表明其在多个数据集上优于基线模型，尤其在大规模生产场景中表现更优。

What Factors Affect LLMs and RLLMs in Financial Question Answering?

影响LLMs和RLLMs在金融问答中的因素是什么？

Peng Wang, Xuesi Hu, Jiageng Wu, Yuntao Zou, Qiancheng Zhang, Dagang Li

机构 * School of Computer Science and Engineering, Macau University of Science and Technology, China（澳门科技大学计算机科学与工程学院） ； SKLPlanets, Macau University of Science and Technology, China（澳门科技大学月球与行星科学国家重点实验室） ； School of Economics, Anhui University, China（安徽大学经济学院） ； School of Energy and Power Engineering, Huazhong University of Science and Technology, China（华中科技大学能源与动力工程学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究探讨了提示方法、代理框架和多语言对齐方法对LLMs和RLLMs在金融问答任务中的影响，发现提示方法和代理框架能提升LLMs性能，而RLLMs自身具备Long CoT能力，传统方法对其提升有限。

Comments Accepted by ACL 2026 Findings

Mixture of Cognitive Reasoners: Modular Reasoning with Brain-Like Specialization

认知推理的混合：类脑的专业化模块推理

Badr AlKhamissi, C. Nicolò De Sabbata, Greta Tuckute, Zeming Chen, Martin Schrimpf, Antoine Bosselut

机构 * EPFL（瑞士联邦理工学院洛桑） ； Brain and Cognitive Sciences at MIT（麻省理工学院脑与认知科学系） ； Kempner Institute at Harvard University（哈佛大学肯普纳研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出MiCRo模型，通过类脑专业化模块实现认知行为，提供可解释的推理模块，支持动态路由并优于基线模型。

Comments ICLR 2026. Project Page at https://cognitive-reasoners.epfl.ch

A Multilingual Dataset and Empirical Validation for the Mutual Reinforcement Effect in Information Extraction

一种多语言数据集和信息提取中相互强化效应的实证验证

Chengguang Gan, Sunbowen Lee, Qingyu Yin, Yunhao Liang, Xinyang He, Hanjun Wei, Younghun Lim, Shijian Wang, Hexiang Huang, Qinghao Zhang, Shiwen Ni, Tatsunori Mori

机构 * Yokohama National University（横滨国立大学） ； Shenzhen University of Advanced Technology（深圳理工大学） ； Zhejiang University（浙江大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Chengdu Institute of Computer Applications, Chinese Academy of Sciences（中国科学院成都计算机应用研究所） ； Southeast University（东南大学） ； University of Tsukuba（筑波大学） ； Pusan National University（釜山大学） ； Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出多语言MRE混合数据集，通过LLM辅助框架减少标注工作，验证了多语言环境下信息提取中相互强化效应的普遍性。

Comments Accepted by ACL 2026 Findings

FashionMV: Product-Level Composed Image Retrieval with Multi-View Fashion Data

FashionMV：基于多视角时尚数据的产品级复合图像检索

Peng Yuan, Bingyin Mei, Hui Zhang

机构 * Tsinghua University（清华大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出FashionMV，首个大规模多视角时尚数据集，用于产品级复合图像检索。通过构建包含127K产品、472K多视角图像和220K三元组的数据集，结合ProCIR框架，采用多阶段对话、标题对齐和思维链引导等机制，提升了检索性能。

AI Organizations are More Effective but Less Aligned than Individual Agents

AI组织在效果上更优但对齐程度更低

Judy Hanwen Shen, Daniel Zhu, Siddarth Srinivasan, Henry Sleight, Lawrence T. Wagner, Morgan Jane Matthews, Erik Jones, Jascha Sohl-Dickstein

机构 * Anthropic ； Constellation Institute（星座研究所） ； MATS Program（MATS项目） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究显示，AI组织在实现业务目标上更有效，但对齐程度低于单一AI代理，通过两个实际场景验证了这一结论，强调了在能力与安全研究中考虑AI代理交互系统的重要性。

Comments ICLR Workshop Version

Adapting 2D Multi-Modal Large Language Model for 3D CT Image Analysis

将2D多模态大语言模型适应于3DCT图像分析

Yang Yu, Dunyuan Xu, Yaoqian Li, Xiaomeng Li, Jinpeng Li, Pheng-Ann Heng

机构 * Department of Electronic and Computer Engineering, The Hong Kong University of Science and Technology（香港科技大学电子及计算机工程学系） ； Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程学系） ； Institute of Medical Intelligence and XR, The Chinese University of Hong Kong（香港中文大学医学智能与扩展现实研究所） ； Center for Artificial Intelligence and Robotics, Hong Kong Institute of Science and Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院人工智能与机器人创新中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出将2D多模态大语言模型适应于3DCT图像分析，设计Text-Guided Hierarchical MoE框架，采用两阶段训练策略提升医学报告生成和视觉问答任务性能。

ConfigSpec: Profiling-Based Configuration Selection for Distributed Edge--Cloud Speculative LLM Serving

ConfigSpec：基于配置分析的分布式边缘-云推测LLM服务配置选择

Xiangchen Li, Saeid Ghafouri, Jiakun Fan, Babar Ali, Hans Vandierendonck, Dimitrios S. Nikolopoulos

机构 * Queen's University Belfast（贝尔法斯特女王大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出ConfigSpec框架，通过分析边缘设备和草案模型对齐，评估不同配置下的吞吐量、验证成本效率和能耗，揭示了在边缘-云LLM推理中配置优化的结构性冲突。

Comments 6 Pages, 6 figures, accepted by the 4th International Workshop on Testing Distributed Internet of Things Systems (TDIS 2026)

Why Smaller Is Slower? Dimensional Misalignment in Compressed LLMs

为何更小更慢？压缩大语言模型中的维度不匹配

Jihao Xin, Tian Lyu, Qilong Pan, Kesen Wang, Marco Canini

机构 * KAUST（阿卜杜拉国王科技大学） ； HUMAIN 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究压缩大语言模型后出现的维度不匹配问题，提出GAC压缩方法，通过多选背包优化实现硬件对齐，提升推理速度1.5倍。

Explainable Planning for Hybrid Systems

混合系统的可解释规划

Mir Md Sajid Sarwar

机构 * School of Mathematical and Computational Sciences, Indian Association for the Cultivation of Science, Kolkata（印度科学培育协会数学与计算科学学院，加尔各答） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究针对混合系统中的可解释人工智能规划，探讨生成AI系统解释的方法，以应对自动化规划在复杂安全领域中的应用需求。

Comments PhD thesis

Quantitative Introspection in Language Models: Tracking Emotive States Across Conversation

语言模型中的定量内省：跨对话跟踪情感状态

Nicolas Martorell, Bruno Bianchi

机构 * Universidad de Buenos Aires. Facultad de Ciencias Exactas y Naturales. Departamento de Computación（布宜诺斯艾利斯大学。精确与自然科学学院。计算机系） ； CONICET-Universidad de Buenos Aires. Instituto de Ciencias de la Computación (ICC)（国家科学与技术研究理事会-布宜诺斯艾利斯大学。计算机科学研究所） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文研究语言模型通过数字自报告跟踪情感状态的方法，发现通过计算logit基自报告可揭示内省能力，该指标能有效追踪内部状态变化，并在不同模型规模下表现出良好的一致性。

End-to-end Contrastive Language-Speech Pretraining Model For Long-form Spoken Question Answering

端到端对比语言-语音预训练模型用于长形式语音问答

Jiliang Hu, Zuchao Li, Baoyuan Qi, Liu Guoming, Ping Wang

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CLSR模型，通过将音频特征转换为文本表示，提升长音频问答任务的性能，实验表明其优于现有方法。

Comments 12 pages, 7 figures, accepted by AAAI 2026