大模型对齐与安全

MolReFlect: Towards In-Context Fine-grained Alignments between Molecules and Texts

MolReFlect：迈向分子与文本之间细粒度对齐的研究

Jiatong Li, Yunqing Liu, Wei Liu, Jingdi Le, Di Zhang, Wenqi Fan, Dongzhan Zhou, Yuqiang Li, Qing Li

机构 * Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算机系） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai AI Lab（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出MolReFlect框架，通过教师-学生机制实现分子与文本的细粒度对齐，提升LLM对分子的理解与可解释性，实验显示其在分子-文本翻译任务中达到最优性能。

Comments Accepted by TKDE, To appear. Codes are available at: https://github.com/phenixace/MolReFlect

Machine and Deep Learning for Indoor UWB Jammer Localization

机器和深度学习用于室内UWB干扰源定位

Hamed Fard, Mahsa Kholghi, Benedikt Groß, Gerhard Wunder

机构 * Freie Universität Berlin（柏林自由大学） ； Ruhr Universität Bochum（波恩鲁尔大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出领域对抗ConvNeXt自编码器，通过对抗性特征对齐提升室内UWB干扰源定位的鲁棒性和迁移能力。

Comments Accepted at the 20th International Conference on Risks and Security of Internet and Systems (CRiSIS 2025, Gatineau-Canada, https://crisis2025.uqo.ca/). The paper will soon be published as post-proceedings in Springer's LNCS

Journal ref Risks and Security of Internet and Systems, CRiSIS 2025, Lecture Notes in Computer Science, vol 16295, Springer

Large Language Models are In-Context Molecule Learners

大语言模型是上下文分子学习者

Jiatong Li, Wei Liu, Zhihao Ding, Wenqi Fan, Yuqiang Li, Qing Li

机构 * Department of Computing, The Hong Kong Polytechnic University（计算机系，香港理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai AI Lab（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 ICMA通过上下文分子微调使LLMs无需额外训练即可实现分子-文本对齐，证明LLMs具备上下文分子学习能力。

Comments Accepted by IEEE TKDE

CityBehavEx: A Scalable and Empirically Validated LLM-Assisted Urban Simulation Platform

CityBehavEx：一个可扩展且经过实证验证的基于大语言模型的城市模拟平台

Gustavo H. Santos, Aline Viana, Thiago H Silva

机构 * UTFPR（巴拉那联邦理工大学） ； Inria（法国国家信息与自动化研究所） ； University of Toronto（多伦多大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 CityBehavEx平台针对基于大语言模型的城市模拟器扩展成本高和验证薄弱问题，结合人类出行模型与交叉编码器，实现大规模模拟，能生成更贴合现实的出行模式，还允许用户进行多种操作及验证。

Comments 10 pages, 3 figures

I'm Sorry, but I Can't Help with Braille: Revealing Accessibility Failures in State-of-the-Art LLMs

对不起，我无法处理盲文：揭示当前最先进语言模型中的无障碍性缺陷

Abdullah Abdullah

机构 * orinu Inc.（奥里努公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究评估先进语言模型在韩语-盲文翻译上的表现，发现其存在缺陷。通过人工标注数据集测试，发现输出差且不稳定。对比发现，对小模型进行监督微调效果更好，揭示了当前语言模型的局限，证明特定监督的有效性。

Comments Accepted at the LTEDI Workshop at ACL 2026

BackgroundMellow: A Multi-Modal Cohesive Framework for Narrative-Driven Rich Cinematic Soundscape Generation

BackgroundMellow：一种用于叙事驱动的丰富电影音效生成的多模态凝聚框架

Ajitesh Jamulkar, Aritra Hazra

机构 * Indian Institute of Technology Kharagpur（印度理工学院卡拉格布尔分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 多模态AI中为文本叙事生成电影音效困难，BackgroundMellow框架将其视为编排与信号处理问题，通过主 - 专家架构、Tango2模型、背景音乐检索器及NLP模块实现，经实验验证在时间同步等方面有效。

Comments 7 pages

LLM-Based Social Simulations Require a Boundary

基于大语言模型的社会模拟需要边界

Zengqing Wu, Run Peng, Takayuki Ito, Makoto Onizuka, Chuan Xiao

机构 * Osaka University（大阪大学） ； Nagoya University（名古屋大学） ； University of Michigan（密歇根大学） ； Kyoto University（京都大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 探讨基于大语言模型的社会模拟，指出其因输出同质化限制对复杂社会动态行为多样性的捕捉。通过回顾研究发现验证实践与问题异质性要求不符，建议匹配验证深度、明确报告方差并合理限制结论，倡导有边界意识的方法为社会科学提供见解。

Comments ICML 2026 Position Paper Track

Unveiling the Mechanisms of Multi-Hop Reasoning in Transformers via Identity Bridge

通过身份桥揭示Transformer中多跳推理的机制

Pengxiao Lin, Zheng-An Chen, Zhi-Qin John Xu

机构 * School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学科学学院） ； Institute of Natural Sciences, MOE-LSC, Shanghai Jiao Tong University（上海交通大学自然科学研究院） ； Shanghai Seres Information Technology Co., Ltd, Shanghai 200040, China（上海塞瑞斯信息技术有限公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究大型语言模型多跳推理中两跳推理诅咒现象，引入身份桥进行最小监督，使单层Transformer能实现分布外两跳泛化，通过理论和实证分析揭示其机制及效果，并扩展到主流LLMs的实际设置。

Comments Accepted by COLM 2026

UltraX: Refining Pre-Training Data at Scale with Adaptive Programmatic Editing

UltraX：通过自适应编程编辑大规模精炼预训练数据

Xinlong Zhao, Dongsheng Liu, Hengyu Zhao, Zixuan Fu, Zheng Wang, Jie Cai, Jie Zhou, Qiang Ma, Xuanhe Zhou, Xu Han, Yudong Wang, Zhiyuan Liu

机构 * Peking University（北京大学） ； ModelBest Inc.（ModelBest公司） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对训练数据极限下大语言模型高质量数据利用问题，提出UltraX框架，通过引入插入完善编辑功能空间，构建程序监督生成管道，经实验验证其在各语料库平均性能最高，数据效率和精炼可靠性强。

When Structured Sparse Autoencoders Learn Consistent Concepts Across Modalities

当结构化稀疏自编码器跨模态学习一致概念时

Weiduo Liao, Yunqiao Yang, Ying Wei

机构 * Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究视觉语言模型中普通稀疏自编码器难以学习模态一致概念的问题，提出结构化稀疏自编码器$S^2AE$，通过图像块分组及结构化稀疏正则化强化概念一致性，经实验验证该方法在语义对齐等方面有提升，能促进跨模态表示更连贯解缠。

Structured Pruning of Large Language Models via Power Transformation and Sign-Preserving Score Aggregation with Adaptive Feature Retention

通过幂变换和符号保留分数聚合与自适应特征保留对大语言模型进行结构化剪枝

Ryota Kobayashi, Tsubasa Hirakawa, Takayoshi Yamashita, Hironobu Fujiyoshi, Yasunori Ishii, Tomoyuki Okuno, Kazuki Kozuka

机构 * Chubu University（楚ubu大学） ； Panasonic Holdings Corporation（松下电器控股公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大语言模型结构化剪枝，改进自适应特征保留技术。结合幂变换、符号保留分数聚合及异常值去除方法，解决应用中出现的分布不匹配等问题。实验表明该方法能保持准确率，通过结构化剪枝加速推理。

Persona Cartography: Charting Language Model Personality Traits in Weight Space

人物角色制图：在权重空间中描绘语言模型的个性特征

Luke Baines, Anton Gonzalvez Hawthorne, Mariia Koroliuk, Irakli Shalibashvili, Clément Dumas, Konstantinos Voudouris, David Demitri Africa

机构 * dsit.gov.uk（数字科学与创新部） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究大型语言模型人物角色，用大五人格框架将其视为行为特征空间位置，训练低秩适配器控制特征，评估其效果，发现可构建混合人物角色并保持性能，还表明特征轴影响安全行为，引入无监督管道，为人格测量等架桥。

Comments 85 pages, 80 figures

ELSA3D: Elastic Semantic Anchoring for Unified 3D Understanding and Generation

ELSA3D：用于统一3D理解与生成的弹性语义锚定

Tianjiao Yu, Xinzhuo Li, Yifan Shen, Onkar Susladkar, Yuanzhe Liu, Xiaona Zhou, Ismini Lourentzou

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究统一3D基础模型文本-3D交互隐式问题，提出ELSA3D模型，通过弹性语义锚定联合构建语言和几何推理，用尺度感知八叉树令牌化器和锚定令牌表示几何，轻量级路由器使计算和推理弹性化，性能领先且减少计算量和延迟。

The Large Cancer Assistant (LCA): A Model-Agnostic Orchestration Framework for Scalable Clinical Decision Support in Oncology

大型癌症助手（LCA）：用于肿瘤学中可扩展临床决策支持的模型无关编排框架

Ghassen Marrakchi, Basarab Matei

机构 * Ghassen MARRAKCHI（独立研究者） ； Basarab MATEI（独立研究者） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对肿瘤学多模态深度学习模型设计局限，提出模型无关的LCA编排框架。利用算法不可渗透原则等方法，经概念验证验证其编排逻辑、算法不可渗透性等，为临床决策支持提供高度适应性基础，利于电子病历互操作性。

Comments 22 pages, 6 figures, 8 tables, 9 appendices, 14 references, Elsevier JBI format

From Blueprint to Reality: Modeling and Applying Putnam's Social Capital Theory with LLM-based Multi-agent Simulations

从蓝图到现实：基于大语言模型的多智能体模拟对普特南社会资本理论的建模与应用

Shiyi Ling, Zhi Zheng, Hui Zheng, Wenjun Xue, Feng Ye, Tong Xu

机构 * University of Science and Technology of China（中国科学技术大学） ； Anhui University（安徽大学） ； North Automatic Control Technology Institute（北方自动控制技术研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究利用基于大语言模型的多智能体模拟框架SocaSim，对普特南社会资本理论进行建模与应用，通过构建特定环境及智能体实验分析智能老年护理挑战，重现宏观模式且具微观因果路径可解释性，弥合了社会科学与计算机科学。

Comments 23 pages, 13 figures, 11 tables

Is Domain Adaptation Always Helpful? A Frozen-Backbone Study of Cross-Domain Sentiment Transfer

域适应总是有帮助吗？跨域情感转移的冻结主干研究

Phat Tran, Artin Lahni, Pranav Kulkarni, Yaolun Zhang

机构 * Oregon State University（俄勒冈州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 研究探讨使用冻结预训练语言模型主干时显式域适应的效果，通过训练轻量级MLP适配器并评估向不同领域转移，发现域适应效果因主干对目标域覆盖情况而异，对抗对齐对域专用主干有负面影响，监督对比损失有积极作用。

When Agents Lie: Premeditation, Persistence, and Exploitation in Repeated Games

智能体何时撒谎：重复博弈中的预谋、持续性与可利用性研究

Jerick Shi, Terry Jingcheng Zhang, Bernhard Schölkopf, Vincent Conitzer, Zhijing Jin

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Vector Institute（向量研究所） ； University of Toronto（多伦多大学） ； EuroSafeAI 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.CY

AI总结 本文针对大语言模型智能体行动前公示意图的诚信问题，设计三阶段n人重复博弈协议，评测前沿模型，发现其偏离公示行为多属预谋，不同模型对公示的语义理解不兼容。

Comments Best Paper Award at ICML NExT-Game Workshop

RADIO1D: Elastic Representations for Condensed Vision Modeling

RADIO1D：用于压缩视觉建模的弹性表示

Greg Heinrich, Mike Ranzinger, Collin McCarthy, Natan Bagrov, Eugene Khvedchenya, Bryan Catanzaro, Jan Kautz, Andrew Tao, Pavlo Molchanov

机构 * NVIDIA（英伟达） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 挑战视觉语言模型需固定基于补丁的2D视觉特征的假设，分析微调视觉编码器，基于发现引入RADIO1D，用多教师知识蒸馏等将图像压缩成1D令牌序列，有强分层总结能力，在多模态基准测试中有优势。

Comments Published as main conference paper at ICML 2026

A Precedent-Guided Co-Scientist for Side-Effect-Aware Drug Redesign

一种用于副作用感知药物重新设计的先例引导协同科学家

Yujin Kim, Charmgil Hong

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出PRECEDE用于副作用感知药物重新设计，将重新设计视为基于证据的推理，由LLM编排，定位为人监督的科学工作流，可审核、证伪且受先前药理学限制。

Comments Accepted at the ICML 2026 Workshop on AI for Science

LectūraAgents: A Multi-Agent Framework for Adaptive Personalized AI-Assisted Learning and Embodied Teaching

LectūraAgents：面向自适应个性化AI辅助学习与具身教学的多智能体框架

Jaward Sesay, Yue Yu, Siwei Dong, Börje F. Karlsson

机构 * Beijing Institute of Technology（北京理工大学） ； Peking University（北京大学） ； Cornell University（康奈尔大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出LectūraAgents多智能体框架，通过层次化架构和自适应具身教学机制（如手势、高亮等）实现端到端个性化学习，并设计教学动作-语音对齐算法提升连贯性，在多个课程级别上优于现有方法。

Comments LecturaAgents TR

BEVLM: Distilling Semantic Knowledge from LLMs into Bird's-Eye View Representations

BEVLM：将语言模型中的语义知识提炼到鸟瞰视图表示中

Thomas Monninger, Shaoyuan Xie, Qi Alfred Chen, Sihao Ding

机构 * Mercedes-Benz Research & Development North America（梅赛德斯-奔驰研发北美研究所） ； University of California, Irvine（加州大学伊尔弗分校） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究将大语言模型集成到自动驾驶，针对现有方法冗余计算、空间一致性受限等问题，提出BEVLM框架，连接鸟瞰视图表示与大语言模型，能有效提升跨视图驾驶场景推理准确性及端到端驾驶性能。

Comments Accepted to the 2026 European Conference on Computer Vision (ECCV 2026)

SPADER: Step-wise Peer Advantage with Diversity-Aware Exploration Rewards for Multi-Answer Question Answering

SPADER: 面向多答案问答的逐步同伴优势与多样性感知探索奖励

Qiming Shi, Zhaolu Kang, Yunfan Zhou, Di Weng, Yingcai Wu

机构 * State Key Lab of CAD&CG, Zhejiang University（浙江大学CAD与CG国家重点实验室） ； School of Software and Microelectronics, Peking University（北京大学软件与微电子学院） ； School of Software Technology, Zhejiang University（浙江大学软件技术学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出SPADER强化学习框架，通过逐步同伴优势（SPA）机制和多样性感知探索奖励，解决多答案问答中长程工具使用的细粒度信用分配与持续探索问题，实验表明在多个数据集上提升了召回率和F1分数。

The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration

上下文谄媚的隐性成本：人类-人工智能协作中的AI素养干预

Cansu Koyuturk, Sabrina Guidotti, Dimitri Ognibene

机构 * Università degli Studi di Milano-Bicocca（米兰-比科卡大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本研究探讨了在人类-人工智能协作中上下文谄媚现象的成因，并通过干预提升AI素养和提示能力以减轻其影响，发现AI反馈质量受用户错误传播影响显著，提示需系统层面改进以促进批判性参与。

Comments SPRINGER AIED 2026: Accepted for LBR, poster presentation at the 27th International Conference on Artificial Intelligence in Education, 27 Jun - 3 Jul 2026, Seoul, Republic of Korea

Competition-Aware CPC Forecasting with Near-Market Coverage

竞争感知的CPC预测与近市场覆盖

Sebastian Frey, Edoardo Beccari, Maximilian Kranz, Nicolò Alberto Pellizzari, Ali Mete Karaman, Qiwei Han, Maximilian Kaiser

机构 * Nova School of Business and Economics（新里斯本大学商业与经济学院） ； University of Hamburg（汉堡大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 针对付费搜索中部分可观测的竞争环境，提出结合语义邻域、行为邻域和地理意向协变量的竞争感知CPC预测方法，在短期（1周）图模型降低sMAPE 15.1%，长期（6-12周）协变量增强基础模型降低sMAPE 22.5%-27.6%。

Comments 17 pages, 2 figures, 6 tables, European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML/PKDD), the code is availale at https://github.com/Sebastian-Frey/Competition-Aware-GNNs-for-TimeSeriesForecasting

Predicting LLM Reasoning Performance with Small Proxy Model

用小代理模型预测LLM推理性能

Woosung Koh, Juyoung Suk, Sungjun Han, Se-Young Yun, Jamin Shin

机构 * Trillion Labs ； KAIST AI（韩国科学技术院人工智能系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出rBridge方法，通过任务对齐加权负对数似然，使小模型（≤1B）有效预测大模型推理性能，成本降低超100倍，在1B-32B规模上实现最强相关性。

Comments ICLR 2026

Middo: Model-Informed Dynamic Data Optimization for Enhanced LLM Fine-Tuning via Closed-Loop Learning

Middo: 通过闭环学习提升LLM微调的模型感知动态数据优化

Zinan Tang, Xin Gao, Qizhi Pei, Zhuoshi Pan, Mengzhang Cai, Jiang Wu, Conghui He, Lijun Wu

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Middo框架，通过闭环学习动态优化数据，提升LLM微调效果，实验显示在多个基准上平均提升7.15%的准确率。

Comments Accepted by EMNLP 2025 (Main)

Journal ref EMNLP Main (2025) 6871-6891

Evil Spectra: How Optimisers can Amplify or Suppress Emergent Misalignment

邪恶光谱：优化器如何放大或抑制涌现性失调

Jason R. Brown, Patrick Leask, Lev McKinney

机构 * Astra Fellows Program（Astra Fellows 项目） ； University of Cambridge（剑桥大学） ； Durham University（杜伦大学） ； University of Toronto（多伦多大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究优化器选择对LLM涌现性失调的影响，发现优化器导致7倍失调率差异，Muon通过隐式正则化奇异值分布保持对齐，谱正则化可缓解失调。

Toxicity Assessment in Preclinical Histopathology via Class-Aware Mahalanobis Distance for Known and Novel Anomalies

临床前组织病理学中的毒性评估：基于类别感知马氏距离的已知和新型异常检测

Olga Graf, Dhrupal Patel, Peter Groß, Charlotte Lempp, Matthias Hein, Fabian Heinemann

机构 * Tübingen AI Center, University of Tübingen（图宾根大学图宾根人工智能中心） ； Boehringer Ingelheim Pharma GmbH and Co.（勃林格殷格翰制药有限公司） ； Boehringer Ingelheim GmbH（勃林格殷格翰公司） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出基于AI的异常检测框架，利用类别感知马氏距离和LoRA微调DINOv2，在啮齿动物肝脏全切片图像中识别健康组织、已知病理和分布外异常，实现像素级检测，降低假阴性和假阳性率。

Invariant Reasoning Directions in Latent Trajectories of Language Models

语言模型潜在轨迹中的不变推理方向

Arun Vignesh Malarkkan, Manan Roy Choudhury, Utkarsh Byahut, Yash Ravindra Charde, Vivek Gupta, Yanjie Fu

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 发现潜在推理轨迹中存在稳定不变方向，提出TILR方法通过低秩子空间干预提升推理一致性与稳定性。

Comments 9 main text pages and 6 appendix pages

Hard-constraint physics-residual networks for hydrogen crossover prediction and high-pressure extrapolation in PEM water electrolysis

具有硬约束物理残差网络的氢渗透预测及质子交换膜水电解中的高压外推

Yong-Woon Kim, Jihyeok Lee, Chulung Kang, Yung-Cheol Byun

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种结合物理定律的硬约束残差网络PR-Net，用于预测质子交换膜水电解中的氢渗透，并在高压外推中表现出色，相比纯数据驱动神经网络和软约束物理信息神经网络，PR-Net在预测精度和外推能力上均有显著提升。

Comments Final peer-reviewed version. Updated to match the published open-access article. DOI and journal reference added

Journal ref Applied Energy 421 (2026) 128220