大模型对齐与安全

INSIDE the Student's Mind: Jointly Modeling Latent Reasoning and Action in LLM Student Simulators

洞察学生的思维：在LLM学生模拟器中联合建模潜在推理与行动

Rose Niousha, Minwoo Kang, Narges Norouzi

机构 * University of California, Berkeley（加利福尼亚大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 该研究针对LLM学生模拟器仅复现学生行动却未捕捉其潜在推理的问题，提出INSIDE框架，通过在配对思考轨迹与行动上微调LLM，提升了模拟行动保真度与推理对齐度，最高对齐度达57.9%。

Comments Accepted at the Conference on Language Modeling (COLM) 2026

Exploring Sparsity for Parameter Efficient Fine Tuning Using Wavelets for Vision

探索用于视觉参数高效微调的小波稀疏性

Ahmet Bilican, M. Akın Yılmaz, A. Murat Tekalp, R. Gökberk Cinbiş

机构 * Dept. of Electrical and Electronics Engineering, Koç University（电子工程系，科奇大学） ； Codeway AI Research（Codeway人工智能研究） ； Dept. of Computer Engineering, Middle East Technical University（计算机工程系，中东技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出小波微调（WaveFT），利用权重矩阵小波域的稀疏更新实现细粒度参数控制，在视觉任务的参数高效微调方法中达最优，已纳入Hugging Face PEFT库。

Learning-Based Behavior Planning for Automated Driving: Real-World Integration and Deployment

基于学习的自动驾驶行为规划：现实世界集成与部署

Jean-Pierre Busch, Guido Linden, Jan Bergmann, Lutz Eckstein

机构 * RWTH Aachen University（亚琛工业大学） ； Technical University of Munich（慕尼黑工业大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出结合机器学习与经典方法的混合规划架构，通过深度神经网络解读交通场景、优化监督层验证约束，经实车部署验证其在自动驾驶行为规划中的有效性。

Comments 17 pages; Accepted to be published as part of the 17. Uni-DAS e.V. Workshop "Fahrerassistenz und automatisiertes Fahren", September 29-30, 2026

TailBooster: A Dual-Layer Generative Framework for Extreme Value Augmentation with Operational Validity Enforcement

TailBooster：具备操作有效性约束的极值增强双层生成框架

Karim Aly, Alexei Sharpanskykh, Jacco Hoekstra

机构 * Delft University of Technology (TU Delft)（代尔夫特理工大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 TailBooster是结合生成建模与双异常检测层的双层框架，用于解决混合表格数据的极值增强问题，可提升极端事件预测的操作有效性与精度，且与模型无关可扩展至多领域。

Comments Preprint submitted to journal

A Modular Agentic Framework for Synthetically Constrained Multi-Objective Hit-to-Lead Optimization

用于合成约束多目标先导化合物优化的模块化智能体框架

Kelvin P. Idanwekhai, Enes Kelestemur, Benjamin Strickland, Matthew Hart, Steini Davidsson, Angelos Angelopoulos, Ron Alterovitz, Marcello DeLuca, Alexander Tropsha

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出开源模块化智能体框架SABLE，结合LLM与专用工具实现合成约束下的多目标先导化合物优化，可高效富集符合计算目标的候选集，为早期药物发现提供决策支持。

Comments 22 pages, 9 figures

Forecasting Side Effects of Activation Steering

预测激活引导的副作用

Chong Yong Ong, Alson Wei Jie Sim, Peixin Zhang, Jun Sun

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对激活引导易产生意外副作用的问题，构建交叉效应矩阵揭示副作用的系统性与可预测性，为激活引导的安全部署提供支持。

Comments 24 pages, 5 figures, 13 tables

Euclid-MCP: A Model Context Protocol Server for Deterministic Logical Reasoning via Prolog

欧几里得-MCP：一个通过Prolog进行确定性逻辑推理的模型上下文协议服务器

Bartolomeo Bogliolo

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大型语言模型多步逻辑推理不可靠问题，提出开源的欧几里得-MCP服务器，通过引入欧几里得-IR及支持特定循环的工具接口实现确定性逻辑推理，经评估在处理大问题时效果优于LLMs，可作稳定推理基础。

RankFormer: A Propose-then-Select Transformer for Multi-Agent Multimodal Trajectory Prediction

自发现意图感知变换器用于多模态车辆轨迹预测

Diyi Liu, Zihan Niu, Tu Xu, Xingchen Zhang, Lishan Sun

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于Transformer的多模态车辆轨迹预测模型，通过分离空间模块和轨迹生成模块提升预测性能，并通过预测残差偏移学习有序轨迹。

Comments 11 pages, 5 figures

Deployable Per-Instance Multi-Layer Activation Steering for Large Language Models

面向大型语言模型的可部署实例级多层激活调控

Muhammad Faishal Adly Nelwan, Alfan Farizki Wicaksono

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出可部署的实例级多层激活调控方案，解决现有全局固定层调控的缺陷，在两个8B模型和六个人格特质任务上，实现接近先验的性能，且避免流畅性崩溃。

Comments 43 pages, 24 figures, 30 tables. Under review at ACL Rolling Review (August 2026)

Vision-Language Grounding as Bidirectional Concept Correspondence

视觉-语言 Grounding 作为双向概念对应

Jieyu Zhang, Ziqi Gao, Luke Zettlemoyer, Ranjay Krishna

机构 * University of Washington（华盛顿大学） ； Allen Institute for AI（艾伦人工智能研究所） ； FAIR at Meta（Meta FAIR实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究将视觉-语言 Grounding 建模为双向概念对应，提出 ConCor-1 模型统一相关任务，在长文本数据集和零样本 LVIS 上对应 F1 分别提升 48%、29%，性能优于基线。

Full-Stack FP4: Stable LLM Pretraining with Quantized Projections, Optimizers, and Attention

全栈FP4：通过量化投影、优化器和注意力进行稳定的语言模型预训练

Siyu Ding, Mingchuan Ma, Jiabo Tong, Xingrun Xing, Ziming Wang, Guoqi Li

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Sichuan University（四川大学） ； Beijing Zhongguancun Academy（北京中关村科学院） ； Zhejiang University（浙江大学） ； Beijing Key Laboratory of Brain-Inspired General Intelligence Large Model（北京脑科学与类脑研究中心通用人工智能大模型北京市重点实验室） ； Key Laboratory of Brain Cognition and Brain-inspired Intelligence Technology（脑认知与脑机智能技术重点实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对4位预训练中优化器状态等未充分探索的问题，提出全栈FP4框架。通过模块精度策略解决稳定性瓶颈，如用LoRA-SVD抑制量化噪声，设计优化器变换，采用混合精度方案，实现稳定高效的端到端预训练。

Comments Fix experiment bugs and some statement, update current developed hardware efficiency result on 5090

Enhancing AI Interpretability with Localised Architectures

通过局部化架构增强AI可解释性与安全性

Ian Seet, Jonas Bozenhard, Simon Ostermann

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 针对大型生成式AI模型可解释性差、计算成本高的问题，提出局部化机器学习架构，通过降低带宽、提高节点表达能力来提升可解释性和效率，并评估了多种硬件实现方案的适用性。

Symmetry Reveals Layerwise Dynamics: How Transformers Perform In-Context Classification

对称性揭示逐层动力学：Transformer如何执行上下文分类

Patrick Lutz, Themistoklis Haris, Arjun Chandra, Aditya Gangrade, Venkatesh Saligrama

机构 * Boston University, Departments of Computer Science 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 通过强制特征和标签排列等变性，从Transformer中提取出显式的深度索引递归更新规则，揭示了上下文分类的几何驱动算法。

Comments appears in the Proceedings of the 43rd International Conference on Machine Learning (ICML '26)

Large Language Models Align with the Human Brain during Creative Thinking

大型语言模型在创造性思维过程中与人类大脑对齐

Mete Ismayilzada, Simone A. Luchini, Abdulkadir Gokce, Badr AlKhamissi, Antoine Bosselut, Antonio Laverghetta, Lonneke van der Plas, Roger E. Beaty

机构 * EPFL（瑞士联邦理工学院洛桑） ； Università della Svizzera italiana (USI)（意大利语区大学（瑞士）） ； Wesleyan University（卫斯理大学） ； Paris Brain Institute (ICM)（巴黎大脑研究所） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了在创造性思维过程中，fMRI数据揭示了大脑与不同规模LLM之间的对齐关系，发现模型大小和想法原创性影响对齐程度，且训练目标影响表示与人类创造力神经几何的匹配程度。

Comments Accepted at COLM 2026

Fixing It in Post: A Comparative Study of LLM Post-Training Data Quality and Model Performance

事后修复：对LLM事后训练数据质量和模型性能的比较研究

Aladin Djuhera, Swanand Ravindra Kadhe, Syed Zawad, Farhan Ahmed, Heiko Ludwig, Holger Boche

机构 * Technical University Munich（慕尼黑技术大学） ； IBM Research（IBM研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过对比两个开源事后训练数据集，提出了一种系统化编纂方法，生成性能更优的TuluTalk数据集，提升模型表现。

Journal ref The Thirty-Ninth Annual Conference on Neural Information Processing Systems (NeurIPS), 2025

Position: Certifiable State Integrity Should Be Built from Local Validity, Not Global Scale

位置：可信的状态完整性在网络物理系统中——为什么模块主权解决塑性-稳定性悖论

Enzo Nicolás Spotorno, Joao R. Campos, Antônio Augusto Medeiros Fröhlich

机构 * Software/Hardware Integration Lab (LISHA), Department of Statistics and Informatics, UFSC, Florianópolis, Brazil（软件/硬件集成实验室（LISHA）、统计与信息学系，UFSC，弗洛里亚诺波利斯，巴西） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出模块主权范式，通过冻结领域特定专家和不确定性感知融合，解决网络物理系统中塑性-稳定性悖论，确保状态完整性和可验证性。

Comments v2, 15 pages, (8 main text, 6 references and appendices), 2 figures

ToolUniverse: An open platform for democratizing AI scientists

ToolUniverse：一个让AI科学家开发民主化的开放平台

Shanghua Gao, Richard Zhu, Pengwei Sui, Zhenglun Kong, Sufian Aldogom, Yepeng Huang, Ayush Noori, Reza Shamji, Krishna Parvataneni, Theodoros Tsiligkaridis, Marinka Zitnik

机构 * Department of Biomedical Informatics, Harvard Medical School（哈佛医学院生物医学信息学系） ； Harvard College, Harvard University（哈佛大学哈佛学院） ； Massachusetts Institute of Technology（麻省理工学院） ； MIT Lincoln Laboratory（MIT林肯实验室） ； Kempner Institute for the Study of Natural and Artificial Intelligence, Harvard University（哈佛大学自然与人工智能研究学院） ； Broad Institute of MIT and Harvard（MIT与哈佛联合广谱研究所） ； Harvard Data Science Initiative（哈佛数据科学计划） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 ToolUniverse是支持从各类模型构建AI科学家的开放平台，通过AI-工具交互标准规范工具调用，已应用于大量科学工具，案例中可完成多领域端到端分析。

Comments https://aiscientist.tools

LF${}^{2}$AR: Accounting for Layerwise Dynamics to Improve Multimodal Adaptation of Language Models

LF²AR：考虑分层动态以改进语言模型的多模态适配

Santiago Cuervo, Adel Moumen, Yanis Labrak, Sameer Khurana, Antoine Laurent, Mickael Rouvier, Phil Woodland, Ricard Marxer

机构 * Université de Toulon, Aix-Marseille Université, CNRS, LIS, France（法国图卢兹大学、马赛大学、CNRS、LIS） ； Department of Engineering, University of Cambridge, UK（剑桥大学工程系） ； Mitsubishi Electric Research Laboratories (MERL), Cambridge, MA, USA（三菱电机研究实验室（MERL）） ； LIA, Avignon Université, France（法国阿维尼翁大学LIA） ； LIUM, Le Mans Université, France（法国勒芒大学LIUM） ； Zenidoc, Marseille, France（法国马赛Zenidoc） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出LF²AR架构，通过分层抽象-细化动态设计适配机制，在文本转图像、语音模态上提升语言模型性能，支持1.9倍生成加速。

Comments Published as a conference paper at COLM 2026

Mind the Gap: A Dual Knowledge Graph Framework for Unified Multi-task User Intent Inference

弥合差距：用于统一多任务用户意图推理的双知识图谱框架

Tzu-Cheng Peng, Chien Chin Chen, Chih-Hao Ku, Yung-Chun Chang

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对在线旅游评论的多任务用户意图推理，提出DKG-MTI双知识图谱框架，结合动态构建的用户特定意图知识图谱与全局酒店知识图谱，经大语言模型处理后，在相关任务上优于现有基线。

Comments Published in the PACIS 2026 Proceedings as a Completed Research Paper. AIS eLibrary: https://aisel.aisnet.org/pacis2026/ai_ml/ai_ml/12/ 17 pages, 5 figures

Journal ref Proceedings of the Pacific Asia Conference on Information Systems (PACIS 2026), Paper 12, 2026

DeepLoop: Depth Scaling for Looped Transformers

DeepLoop：循环变换器的深度缩放

Shuzhen Li, Yifan Zhang, Jiacheng Guo, Quanquan Gu, Mengdi Wang

机构 * Princeton University（普林斯顿大学） ； University of California Los Angeles（加利福尼亚大学洛杉矶分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究循环变换器中深度缩放问题，提出DeepLoop方法，通过控制访问对齐系数形式化绑定深度效应，保持特定架构并设置参数，在不同规模GPT风格模型上实验，结果显示稳定循环深度需考虑参数访问的残差缩放规则。

Comments 25 pages

Minimal Ingredients for Reward Assignment from Expert Demonstrations

从专家演示中进行奖励分配的最小要素

Zixuan Dong, Yumi Omori, Keith Ross

机构 * New York University（纽约大学） ； New York University Abu Dhabi（纽约大学阿布扎赫尔分校） ； Shanghai Frontiers Science Center of Artificial Intelligence and Deep Learning, NYU Shanghai（上海前沿科学中心（人工智能与深度学习）） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 该研究探究从专家演示分配奖励的最小结构，通过32个基准测试和三种下游RL算法，发现离线场景仅需接近度，在线或多演示时需轻量级时间对应，倡导奖励设计的算法极简主义。

Comments Accepted by Reinforcement Learning Conference 2026

GenGA: Editable and Data-Grounded Graphical Abstract Generation for Academic Papers

GenGA：面向学术论文的可编辑且基于数据的图形摘要生成

Takuro Kawada, Shunsuke Kitada, Hitoshi Iyatomi

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 GenGA是一种直接生成矢量格式图形摘要的框架，可实现便捷的元素级编辑，其编辑简易性优于传统方法，且在简洁性和语义对齐上超过人工生成的图形摘要，还提出了量化编辑简易性的SIC指标。

Comments 20 pages, 11 figures, 4 tables

Breaking the Curse of Multilinguality in Many-to-Many Speech-to-Text Translation via a Resource-Aware Mixture of Speech Encoders

通过资源感知型语音编码器混合模型打破多对多语音到文本翻译中的多语言性诅咒

Yexing Du, Kaiyuan Liu, Youcheng Pan, Bo Yang, Chengpeng Fu, Yu Wang, Ming Liu

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对多对多语音到文本翻译中的多语言性诅咒问题，提出资源感知型MoSE框架与五阶段课程学习策略，其4B参数模型在45种语言的全方向翻译任务上实现最优性能，显著提升低资源语言表现且不损害高资源性能。

FI-TW: An Open Train-Weather Dataset for Railway Delay Analysis in Finland

整合气象与运营数据：一种理解芬兰铁路延误的新方法

Vinicius Pozzobon Borin, Jean Michel de Souza Sant'Ana, Usama Raheel, Nurul Huda Mahmood

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本研究整合芬兰铁路运营与气象数据，首次公开用于分析铁路延误的多维数据集，通过时空对齐和工程特征提取，为预测延误和评估天气影响提供机器学习支持。

Comments 13 pages, 8 figures, database: https://www.kaggle.com/datasets/viniborin/finland-integrated-train-weather-dataset-fi-tw

Explanations of Large Language Models Explain Language Representations in the Brain

大语言模型的解释可解释大脑中的语言表征

Maryam Rahimi, Mohammad Reza Daliri, Yadollah Yaghoobzadeh

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究探究LLM与脑语言表征对齐的驱动因素，利用XAI的归因方法结合fMRI数据，发现梯度归因可稳健对齐脑活动，且不同层归因的特性与脑区域对齐模式存在差异。

SpecDrop: Parameter-Free Category-Conditioned Routing for Modular Specialization

SpecDrop：无参数类别条件路由的模块化专业化方法

Boyao Wang, Zhihan Lei

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出无参数类别条件路由方法SpecDrop，在视觉任务上性能优于参数匹配基线，表明路由的有效性取决于训练信号粒度与类别的对齐而非路由算法。

Comments 35 pages, 6 figures. Code: https://github.com/Beryex/SpecDrop

How Closely Do LLM Reviews Align with Human Peer Review?

大语言模型（LLM）评审与人类同行评审的契合度有多高？

Abraham Camelo-Guerrero, Jairo Diaz-Rodriguez

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究对比OpenAI GPT-5.4、Google Gemini 3.1 Pro Preview等三款LLM与人类对300篇ICLR 2026投稿的评审，发现LLM能区分论文是否被接收，但无法复现人类对口头报告与海报论文的区分，且评审侧重点存在差异。

Aligning Large Vision-Language Models at Test Time: A Trajectory-Guided Structured Sampling Approach

测试时对齐大型视觉语言模型：一种轨迹引导的结构化采样方法

Tianbao Jiang, Weicong Ni, Gerard de Melo, Linlin Wang

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对现有视觉语言模型测试时对齐方法资源密集、训练与推理分布不匹配的问题，提出轨迹引导结构化采样的测试时对齐方法，在多模态推理数据集上提升准确率且推理开销可控。

Emulate or Estimate? The Divergent Strengths of Base and Post-Trained Language Models for Opinion Simulation

模拟还是估计？基础语言模型与后训练语言模型在观点模拟中的差异化优势

Seth Grief-Albert, Jessica Bo, Difan Jiao, Ashton Anderson

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对大型语言模型用于观点模拟的矛盾结果，区分了模拟与估计任务，发现基础模型更适合模拟、后训练模型更适合估计，为相关模型选择提供了依据。

Large Language Models provide support for the parallelogram theory of analogy

平行四边形反击：LLM生成的类比优于人类

Qiawen Ella Liu, Raja Marjieh, Jian-Qiao Zhu, Adele E. Goldberg, Thomas L. Griffiths

机构 * Princeton University（普林斯顿大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究比较了人类和LLM在类比任务中的表现，发现LLM生成的类比更符合平行四边形结构，且人类在生成关系保持的类比时表现较差。