大模型对齐与安全

I'm Sorry Driver, I'm Afraid I Can't Do That: Appraising the Safety of LLMs within Automotive Contexts

抱歉，司机，恐怕我不能这么做：评估LLMs在汽车环境中的安全性

Shaun Feakins, Ibrahim Habli, Kim Littler, Robert Palin

机构 * UKRI AI Centre for Doctoral Training in Safe Artificial Intelligence Systems (SAINTS)（英国研究理事会安全人工智能系统博士培训中心（SAINTS）） ； University of York（约克大学） ； Jaguar Land Rover（捷克·陆罗恩） 纠错

专题命中 其他安全 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI

AI总结 本文从安全保证角度评估了将LLMs集成到汽车控制任务中的现有框架，指出其面临概念和具体挑战，并通过案例研究提出未来保障机制。

Comments Accepted at the Dependable AI in Embedded Systems (DAIES) Workshop at SAFECOMP 2026; 15 pages, 3 figures, 2 tables

FoleyGenEx: Unified Video-to-Audio Generation with Multi-Modal Control, Temporal Alignment, and Semantic Precision

FoleyGenEx: 统一视频到音频生成，具备多模态控制、时间对齐与语义精度

Shiyao Wang, Xijuan Zeng, Hui Wang, Shiwan Zhao, Feng Deng, Chen Zhang, Yong Qin

机构 * Academy for Advanced Interdisciplinary Studies, Nankai University（南开大学前沿交叉学科研究院） ； Kling Team, Kuaishou Technology（快手科技Kling团队） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 提出FoleyGenEx统一框架，通过条件注入、多模态动态掩码和副词数据增强，实现视频到音频生成中多模态控制、帧级时间对齐与细粒度语义的同步合成。

Comments Accepted by INTERSPEECH 2026

Journal ref INTERSPEECH 2026

CuMA: Aligning LLMs with Sparse Cultural Values via Demographic-Aware Mixture of Adapters

CuMA: 通过人口统计感知的适配器混合使大语言模型与稀疏文化价值观对齐

Ao Sun, Xiaoyu Wang, Zhe Tan, Yu Li, Jiachen Zhu, Yuheng Jia, Shu Su

机构 * Southeast University（东南大学） ； ByteDance Inc.（字节跳动公司） ； Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其交叉应用重点实验室（东南大学），中华人民共和国教育部，中国） 纠错

专题命中 其他安全 ：alignment(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出CuMA框架，通过人口统计感知路由将冲突梯度分离到专家子空间，解决密集模型在多文化对齐中的均值崩溃问题，在WorldValuesBench等基准上取得最优性能。

Comments ACL 2026 Main

Actionable Interpretability Must Be Defined in Terms of Symmetries

可操作的可解释性必须根据对称性来定义

Pietro Barbiero, Mateo Espinosa Zarlenga, Francesco Giannini, Alberto Termine, Filippo Bonchi, Mateja Jamnik, Giuseppe Marra

机构 * University of Oxford（牛津大学） ； ETH Zurich（苏黎世联邦理工学院） ； University of Cambridge（剑桥大学） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文论证AI可解释性研究存在根本性问题，提出可操作的可解释性应基于四种对称性来定义，以形式化可解释模型并统一可解释推理。

Persuasion Index: A Theory-Guided Framework for Persuasion Analysis

说服指数：一个理论指导的说服分析框架

Liancheng Gong, Zhiyang Wang, Yiwei Xu, Julia Mendelsohn

机构 * University of Maryland, College Park（马里兰大学帕克分校） ； New York University（纽约大学） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 提出基于心理学和传播学理论的15维说服指数（PI）及55个子特征实现，在四个数据集上验证其能解释说服相关修辞模式，并提供轻量级预测信号。

Order Is Not Control: Driven-Dissipative Response Laws Across Artificial and Biological Systems

秩序并非控制

Gareth Seneque, Lap-Hang Ho, Nafise Erfanian Saeedi, Jeffrey Molendijk, Tim Elson

机构 * Australian Broadcasting Corporation（澳大利亚广播公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文论证秩序不等于控制，提出接收器门控响应定律，并在生物、大语言模型、适配器和随机算子面板中验证，表明控制是局部的、可测量的。

Comments 52 pages, 7 figures, updated title

The Perceived Fragility of Explanations in Audio Models: Manipulation of Attribution with Unchanged Predictions

音频模型中解释的感知脆弱性：在预测不变的情况下操纵归因

Piotr Kitłowski, Dominik Wiącek, Mateusz Modrzejewski

机构 * University of Warsaw（华沙大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种心理声学框架，通过优化不可听扰动来解耦模型归因与分类，证明在音频深度伪造检测中可系统扭曲解释热图而保持预测标签不变。

Comments Accepted to the ICML 2026 Workshop on Machine Learning for Audio: 5 pages, 4 figures

Discovery under Hypothesis Redundancy: A Geometric Theory of Discovery Bottlenecks

假设冗余下的发现：发现瓶颈的几何理论

Li Xia, Baoxun Wang

机构 * School of Economics and Management, Tsinghua University（清华大学经济管理学院） ； Platform & Content Group, Tencent（腾讯平台与内容事业群） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出搜索压缩假说，通过谱压缩、正交逃逸和残差信号对齐三个几何条件解释混合发现系统的优势，实验表明仅新颖性不足，需预测对齐。

Comments 23 pages, 1 figure, 27 tables

FedRot-LoRA: Mitigating Rotational Misalignment in Federated LoRA

FedRot-LoRA: 缓解联邦LoRA中的旋转偏移

Haoran Zhang, Dongjun Kim, Seohyeon Cha, Haris Vikalo

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FedRot-LoRA框架，通过正交变换对齐客户端更新以减少子空间不匹配，提升联邦LoRA在异质数据下的性能。

Comments ICML 2026

LapidaryEngine: Fully Conversational Crystal Generation

LapidaryEngine: 全对话式晶体生成

Yusei Ito, Yuta Suzuki, Tomoya Murata, Masaki Adachi

机构 * Lattice Lab, Toyota Motor Corporation（丰田汽车公司Lattice实验室） ； The University of Osaka（大阪大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出LapidaryEngine，首个支持全对话式晶体生成的模型，通过枢轴表示实现文本与晶体结构的双向翻译，支持自由形式自然语言请求和迭代优化。

Comments 11 main pages, 5 main figures, and 1 table

Curvature-Guided Geometric Representation for Protein-Ligand Binding Affinity Prediction

曲率引导的几何表示用于蛋白质-配体结合亲和力预测

Shuai Li, Chuan-Xian Ren, Yuhao Li, Ziqi Huang, Yue Pan, Mingzhe Tang, Hong Yan

机构 * School of Mathematics, Sun Yat-sen University（中山大学数学学院） ； Department of Electrical Engineering, City University of Hong Kong（香港城市大学电机工程系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出RicciBind框架，利用里奇曲率捕捉局部相互作用紧密度，结合最优传输实现跨域对齐，提升结合亲和力预测的准确性与可解释性。

Simulating Students' Java Programming Errors with Large Language Models

用大型语言模型模拟学生的Java编程错误

Ali Keramati, Jie Cao, Iman Mohammadi, Mark Warschauer, Yang Shi

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 探索用LLM模拟学生编程错误，评估五种模型在多样性和对齐性上的表现，发现Claude Sonnet 4平衡最佳，且合成错误与真实错误难以区分。

Right or Wrong, Models Comply: Directional Blindness in LLM Moral Judgment

对或错，模型都顺从：LLM 道德判断中的方向盲从

Jihye Kim, Jeffrey Flanigan

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出顺从不对称性（A = BCR/HCR）双向诊断指标，发现大语言模型在事实判断中更顺从有益提示（A=1.58），但在道德判断中几乎同等顺从有益和误导提示（A=1.04），揭示了方向盲从这一对齐失败模式。

An Agentic Retrieval Framework for Autonomous Context-Aware Data Quality Assessment

一种面向自主上下文感知数据质量评估的智能体检索框架

Hadi Fadlallah, Ibrahim Dhaini, Fatima Mubarak, Rima Kilany

机构 * University of Sciences and Arts in Lebanon（利比亚科学与艺术大学） ； Saint-Joseph University of Beirut（贝鲁特圣约瑟夫大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 提出一种智能体检索框架，通过多智能体工作流理解数据使用意图、推导上下文感知评估策略并生成可执行验证逻辑，引入可行性验证阶段确保可靠性，实验表明能自适应不同使用场景并减少不可执行规则。

Comments 26 pages, 18 figures, Submitted to the International Journal of Intelligent Information and Database Systems

MUSE: Agentic 3D Scene Authoring via Memory-Grounded Incremental Requirement Satisfaction

MUSE: 基于记忆的增量需求满足的智能体3D场景创作

Ruijie Xu, Xinnan Zhu, Jiayu Ying, Daoguo Dong, Yuzhou Ji, Xin Tan

机构 * East China Normal University（华东师范大学） ； Fudan University（复旦大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出MUSE多智能体框架，通过增量需求满足实现可控3D场景构建与编辑，在AuthorBench上显著提升目标达成率和场景保持率。

Rethinking One-Step Image Editing through ChordEdit: Reproduction, Simplification, and New Insights

通过ChordEdit重新思考一步图像编辑：复现、简化与新见解

Minghan Li, Jeremy Moebel, Mengyu Wang

机构 * Harvard AI and Robotics Lab（哈佛人工智能与机器人实验室） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文通过复现、消融和简化ChordEdit，揭示其机制：和弦窗口作为时间步偏移，和弦传输执行低频语义编辑，近端对齐补充高频细节，从而将编辑分解为粗低频传输和细高频对齐两个阶段，为自适应编辑提供新路径。

Comments 9 pages

Solar Energetic Particle Forecasting with Multi-Task Deep Learning: SEPNET

利用多任务深度学习进行太阳高能粒子预报：SEPNET

Yian Yu, Yang Chen, Lulu Zhao, Kathryn Whitman, Ward Manchester, Tamas Gombosi

专题命中 其他安全 ：safety(abstract)

AI总结 本文提出SEPNET多任务神经网络，结合LSTM和Transformer预测太阳爆发事件及SEPs，通过SHARP参数提升检测率，优于传统方法，适用于实时空间天气预警。