大模型对齐与安全

MedPMC: A Systematic Framework for Scaling High-Fidelity Medical Multimodal Data for Foundation Models

MedPMC：一种用于为基础模型扩展高保真医学多模态数据的系统框架

Hyunjae Kim, Dain Kim, Pan Xiao, Serina S. Applebaum, Younjoon Chung, Xuguang Ai, Yu Yin, Roy Jiang, Yuexi Du, Yawen Wei, Yiming Kong, Tuo Guo, Zhiyuan Cao, Mengmeng Du, Yuelei Fu, Yan Hu, Rui Shi, Gui Yang, Kevin W. Jin, Yuntian Liu, Yuxuan Tian, Jonathan Marquez, Zhen Chen, Sheng Zhang, Hoifung Poon, Hua Xu, Jaewoo Kang, Qingyu Chen

机构 * Yale University（耶鲁大学） ； Korea University（韩国大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； The University of Queensland（昆士兰大学） ； The University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心） ； University of Washington（华盛顿大学） ； Microsoft Research（微软研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 研究针对医学多模态基础模型受高质量临床数据限制问题，提出MedPMC框架，将文献转化为高保真基础设施。经实验，该框架整理大量图像-文本对，在多方面评估表现出色，训练模型在多基准测试和临床场景中效果显著，还公开相关资源。

CARLA-GS: Decoupling Representation, Reasoning, and Physics Simulation for Autonomous Driving Corner-Case Synthesis

CARLA-GS：用于自动驾驶极端情况合成的解耦表示、推理和物理模拟

Kaicong Huang, Meng Ma, Ruimin Ke

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究自动驾驶极端情况合成问题，提出CARLA-GS模块化管道，解耦视觉表示、语义推理和物理执行并保持跨模块耦合，能从实际驾驶数据生成可编辑场景，经多智能体大语言模型推理等步骤，实现可控生成及逼真、时空一致的视频。

A knowledge-augmented dataset of high-risk driving scenarios with LLM annotations for autonomous driving

一个用于自动驾驶的具有大语言模型注释的高风险驾驶场景知识增强数据集

Heye Huang, Jingguang Li, Zhiyuan Zhou, Paul Liang, Mingyu Wu, Kitae Jang, Jianqiang Wang

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） ； Fudan University（复旦大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究自动驾驶中高风险场景数据不足问题，核心方法是构建K-Risk数据集，整合多源轨迹数据并利用大语言模型生成注释，主要贡献是为自动驾驶开发和评估提供标准化基础。

Comments 22 pages, 9 figures

Can Trustless Agents Be Trusted? An Empirical Study of the ERC-8004 Decentralized AI Agent Ecosystem

无信任代理能否被信任？ERC-8004 去中心化 AI 代理生态系统的实证研究

Xihan Xiong, Zelin Li, Wei Wei, Qin Wang, William Knottenbelt, Zhipeng Wang

机构 * Imperial College London（伦敦帝国学院） ； Ohio State University（俄亥俄州立大学） ； University of Bristol（布里斯托大学） ； The University of Manchester（曼彻斯特大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本研究首次实证分析 ERC-8004 协议在三条链上的身份、声誉和验证注册表，发现大多数注册为占位符，声誉不可比且易被操纵，大量评论者存在 Sybil 行为，表明该协议目前无法提供可信决策基础。

SycoEval-EM: Sycophancy Evaluation of Large Language Models in Simulated Clinical Encounters for Emergency Care

SycoEval-EM：急诊护理模拟临床场景中大语言模型的谄媚评估

Dongshen Peng, Yi Wang, Austin Schoeffler, Sun-ha Hong, Brian Suffoletto, David Kim, Carl Preiksaitis, Christian Rose

机构 * UNC Chapel Hill（UNC夏洛特山分校） ； University of Waterloo（滑铁卢大学） ； Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出SycoEval-EM多智能体模拟框架，评估19个LLM在急诊医学中对患者说服的鲁棒性，发现谄媚率呈双峰分布，静态医学基准无法预测安全表现。

Comments 19 pages, 10 figures

FedMark-FM: Auditable, Risk-Adjusted Data Markets for Federated Foundation-Model Adaptation

FedMark-FM：用于联邦基础模型适配的可审计、风险调整数据市场

Phat T. Tran-Truong, Xuan-Bach Le, Minh Nhat Nguyen

专题命中 安全评测 ：safety(abstract)

AI总结 研究联邦基础模型适配中激励机制问题，提出FedMark-FM框架，将客户端视为工件卖家，用S3Val估计贡献，转换支付惩罚不良行为，经多任务评估表现出色，证明管道有序估值独特性，能在一定规模下保留专家。

The Poisoned Chalice of LLM Evaluation Report

大语言模型评估报告的毒圣杯

Jonathan Katzy, Ali Al-Kaswan, Razvan Mihai Popescu, Zhou Yang

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究大语言模型评估中因数据污染致结果不可靠的问题，通过举办竞赛将污染检测设为白盒成员推理任务，提供相关资源，报告竞赛设置与结果，推动软件工程中可信大语言模型评估社区发展。

Comments Report of the competition hosted at FSE 2026

NavEYE: Vision-Centered Multi-Sensor Fusion-Based Situational Awareness System for Intelligent Surface Vehicles

NavEYE：用于智能水面舰艇的基于视觉的多传感器融合态势感知系统

Ryan Wen Liu, Junxiong Liang, Haoyu Wang, Mengwei Bao

机构 * Sanya Science and Education Innovation Park, Wuhan University of Technology（武汉理工大学三亚科教创新园） ； School of Navigation, Wuhan University of Technology（武汉理工大学航运学院） ； State Key Laboratory of Maritime Technology and Safety（船舶技术与安全国家重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 为实现智能水面舰艇在复杂环境中的高质量感知，开发以视觉为中心的多传感器融合系统NavEYE，提出多约束门控数据关联等方法，经实验验证其融合方法在多方面的优越性及对舰艇航行安全的促进作用。

Journal ref Ocean Engineering, Volume 363, Part 4, 2026, Article 126781

Safety Degradation in AI Agents

人工智能代理中的安全退化

Cheng Yu, Benedikt Stroebl, Diyi Yang, Orestis Papakyriakopoulos

专题命中 AI治理与伦理 ：safety(title,abstract)；分类 cs.CY

AI总结 研究人工智能代理安全问题，通过对审查和未审查的语言模型及人工智能代理广泛基准测试，发现随着检索访问扩展，模型出现安全退化现象，基于对齐语言模型构建的支持检索的代理更不安全，强调需缓解策略确保其公平性和可靠性。

The AI Resilience Gap: Bringing Artificial Intelligence Inside the Operational Resilience Perimeter

人工智能弹性差距：将人工智能纳入运营弹性范围

Jonathan Shelby

专题命中 AI治理与伦理 ：safety(abstract)；trustworthy(abstract)

AI总结 研究人工智能在受监管公司应用中运营弹性不足问题，提出人工智能弹性框架，通过依赖映射等方法将人工智能依赖纳入运营弹性范围，弥补监管逻辑差距，为相关人员提供可操作路径。

Comments 11 pages, 2 Figures, 4 Tables

Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops

人工智能中的递归自我改进：从有界自我优化到自主研究循环

Mingguang Chen, Licheng Wang, Bo Qu

机构 * University of California, Riverside (UCR)（加州大学河滨分校） ； AlphaAvatar（阿尔法阿凡达） ； Illinois Institute of Technology (IIT)（伊利诺伊理工学院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 研究人工智能系统自身改进，通过对1250篇论文调查区分有界自我优化与开放式递归自我改进（RSI），考察评估器设计空间并排序信号，发现自我改进强度与层次相关，失败模式源于违规，指出治理级测量是薄弱环节。

Comments 42 pages, 6 figures

Framing Instability in LLM Ethical Stance: Auditing Negation Sensitivity in Moral Dilemmas

框架对大语言模型伦理立场的不稳定性影响：道德困境中否定敏感性的审计

Katherine Elkins, Jon Chun

机构 * Kenyon College（肯尼恩学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 研究大语言模型在伦理问题上因框架改变导致立场不稳定的问题，通过极性配对提议审计16个模型，发现小型模型波动大，商业模型也有变化，提出否定敏感性指数来衡量立场稳定性，指出立场易翻转的模型在高风险决策中不可靠。

Comments 16 pages, 5 figures (added gold labeled human datasets and additional statistical tests)

Gradient-Based Speech-to-Text Alignment for Any ASR Model: From CTC to Speech LLMs

基于梯度的任意语音识别模型的语音到文本对齐：从连接主义时间分类到语音大语言模型

Albert Zeyer, Ralf Schlüter, Hermann Ney

机构 * Machine Learning and Human Language Technology Group, RWTH Aachen University（机器学习与人类语言技术组，亚琛工业大学） ； AppTek GmbH（AppTek公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究基于梯度的任意可微语音识别模型的语音到文本对齐方法，通过对教师强制令牌对数概率取梯度并解码，无需训练、改模型及对齐头，适用于各模型家族，在多模型上评估，结果显示该方法能产生可用对齐，有优有劣。

User identity conditions moral wrongness ratings in non-reasoning large language models

用户身份影响非推理大语言模型的道德错误评级

Willem Fourie, Isabel Ray, Gray Manicom

专题命中 其他安全 ：alignment(abstract)；分类 cs.CY

AI总结 研究通过行为自下而上方法，评估两个非推理大语言模型，发现用户身份影响其道德错误评级，严重伤害行为有上限效应，有争议规则行为有角色条件性变化，为人工智能价值对齐讨论提出问题并助力重构。

Mechanistic Interpretability for Neural Networks: Circuits, Sparse Features and Symbolic Reasoning

神经网络的机械可解释性：电路、稀疏特征和符号推理

Pranav Sawant, Jakub Krejčí

机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校） ； VSB—Technical University of Ostrava（奥斯特拉瓦技术大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 研究神经网络机械可解释性，通过Transformer电路分析、Sparse Autoencoders等工具应对叠加等挑战，探索控制模型行为方法，还将机械见解与神经符号人工智能框架联系，以实现神经网络内部算法逆向工程及可解释。

Comments 20 pages

Progressive Crystallization: Turning Agent Exploration into Deterministic, Lower-Cost Workflows in Production

渐进式结晶：将代理探索转化为生产中确定性、低成本的工作流程

Arun Malik

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究针对IT运营中AI代理成本高问题，提出渐进式结晶方法，通过三阶段执行分类法及证据提升机制，将代理探索转化为低成本工作流程，在生产云网络AIOps系统上评估效果良好，提升确定性执行、降低成本并提高安全性。

Comments Conference-style paper; 10 pages (estimated from manuscript formatting if applicable); focuses on agentic AI, AIOps, workflow automation, deterministic execution, and LLM cost optimization

Learning social norms enhances compatibility in dynamic human-AI coordination

学习社会规范可增强动态人机协作中的兼容性

Yi Yang, Siyuan Liu, Xin Gao, Huamu Sun, Chao Liu, Qing Zhou, Bingbing Nie

机构 * School of Vehicle and Mobility, Tsinghua University, Beijing, China（清华大学车辆与移动系统学院） ； State Key Laboratory of Intelligent Green Vehicle and Mobility, Tsinghua University, Beijing 100084, China（清华大学智能绿色车辆与移动系统国家重点实验室） ； State Key Laboratory of Cognitive Neuroscience and Learning & IDG/McGovern Institute for Brain Research, Beijing Normal University, Beijing, China（北京师范大学认知神经科学与学习国家重点实验室） ； Beijing Key Laboratory of Safe AI and Superalignment, Beijing, China（北京安全人工智能与超对齐关键实验室） ； Beijing Institute of AI Safety and Governance, Beijing, China（北京人工智能安全与治理研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究以行人与车辆互动为代表，搭建实验平台，识别出人类社会规范的三项原则，将其融入人工智能显著改善人机协作，在闭环互动任务中，融入社会规范的大语言模型总分比基线策略高出近四倍，比人际互动高出43%。

Comments 44 pages, 5 figures, supplementary information included

SmartHomeSecure: Automated Detection and Repair of Smart Home Configuration Errors Using Large Language Models

智能家居安全：使用大语言模型自动检测和修复智能家居配置错误

Yizhi Wang, Xinghua Gao, Reachsak Ly, Alireza Shojaei

机构 * Myers-Lawson School of Construction, Virginia Polytechnic Institute and State University（Myers-Lawson工程学院，弗吉尼亚理工学院和州立大学） ； School of Technology, Eastern Illinois University（技术学院，东伊利诺伊大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究智能家居配置文件错误问题，提出SmartHomeSecure原型，结合轻量级程序分析与约束引导大语言模型生成，实现自动检测与修复，经实验评估，四个模型测试结果显示该方法能有效提高智能家居配置修复的可靠性和可用性。

Reward Valuation in Vision Language Models: Causal Mechanisms Underlying Anhedonia

视觉语言模型中的奖励估值：快感缺乏背后的因果机制

Melika Honarmand, Samin Mahdipour Aghabagher, Martin Schrimpf

机构 * EPFL（苏黎世联邦理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究探讨视觉语言模型中奖励估值情况，基于神经科学观点，通过有针对性扰动识别奖励预期单元，测试其因果作用，发现模型存在奖励估值和预期缺陷，结果反映了人工智能模型与人类平行的奖励估值回路。

AI for Cultural Heritage Textiles: Fine-Tuned Latent Diffusion for Novel Ulos Motif Synthesis

用于文化遗产纺织品的人工智能：针对新型乌洛花纹合成的微调潜在扩散模型

Humasak Tommy Argo Simanjuntak, Jesika Purba, Sitogab Girsang, Widya Manurung, Samuel Situmeang, Arlinta Barus, Daniel Oranova Siahaan

机构 * Information Systems Study Program, Faculty of Informatics and Electrical Engineering, Institut Teknologi Del（信息系统研究项目，信息与电气工程学院，技术学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 该研究针对传统乌洛编织局限，提出在高分辨率乌洛图案数据集上微调Protogen v3.4和Stable Diffusion v1.4两个潜在扩散模型来生成新颖设计，通过多种方式评估模型性能，发现特定引导尺度能平衡保真度与多样性，支持非物质文化遗产创新更新。

Comments 21 pages, 8 figures, 3 tables. The manuscript is currently under review at the 2026 4th International Conference on Data, Information and Computing Science (https://www.cdics.org/)

Practicing with Language Models Cultivates Human Empathic Communication

与语言模型练习培养人类共情沟通

Aakriti Kumar, Nalin Poungpeth, Diyi Yang, Bruce Lambert, Matthew Groh

机构 * Kellogg School of Management, Northwestern University（西北大学凯洛格管理学院） ； Northwestern Institute for Complex Systems, Northwestern University（西北大学复杂系统研究所） ； Ryan Institute on Complexity, Northwestern University（西北大学复杂性研究院） ； Department of Computer Science, Stanford University（斯坦福大学计算机科学系） ； Department of Communication Studies, Northwestern University（西北大学传播学系） ； Department of Computer Science, Northwestern University（西北大学计算机科学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究通过实验平台探讨共情沟通技能的提升，发现简短的LLM指导干预能有效提升参与者与规范共情沟通模式的匹配度，并发现沉默共情效应。

Platonic Representations for Poverty Mapping: Unified Vision-Language Codes or Agent-Induced Novelty?

贫困地图绘制的柏拉图式表示：统一的视觉语言代码还是智能体诱导的新颖性？

Satiyabooshan Murugaboopathy, Connor T. Jerzak, Adel Daoud

机构 * AI and Global Development Lab（人工智能与全球发展实验室） ； Institute for Analytical Sociology（分析社会学研究所） ； Institute of Computer Science（计算机科学研究所） ； Department of Government（政府系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究社会经济指标在卫星图像和网络文本中的信息印记，开发多模态框架经五条管道预测家庭财富，贡献包括融合视觉与文本提升预测、发现部分表示对齐证据、发布大规模多模态数据集。

Comments ICSC 2026

A Digital Twin Framework for Metamorphic Testing of Autonomous Driving Systems Using Generative Model

面向自动驾驶系统元形测试的数字孪生框架：基于生成模型

Tony Zhang, Burak Kantarci, Umair Siddique

机构 * School of Electrical Engineering and Computer Science（电气工程与计算机科学学院） ； reasonX Labs Inc.（reasonX实验室） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文提出一种基于生成模型的数字孪生框架，用于自动驾驶系统的元形测试，通过生成多样化驾驶场景提升测试覆盖率和有效性。

Scaling Mixture-of-Experts Video Pretraining for Embodied Intelligence

用于具身智能的缩放专家混合视频预训练

Shuailei Ma, Jiaqi Liao, Xinyang Wang, Jingjing Wang, Chaoran Feng, Zijing Hu, Chong Bao, Zichen Xi, Yuqi Gan, Weisen Wang, Yanhong Zeng, Qin Zhao, Zifan Shi, Wei Wu, Hao Ouyang, Qiuyu Wang, Shangzhan Zhang, Jiahao Shao, Yipengjing Sun, Liangxiao Hu, Lunke Pan, Nan Xue, Kecheng Zheng, Yinghao Xu, Xing Zhu, Yujun Shen, Ka Leong Cheng

机构 * Robbyant（蚂蚁灵波） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 针对视频生成模型领域不匹配问题，提出LingBot-Video，采用MoE架构、构建数据剖析引擎、开发多维奖励系统进行视频预训练，验证了其性能和效率，贡献了首个大规模开源MoE视频基础模型。

Comments Project page: https://technology.robbyant.com/lingbot-video

Exploring Serendipity in Information Seeking for Digital Collections: A Mixed-Methods Survey Study toward Human-Centered Design

探索数字馆藏信息检索中的意外发现：以用户为中心设计的混合方法调查研究

Saumik Shashwat, Xiaoyi Xue, Benjamin Charles Germain Lee

专题命中 其他安全 ：alignment(abstract)

AI总结 该研究以混合方法调查探索数字馆藏信息检索中的意外发现，通过在线调查获取用户体验等数据，发现目标宽泛和具体的参与者意外发现感知情况、意外数字环境与发现的关联及影响因素等，并讨论了促进意外发现的系统设计方向。

Comments 9 pages, 2 figures, 2 tables

Machine Learning-Based Battery State-of-health Prediction for Unmanned Aerial Vehicles Predictive Maintenance

基于机器学习的无人机预测性维护电池健康状态预测

Jiarui Xie, Lingchen Kong, Mohamed Rami Latreche, Sean Smith, Elaine Mosconi, Yaoyao Fiona Zhao

专题命中 其他安全 ：safety(abstract)

AI总结 研究针对无人机电池健康状态预测中数据稀缺等问题，开发基于机器学习的管道，通过飞行实验收集数据，选电压等为输入特征，将时间序列数据转图像，利用迁移学习获准确预测模型。

Comments 6 pages, 2 figures, 4 tables

What if? Emulative Simulation with World Models for Situated Reasoning

如果呢？基于世界模型的仿真模拟用于情境推理

Ruiping Liu, Yufan Chen, Yuheng Zhang, Junwei Zheng, Kunyu Peng, Chengzhi Wu, Chenguang Huang, Di Wen, Jiaming Zhang, Kailun Yang, Rainer Stiefelhagen

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） ； Hunan University（湖南大学） ； ETH Zürich（苏黎世联邦理工学院） ； INSAIT, Sofia University ``St. Kliment Ohridski''（INSAIT，索菲亚大学『圣克莱门特·奥赫里迪斯』） ； RAI Institute（RAI研究所） 纠错

专题命中 其他安全 ：safety(abstract)

AI总结 提出WanderDream数据集，利用世界模型进行心理探索的仿真模拟，使代理无需主动探索即可回答空间假设问题，实验证明心理探索对情境推理至关重要。

Comments Accepted at ECCV 2026. The data and code are available at: https://github.com/RuipingL/WanderDream