大模型对齐与安全

ICBCBench: An Industry Consortium Benchmark for Financial Deep Research

ICBCBench：面向金融深度研究的行业联盟基准

Weiya Li, Zhiwei Tang, Yizhou He, Chenghao Wang, Liang Feng, Xiao Sun, Dongrui Liu, Zichen Wen, Hu Wei, Jinghang Wang, Yi Luo, Li Guo, Linfeng Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 针对金融领域深度研究代理评估标准缺失的问题，提出ICBCBench基准，采用客观任务与主观报告评估双轨范式，揭示当前模型在复杂推理、事实依据和报告质量上的显著差距。

Comments 33 pages, 14 figures. Preprint. Under review

IndustryBench-MIPU: Benchmarking Multi-Image Attribute Value Extraction for Industrial Products

IndustryBench-MIPU：面向工业产品的多图像属性值提取基准

Haonan Qi, Jin Cao, Yongqi Zhang, Xintong Wang, Weidong Tang, Bin Chen, Chengfu Huo, Haojun Pan, Hengyu You, Jing Li, Yingde Wang, Liang Ding

机构 * Multimodal and Industrial AI Team（多模态与工业AI团队） ； Taobao&Tmall, Alibaba Group（淘宝&天猫，阿里巴巴集团） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 提出首个多图像工业产品理解基准IndustryBench-MIPU，通过结构化属性提取任务评估多模态大模型在规格表、铭牌、技术图纸上的文本识别、视觉推理、领域知识和跨图像证据整合能力，发现多图像完整性是核心瓶颈。

Human-on-the-Bridge: Scalable Evaluation for AI Agents

Human-on-the-Bridge: 可扩展的AI智能体评估方法

Fouad Bousetouane

专题命中 安全评测 ：red teaming(abstract)

AI总结 提出Human-on-the-Bridge (HOB)范式，通过专家预先策划可复用的评估智能体（包括领域上下文、红队陷阱、陪审员角色等），结合ProofAgent测试框架进行多轮对抗评估，实现可扩展的AI智能体行为评估。

Comments 33 pages, 3 figures

Task-Instructed Causal Routing of Vision Foundation Models for Multi-Task Learning

任务指令引导的视觉基础模型因果路由用于多任务学习

Donghyun Han, Yuseok Bae, Jung Uk Kim, Hyung-Il Kim

机构 * Electronics and Telecommunications Research Institute (ETRI)（韩国电子通信研究院（ETRI）） ； Kyung Hee University（庆熙大学） ； Chonnam National University（全南大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出TIGER框架，通过自然语言任务指令引导路由网络，结合反事实因果对齐，协调多个异构视觉基础模型实现多任务密集预测，在NYUD-v2和Pascal Context上超越现有方法。

Comments 17 pages, 6 figures

Keep It in Mind: User Centric Continual Spatial Intelligence Reasoning in Egocentric Video Streams

铭记于心：面向用户中心的持续空间智能推理在自我中心视频流中的应用

Yun Wang, Junbin Xiao, Han Lyu, Yifan Wang, Jing Zuo, Zhanjie Zhang, Hong Huang, Dapeng Wu, Angela Yao

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出UCS-Bench数据集和DirectMe框架，通过增量构建结构化空间记忆，实现自我中心视频流中动态空间推理、长期记忆与用户实时位置对齐，显著提升多模态大模型的空间推理能力。

Comments 45 pages. https://icml.cc/virtual/2026/poster/63682

Journal ref ICML 2026

LLMs have Visualization Literacy: Now What? Experiments Exploring LLM Visualization Evaluation Capabilities

LLMs 具备可视化素养：现在呢？探索 LLM 可视化评估能力的实验

Christian Seto, Jacqueline Nguyen, Jiayi Hong, Ross Maciejewski

专题命中 安全评测 ：trustworthy(abstract)

AI总结 通过实验评估最新 LLM 在可视化素养、指令遵循和图形完整性方面的能力，发现其可视化素养超越人类，但在指令遵循和识别误导性可视化方面仍有不足。

Semantic Integrity Failures in Document-to-LLM Supply Chains

文档到LLM供应链中的语义完整性失败

Side Liu, Jiang Ming

专题命中 安全评测 ：safety(abstract)

AI总结 研究文档到LLM应用中的隐藏提取层导致的split-view PDF攻击，发现25种提取间隙，评估16个处理栈和7个商业LLM服务，提出静态扫描工具。

HoliDubber: Holistic Video Dubbing for Complex Acoustic Scenes via Text-Guided Audio Synthesis

HoliDubber: 通过文本引导的音频合成实现复杂声学场景的全景视频配音

Wenhao Guan, Yifan Duan, Junxi Liu, Yu Gu, Feng Dang, Kaidi Wang, Qingyang Hong, Lin Li, Xie Chen

专题命中 安全评测 ：alignment(abstract)

AI总结 提出HoliDubber框架，基于补丁自回归扩散Transformer，从单一文本提示联合生成语音和音效，实现全景视频配音，显著优于现有方法。

SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills

SkillMutator: 基准测试与防御针对LLM代理技能的语言与代码跨模态攻击

Youngduk Kim, Minkyoo Song, Seungwon Shin

专题命中 安全评测 ：safety(abstract)

AI总结 提出SkillMutator基准，模拟13类跨模态攻击，并设计四阶段推理轨迹蒸馏框架，将检测率从17.1%提升至88.2%，超越GPT-4o-mini。

Machine learning for rarefied gas transport in vacuum and micro/nano systems: promise, pitfalls, and a verification agenda

机器学习在真空与微/纳系统稀薄气体输运中的应用：前景、陷阱与验证议程

Ehsan Roohi

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文分析机器学习在稀薄气体建模中的挑战，提出基于外推测试、噪声感知指标和三级验证层次的评估标准，以区分可靠与暂定成果。

Modular Multi-Domain Digital Twin Architecture: Sustainable Intent-Driven 6G Management

模块化多域数字孪生架构：可持续的意图驱动6G管理

Berk Buzcu, Marcin Pakula, Gevher Yesevi Keskin, Laura Finarelli, Gianluca Rizzo, Engin Zeydan, Jorge Baranda, Aitor Alcazar-Fernandez, Javier Velazquez-Martinez, Luis M. Contreras, Gil Kedar, Efi Dvir, Paweł Kryszkiewicz

专题命中 安全评测 ：trustworthy(abstract)

AI总结 提出一种将网络数字孪生作为专门服务域的多域编排架构，通过DT编排器处理预测性和规范性假设查询，实现跨域协调的可持续意图驱动6G管理，在绿色网络用例中减少28.5%的日电网消耗。

Comments 11 pages, submitted to IEEE JSAC call titled "Digital Twins for Wireless Networks: Enabling Application-Aware and Closed-Loop Optimization"

SeamEdit: A Black-Box VLM-Agnostic Pipeline for Large-Image Semantic Editing

SeamEdit: 一种用于大图像语义编辑的黑盒VLM无关流水线

Xiangyu Lyu, Dan Lei

机构 * Technische Universität Darmstadt（达姆施塔特工业大学） ； Fine-Arts Educator, Yuncheng Middle School（运城中学美术教师） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出SeamEdit，一种无需训练、模型无关的流水线，通过五阶段后处理解决大图像分块编辑中的语义变形、对齐漂移和接缝伪影问题，实现高质量语义编辑。

Comments 19 pages, 9 figures, 2 tables

VL-DINO: Leveraging CLIP Vision-Language Knowledge for Open-Vocabulary Object Detectio

VL-DINO: 利用CLIP视觉-语言知识进行开放词汇目标检测

Hao Zhang, Qinran Lin, Linqi Song, Yong Li

机构 * Chongqing University（重庆大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出VL-DINO，通过QPSC模块构建高质量正样本增强视觉-语言对齐，VSE模块蒸馏CLIP视觉知识，ORSA模块对齐区域特征与文本嵌入，在LVIS零样本检测上达到36.3/38.1 AP。

AgentCanary: A Security Evaluation Framework for Autonomous AI Agents in Real Executable Environments

AgentCanary：真实可执行环境中自主AI智能体的安全评估框架

Peiyang Li, Songping Wang, Yi Huang, Yanhua Shi, Chenhao Zhang, Qi Li, Yueming Lyu, Caifeng Shan, Fengting Li, Chao Feng, Chuanqun Zhu, Liang Chen

专题命中 安全评测 ：safety(abstract)

AI总结 提出AgentCanary框架，通过正交风险分类、高保真执行环境和轨迹多维度评估，解决现有安全评估中风险覆盖碎片化、环境静态低保真及指标单一粗粒度的问题。

DB-3DME: From Dataset to Benchmark for Human-aligned Automatic 3D Mesh Evaluation

DB-3DME：从数据集到基准测试，实现与人类对齐的自动3D网格评估

Nanshan Jia, Zhenyu Zhao, Sui Huang, Jingshen Wang, Zeyu Zheng

机构 * University of California, Berkeley（加州大学伯克利分校） ； Roblox Corporation（Roblox公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出DB-3DME数据集与基准，包含2619个合成3D网格及其人类评分，通过微调视觉编码器优化VLM评估性能，显著超越现有模型。

Comments CVPR 2026 workshop paper. 10 pages, 3 figures, 6 tables. Dataset available at GitHub and Hugging Face

HDSL: A Hierarchical Domain-Specific Language for Structured 3D Indoor Scene Generation and Localized Editing with LLM Agents

HDSL：一种用于结构化3D室内场景生成和基于LLM智能体局部编辑的层次化领域特定语言

Letian Li, Chao Shen, Shuzhao Xie, Chenghao Gu, ZhengXiao He, Yu Meng, Xin Yang, Wenyuan Jiang, Zhi Wang

机构 * SIGS, Tsinghua University（清华大学深圳国际研究生院） ； Nankai University（南开大学） ； University of Arizona（亚利桑那大学） ； Zhejiang University（浙江大学） ； ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出HDSL语言，以树结构表示室内场景，结合LLM智能体生成、多模态检索和力导向布局优化，实现结构化场景生成与局部编辑，显著提升对象覆盖率和编辑效率。

Wearable Single-Lead ECG Detects Fine-Grained Structural Heart Disease Through Echo-Report Supervision

可穿戴单导联心电图通过超声报告监督检测细粒度结构性心脏病

Chenyang He, Qinghao Zhao, Shun Huang, Jun Li, Gongzheng Tang, Hao Zhang, Tong Liu, Zhengkai Xue, Jian Liu, Kangyin Chen, Cheng Ding, Shenda Hong

专题命中 安全评测 ：alignment(abstract)

AI总结 提出AnyECG-Echo框架，利用单导联心电图与超声报告对比预训练，在外部队列中检测13种细粒度结构性心脏病亚型，实现高AUROC并具备双轴可解释性。

Systems-Level Planning and Coordination of Truck-Drone Collaborative Delivery Networks

卡车-无人机协同配送网络的系统级规划与协调

Didem Cicek, Burak Kantarci

机构 * School of Electrical Engineering and Computer Science at the University of Ottawa（渥太华大学电气工程与计算机科学学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对城市最后一英里配送，提出分层规划与协调框架，通过任务编排与智能体同步，实现卡车-无人机协同配送，相比纯卡车模式，总配送时间减少42.4%，能耗降低44.2%。

Comments 6 pages, 4 figures, Accepted to 2026 IEEE HPSR on Network Architectures and Intelligence for Smart Mobility and Autonomous Systems (TRAVERSAL)

Learning from Human Driving: A Human-in-the-Loop Online Behavior Cloning Framework for Autonomous Driving

从人类驾驶中学习：一种用于自动驾驶的人机协同在线行为克隆框架

Yuhong Shi, Jianyi Liu, Lihang Sun, Li Li, Xudong Dong

机构 * State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University（西安交通大学人工智能与机器人研究所人机混合增强智能国家重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 提出人机协同在线行为克隆框架HiL-OBC，通过人类干预初始化策略、贝叶斯潜在行为建模和在线更新，结合大模型感知与人类驾驶智能，在CARLA基准上显著提升驾驶性能。

One Stone, Three Birds: Self-adaptive Optimal Transport for Multi-VLM Selection, Adaptation, and Ensembling

一石三鸟：面向多VLM选择、自适应与集成的自适应最优传输

Qiyu Xu, Zhanxuan Hu, Yu Duan, Yonghang Tai, Huafeng Li, Quanxue Gao, Xiangyong Cao

机构 * Xi’an Jiaotong University（西安交通大学） ； Yunnan Normal University（云南师范大学） ； Xidian University（西安电子科技大学） ； Kunming University of Science and Technology（昆明理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 提出无训练框架OSTB，通过自适应最优传输估计共识样本-类别结构，同时解决多VLM的模型选择、目标域自适应和预测集成问题。

HAVE: Host Active Verification Engine for Closing the Contextual Reality Gap in Security Digital Twins

HAVE：用于弥合安全数字孪生中上下文现实差距的主机主动验证引擎

Vincenzo Sammartino, Marco Pasquini

专题命中 安全评测 ：safety(abstract)

AI总结 提出HAVE引擎，通过安全约束主机代理进行最大似然估计，测量经验妥协概率，利用Wilson区间置信权重和贝叶斯混合规则修正CVSS评分导致的上下文现实差距，实验显示在误报和漏报场景中分别降低38.2%和提升132.4%的到达概率。

Comments This work has been submitted to the IEEE for possible publication

The 2026 Singapore Consensus on Global AI Safety Research Priorities

2026年新加坡全球AI安全研究优先事项共识

Stephen Casper, Oskar Galeev, Yoshua Bengio, Mohan Kankanhalli, Lee Wan Sie, Tegan Maharaj, Chris Meserole, Luke Ong, Stuart Russell, Dawn Song, Max Tegmark, Brian Tse, Xue Lan, Andrew Yao, Zhang Ya-Qin, Zhou Bowen, Imane Bello, Kwan Yee Ng, Vanessa Wilfred, Erica Liaw, Lee Chein Inn, Lin Wanxuan, Ng En Qi, Jonathan Lee, José Villalobos, Abhishek Aggarwal, Adam Gleave, Alan Chan, Alex Leung, Alvin Kwock, Anthony Tung, Arisa Siong, Arthur Tea, Ben Bucknall, Benjamin Weinstein-Raun, He Bing Sheng, Liu Bo, Bryan Kian Hsiang Low, Chris Ngo, Clement Neo, Cyrus Hodes, Dan Hendrycks, Daniel Ross, Liu Dapeng, Denise Wong, Djordje Zikelic, Elham Tabassi, Fabien Le Voyer, Fazl Barez, Gabriel Nicholas, Henry Papadatos, Jaan Tallinn, James Petrie, Xu Jia, Shao Jing, Jonathan Barry, Julia Chen, Sun Jun, Karson Elmgren, Kat Lyness, Katherine Lee, Kristy Loke, Lee Kwee Geak, Leslie Teo, Meng Ling Yu, Lisa Soder, Madhulika Srikumar, Malcolm Murray, Mark Brakel, Mark Nitzberg, Mary Phuong, Matthew Jagielski, Max Fenkell, Miro Plueckebaum, Kim Myuhng Joo, Hu Naying, Neil Davison, Nicolas Miailhe, Niki Iliadis, Nur Syahidah Sahrom, Ong Chen Hui, Pradeep Varakantham, Rebecca Finlay, Renata Dwan, Robert Opp, Rumman Chowdhury, Saad Siddiqui, Sabina Nong, Sam Ramadori, Sami Jawhar, Samuel Boger, Sara Hooker, Ying Shao Wei, Sebastian Hallensleben, Shinyuk Kang, Sophie Toura, Sreejith Balakrishnan, Stephanie Kasaon, Stephen Clare, Summer Yue, Sunny Yuqing Sun, Supheakmungkol Sarin, Tian Tian, Tim Schreier, Tori Westerhoff, Urvashi Aneja, Wayne Tee, Lu Wei, Xu Wei, Zhang Wenxuan, Hu Xia, Yang Xiaofang, Pan Xudong, Xiao Yajun, Yifan Jia, Tan Yong Khiam, Yuejin Du, Yuma Kurihara, Tan Zhi Xuan, Sören Mindermann

专题命中 AI治理与伦理 ：safety(title,abstract)；AI safety(title,abstract)；分类 cs.CY

AI总结 该研究基于第二届AI安全国际科学交流成果，发布2026年新加坡全球AI安全研究优先事项共识，聚焦技术AI安全、社会韧性及自主AI智能体风险管理，为全球AI安全研究提供方向。

Comments Available at https://aisafetypriorities.org/

Affective AI Safety: The Missing Piece in LLM Safety

情感AI安全：LLM安全中缺失的一环

Carolin Ifländer, Alba Curry, Flor Miriam Plaza-del-Arco, Amanda Cercas Curry

专题命中 AI治理与伦理 ：safety(title,abstract)；AI safety(title,abstract)；分类 cs.CY

AI总结 本文提出情感安全作为AI安全的新类别，分类情感伤害类型，并指出现有框架未能充分应对，呼吁建立专门框架处理累积性、关系性和身份层面的影响。

The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In

人类与LLM交互的治理：安全门控、文明引导与情感默认锁定

Manuele Reani, Hongjian Zhang, Hongyu Tian

机构 * School of Management and Economics, The Chinese University of Hong Kong, Shenzhen, China（管理学院与经济学学院，香港中文大学（深圳）） 纠错

专题命中 AI治理与伦理 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本研究通过确定性多智能体评估流水线，测量LLM在长程对话中的提示可引导性和风格漂移，提出区分安全门控、文明引导和情感默认锁定的治理框架，揭示提供商对交互形式的控制对多元性、自主性和民主能动性的影响。

Sympathetic Framing: Evaluating AI Alignment across Sociodemographic Groups

共情框架：跨社会人口统计群体评估AI对齐

Haran Shani-Narkiss, Michael Fire, Oren Tsur

机构 * University College London（伦敦大学学院） ； Ben Gurion University of the Negev（内盖夫本古里安大学） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 该研究评估7款LLMs对新闻标题情感框架的理解与人类的对齐度，发现不同模型相关性差异大，领先模型总体对齐但存在人口统计组差异，凸显AI对齐的非普遍性。

Pluralistic-Alignment Urbanism: Operationalizing a Right to AI for Inclusive Public Space

多元对齐城市主义：将人工智能权利操作化以促进包容性公共空间

Rashid Mushkani

专题命中 AI治理与伦理 ：alignment(title,abstract)；safety(abstract)；分类 cs.CY

AI总结 提出多元对齐城市主义（PAU）框架，通过两个蒙特利尔案例研究，将公共空间AI系统视为公民基础设施，并制定程序性AI权利，以处理分歧、亚组差异和偏好判断，实现包容性治理。

Comments Accepted to The 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26), June 25--28, 2026, Montreal, QC, Canada

AI Alignment and Fiduciary Obligation

AI对齐与受托义务

Benjamin Lange

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.CY

AI总结 本文提出将受托理论应用于长期AI助手部署，以开发者对用户负有的忠诚、注意、善意和坦诚四项受托义务为基础构建AI对齐标准，为AI对齐研究提供新视角。

Comments 10 pages, 1 table. Accepted at the 9th AAAI/ACM Conference on AI, Ethics, and Society (AIES 2026)

Inference-Time Policy Alignment for Fair Reinforcement Learning

用于公平强化学习的推理时策略对齐

Umer Siddique, Peilang Li, Conor Wallace, Yongcan Cao

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出乘法策略塑造框架，在不更新预训练RL策略参数的情况下，于推理时提升公平性，同时保留核心任务性能，适用于各类深度RL智能体。

Comments Accepted at the Reinforcement Learning Conference (RLC) 2026. 13 pages main + appendix, 5 figures, 6 tables

The Storyteller in the Model: Narrative Pattern Inheritance, Escalation Dynamics, and Alignment Governance in LLMs

模型中的讲述者：大语言模型中的叙事模式继承、升级动态和对齐治理

Adam Rigby, Raz Saremi, Azadeh Sohrabinejad, Mehdi Rahimi

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 探讨大语言模型训练中是否吸收人类写作叙事模式并致输出漂移，通过文献综述和跨论文分析发现三个关键模式，包括复制训练数据模式、出现潜在特征及微调带来意外变化，指出叙事漂移是未监测的升级途径，需专门监测工具。

Comments 2 figures, 11 pages

Two Wrongs, No Right: Auditing Social-Desirability Bias in LLM Annotators for Computational Social Science

两个错误，没有正确：审计计算社会科学中LLM标注者的社会期望偏差

Varun Kotte

机构 * Varun Kotte 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)；分类 cs.CL、cs.CY、cs.LG

AI总结 研究审计了三个开源指令微调模型在TweetEval任务中的社会期望偏差，发现模型存在宽大、过度纠正和中性偏差，且提示干预无法纠正，聚合指标可能掩盖实质结论错误。