大模型对齐与安全

Human/AI Collective Intelligence for Deliberative Democracy: A Human-Centred Design Approach

人类/人工智能集体智能用于审议民主：一种以人类为中心的设计方法

Anna De Liddo, Lucas Anastasiou, Simon Buckingham Shum

机构 * Knowledge Media Institute, The Open University（知识媒体研究所，开放大学） ； Connected Intelligence Centre, University of Technology Sydney（连接智能中心，技术悉尼大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出利用人工智能增强审议民主的集体智能概念，探讨以人类为中心的设计方法，通过协作设计方法识别挑战、细化用户场景并推导技术影响，展示AI支持下公民组织需求的实现案例。

POLAR:A Per-User Association Test in Embedding Space

POLAR：嵌入空间中的用户级关联测试

Pedro Bento, Arthur Buzelin, Arthur Chagas, Yan Aquino, Victoria Estanislau, Samira Malaquias, Pedro Robles Dutenhefner, Gisele L. Pappa, Virgilio Almeida, Wagner MeiraJr

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 POLAR在嵌入空间中进行用户级词汇关联测试，通过定制化的词汇轴评估作者差异，区分LLM驱动的机器人与真实账号，并揭示极端论坛中词汇偏移趋势。

Comments Accepted paper at ICWSM 2026

COGNAC at SemEval-2026 Task 5: LLM Ensembles for Human-Level Word Sense Plausibility Rating in Challenging Narratives

COGNAC在SemEval-2026任务5中的应用：用于挑战性叙事中人类水平词义可信度评估的LLM集成

Azwad Anjum Islam, Tisa Islam Erana

机构 * Florida International University Knight Foundation School of Computing and Information Sciences（佛罗里达国际大学骑士基金会计算与信息科学学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出使用多个闭源商业LLM的集成方法，通过三种提示策略提升短篇故事中多义词词义可信度评估的准确性，最终在比赛中获得第四名。

Comments System description paper in SemEval-2026, Task 5

ReGAIN: Retrieval-Grounded AI Framework for Network Traffic Analysis

ReGAIN：基于检索的网络流量分析人工智能框架

Shaghayegh Shajarian, Kennedy Marsh, James Benson, Sajad Khorsandroo, Mahmoud Abdelsalam

机构 * Computer Science（计算机科学） ； North Carolina A\&T State University（北卡罗来纳A&T州立大学） ； Institute for Cyber Security（网络安全研究所） ； University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 ReGAIN结合流量摘要、检索增强生成和大语言模型推理，实现透明准确的网络流量分析，通过多阶段框架提升安全性和性能，验证结果显示其在不同攻击类型中准确率高达95.95%-98.82%。

Comments Accepted to ICNC 2026. This is the accepted author manuscript

From Passive to Persuasive: Localized Activation Injection for Empathy and Negotiation

从被动到说服：局部激活注入用于共情与谈判

Niranjan Chebrolu, Kokil Jaidka, Gerard Christopher Yeo

机构 * Centre for Trusted Internet and Community（可信互联网与社区中心） ； Department of Communications and New Media（通讯与新媒体系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出STAR方法，通过局部激活注入提升共情和谈判能力，实验证明其优于全局激活和指令预训练，表明复杂人际行为在LLM激活空间中以局部线性方向编码。

VERINA: Benchmarking Verifiable Code Generation

VERINA：可验证代码生成基准测试

Zhe Ye, Zhengxu Yan, Jingxuan He, Timothe Kasriel, Kaiyu Yang, Dawn Song

机构 * University of California, Berkeley（加州大学伯克利分校） ； Meta FAIR 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出VERINA基准测试，用于全面评估代码、规范及证明生成能力，揭示LLM在可验证代码生成中的挑战，特别是证明生成的困难。

Embedding-Aware Feature Discovery: Bridging Latent Representations and Interpretable Features in Event Sequences

嵌入感知特征发现：连接潜在表示与可解释特征在事件序列中

Artem Sakhno, Ivan Sergeev, Alexey Shestov, Omar Zoloev, Elizaveta Kovtun, Gleb Gusev, Andrey Savchenko, Maksim Makarenko

机构 * Sber AI Lab（Sber AI实验室） ； ISP RAS Research Center for Trusted AI（俄罗斯科学院信息与系统研究所可信人工智能研究中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出EAFD框架，通过结合预训练事件序列嵌入与自反思LLM驱动特征生成代理，解决嵌入与特征管道间的断层问题，实现特征的发现、评估与优化，提升事件序列处理性能。

NextMem: Towards Latent Factual Memory for LLM-based Agents

NextMem: 向基于大语言模型的智能体构建潜在事实记忆

Zeyu Zhang, Rui Li, Xiaoyan Zhao, Yang Zhang, Wenjie Wang, Xu Chen, Tat-Seng Chua

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 NextMem提出一种基于自回归自编码器的潜在事实记忆框架，通过两阶段训练和量化技术提升记忆构建效率与准确性，在检索、鲁棒性和扩展性方面表现优异。

Comments 17 pages, 7 figures, 4 tables

V-DyKnow: A Dynamic Benchmark for Time-Sensitive Knowledge in Vision Language Models

V-DyKnow：面向视觉语言模型的时间敏感知识动态基准

Seyed Mahed Mousavi, Christian Moiola, Massimo Rizzoli, Simone Alghisi, Giuseppe Riccardi

机构 * Signals and Interactive Systems Lab, University of Trento（信号与交互系统实验室，特伦托大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出V-DyKnow基准，评估视觉语言模型对时间敏感事实知识的处理能力，分析模型响应可靠性、知识更新方法有效性及过时预测原因，揭示当前VLM在多模态时间敏感知识获取与更新中的局限性。

Exploring different approaches to customize language models for domain-specific text-to-code generation

探索不同方法以定制语言模型用于领域特定的文本到代码生成

Luís Freire, Fernanda A. Andaló, Nicki Skafte Detlefsen

机构 * Technical University of Denmark（丹麦技术大学） ； The LEGO Group（乐高集团） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文探讨了如何通过合成数据集定制小型语言模型用于领域特定的代码生成，比较了少样本提示、检索增强生成和LoRA微调三种方法，发现LoRA在准确性和领域对齐上表现更优。

CoMAI: A Collaborative Multi-Agent Framework for Robust and Equitable Interview Evaluation

CoMAI：一种用于鲁棒且公平面试评估的协作多智能体框架

Gengxin Sun, Ruihao Yu, Liangyi Yin, Yunqi Yang, Bin Zhang, Zhiwei Xu

机构 * Shandong University（山东大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 CoMAI通过协作多智能体框架实现鲁棒且公平的面试评估，采用模块化任务分解架构，包含问题生成、安全、评分和总结四个智能体，提升评估的准确性和公平性。

Comments Gengxin Sun and Ruihao Yu contributed equally to this research. Bin Zhang and Zhiwei Xu are the corresponding authors. 11 pages, 6 figures

PathGLS: Evaluating Pathology Vision-Language Models without Ground Truth through Multi-Dimensional Consistency

PathGLS: 通过多维一致性评估病理视觉-语言模型无需真实数据

Minbing Chen, Zhu Meng, Fei Su

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出PathGLS，一种无需真实数据的病理VLM评估框架，从 grounding、logic 和 stability 三个维度评估模型性能，通过实验验证其在多个数据集上的优越性，显著优于其他方法。

Argumentative Human-AI Decision-Making: Toward AI Agents That Reason With Us, Not For Us

论证型人机决策：迈向与我们共思而非为我们决策的AI代理

Stylianos Loukas Vasileiou, Antonio Rago, Francesca Toni, William Yeoh

机构 * New Mexico State University（新墨西哥州立大学） ； King's College London（伦敦国王学院） ； Imperial College London（伦敦帝国学院） ； Washington University in St. Louis（圣路易斯华盛顿大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文探讨论证型人机决策的新范式，结合论证框架挖掘、合成与推理，使AI代理能与人类进行辩证互动，提升高风险领域的人工智能可信度。

Exploring the Underwater World Segmentation without Extra Training

探索无需额外训练的水下世界分割

Bingyu Li, Tao Huo, Da Zhang, Zhiyuan Zhao, Junyu Gao, Xuelong Li

机构 * Institute of Artificial Intelligence (TeleAI), China Telecom, China（人工智能研究院（TeleAI），中国电信，中国） ； University of Science and Technology of China, China（中国科学技术大学，中国） ； Northwestern Polytechnical University, China（西北工业大学，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出AquaOV255水下分割数据集及Earth2Ocean框架，通过几何引导视觉掩码生成和类别-视觉语义对齐模块，在无需额外训练的情况下实现高效的水下开放词汇分割。

Explanation User Interfaces: A Systematic Literature Review

解释用户界面：系统文献综述

Eleonora Cappuccio, Andrea Esposito, Francesco Greco, Giuseppe Desolda, Rosa Lanzilotti, Salvatore Rinzivillo

机构 * University of Pisa（比萨大学） ； University of Bari Aldo Moro（巴里阿尔多·莫罗大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文通过系统文献综述探讨了解释用户界面(XUIs)的设计与指南，提出HERMES平台以提升XUI的设计与评估效果。

Comments Second version

Towards Robust Multimodal Physiological Foundation Models: Handling Arbitrary Missing Modalities

迈向稳健的多模态生理基础模型：处理任意缺失模态

Wei-Bang Jiang, Xi Fu, Yi Ding, Cuntai Guan

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出PhysioOmni模型，通过解耦多模态信号提取通用表示，解决现有方法在跨数据集泛化和缺失模态处理上的不足，实验显示其在情绪识别等任务中表现优异。

Comments 19 pages, 5 figures

DRCY: Agentic Hardware Design Reviews

DRCY：代理硬件设计审查

Kyle Dumont, Nicholas Herbert, Hayder Tirmazi, Shrikanth Upadhayaya

机构 * AllSpice Inc.（AllSpice公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 DRCY是首个生产级多代理LLM系统，通过自动获取元件数据表并进行引脚分析，提高硬件设计连接审查的准确性与可靠性。

Boosting the Local Invariance for Better Adversarial Transferability

提升局部不变性以增强对抗迁移性

Bohan Liu, Xiaosen Wang

机构 * School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院） 纠错

专题命中 安全评测 ：trustworthy(abstract,comments)

AI总结 本文提出LI-Boost方法，通过提升对抗扰动的局部不变性来增强模型间对抗迁移性，实验表明其在多种攻击类型上均有效。

Comments Code is available at https://github.com/Trustworthy-AI-Group/TransferAttack

Rotated Robustness: A Training-Free Defense against Bit-Flip Attacks on Large Language Models

旋转鲁棒性：一种对抗大语言模型位翻转攻击的无训练防御方法

Deng Liu, Song Chen

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出旋转鲁棒性（RoR），通过正交Householder变换对激活空间进行旋转，有效消除激活异常值与敏感权重之间的对齐，提升大语言模型的可靠性。

Comments 13 pages, 8 figures. Preprint. Under review at IEEE Transactions on Information Forensics and Security

InViC: Intent-aware Visual Cues for Medical Visual Question Answering

InViC：面向医疗视觉问答的意图感知视觉线索

Zhisong Wang, Ziyang Chen, Zanting Ye, Hongze Zhu, Yefeng Zheng, Yong Xia

机构 * National Engineering Laboratory for Integrated Aero-Space-Ground-Ocean Big Data Application Technology, School of Computer Science and Engineering, Northwestern Polytechnical University, Xi’an 710072, China（集成空天地海大数据应用技术国家工程实验室，计算机科学与工程学院，西北工业大学，西安710072，中国） ； Westlake University（西湖大学） ； Southern Medical University（南方医科大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出InViC框架，通过引入Cue Tokens Extraction模块和两阶段微调策略，提升医疗视觉问答中意图对齐的视觉证据利用，验证了瓶颈化训练在提高可信度上的有效性。

Comments 10 pages, 2 figures

Real-World Deployment of Cloud-based Autonomous Mobility Systems for Outdoor and Indoor Environments

云原生自主移动系统在户外和室内环境中的实际部署

Yufeng Yang, Minghao Ning, Keqi Shu, Aladdin Saleh, Ehsan Hashemi, Amir Khajepour

机构 * Department of Mechanical and Mechatronics Engineering, University of Waterloo（滑铁卢大学机械与机电工程系） ； Technology Partnerships and Innovations, Rogers Communications, Canada Inc.（罗杰斯通讯加拿大有限公司技术伙伴关系与创新部） ； Mechanical Engineering Department, University of Alberta（阿尔伯塔大学机械工程系） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出云原生自主移动框架，通过基础设施智能传感与云计算协调提升自主操作能力，实验证明在城市环岛和医院类室内环境中的感知鲁棒性和安全性提升。

Comments This paper has been submitted to IEEE Robotics and Automation Magazine

VibeContract: The Missing Quality Assurance Piece in Vibe Coding

VibeContract： vibe编码中缺失的质量保证环节

Song Wang

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出VibeContract框架，通过将高层次自然语言意图分解为任务序列并生成任务级合同，以提升LLM生成代码的正确性、鲁棒性和可维护性。

The Internet of Physical AI Agents: Interoperability, Longevity, and the Cost of Getting It Wrong

物理AI代理的互联网：互操作性、持久性与搞错的成本

Roberto Morabito, Mallik Tatipamula

机构 * EURECOM ； Ericsson Silicon Valley（爱立信硅谷） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文探讨物理AI代理的互联网发展，提出设计原则以构建可靠、可进化和可信的代理系统，强调互操作性、信任和进化作为首要需求，避免技术与经济成本。

Comments A related version of this work is currently under review for publication in an IEEE magazine

Nishpaksh: TEC Standard-Compliant Framework for Fairness Auditing and Certification of AI Models

Nishpaksh：符合TEC标准的AI模型公平性审计与认证框架

Shashank Prakash, Ranjitha Prasad, Avinash Agarwal

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出Nishpaksh，一个符合TEC标准的AI模型公平性审计与认证工具，通过整合风险量化、上下文阈值确定和定量公平性评估，提供可复现的审计级评估，验证了其在COMPAS数据集上识别属性偏见和生成标准化公平评分的能力。

Comments Accepted and presented at 2026 18th International Conference on COMmunication Systems and NETworks (COMSNETS)

Journal ref 2026 18th International Conference on COMmunication Systems and NETworks (COMSNETS), Bengaluru, India, 2026, pp. 877-882

Good Arguments Against the People Pleasers: How Reasoning Mitigates (Yet Masks) LLM Sycophancy

对讨好型人格的有益论点：推理如何缓解（却掩盖）LLM的讨好行为

Zhaoxin Feng, Zheng Chen, Jianfei Ma, Yip Tin Po, Emmanuele Chersoni, Bo Li

机构 * The Hong Kong Polytechnic University（香港理工大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究探讨了推理在缓解LLM讨好行为中的作用，发现推理虽能减少最终决策的讨好倾向，但可能在部分样本中掩盖讨好行为，且LLM在主观任务和权威偏见下更易表现出讨好倾向。

OneWorld: Taming Scene Generation with 3D Unified Representation Autoencoder

OneWorld: 通过3D统一表示自编码器驯服场景生成

Sensen Gao, Zhaoqing Wang, Qihang Cao, Dongdong Yu, Changhu Wang, Tongliang Liu, Mingming Gong, Jiawang Bian

机构 * Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·泽亚德人工智能大学） ； AISphere ； Shanghai Jiao Tong University（上海交通大学） ； University of Melbourne（墨尔本大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 OneWorld通过3D统一表示自编码器直接在3D空间中进行扩散，解决跨视角一致性和几何一致性问题，实验表明其生成的3D场景质量优于现有2D方法。

Comments Code: https://github.com/SensenGao/OneWorld

Time-Layer Adaptive Alignment for Speaker Similarity in Flow-Matching Based Zero-Shot TTS

基于流匹配的零样本文本到语音系统中的时间层自适应对齐

Haoyu Li, Mingyang Han, Yu Xi, Dongxiao Wang, Hankun Wang, Haoxiang Shi, Boyu Li, Jun Song, Bo Zheng, Shuai Wang, Kai Yu

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出TLA-SA方法，通过联合利用时间与层次变化提升说话人一致性，在研究和工业数据集上显著提高说话人相似度，并在不同模型架构中表现良好。

Comments Submitted to INTERSPEECH 2026

Why the Valuable Capabilities of LLMs Are Precisely the Unexplainable Ones

为何大语言模型的宝贵能力恰恰是无法解释的那些

Quan Cheng

机构 * Tsinghua University（清华大学） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文提出论点：大语言模型真正有价值的能力恰恰是无法用人类可读的离散规则完全描述的部分。通过专家系统等价性证明，若LLM能力可被规则完全描述，则等同于专家系统，但专家系统在历史上和实证上均弱于LLM，从而产生矛盾。

Comments 12 pages, v2: added correction to Polanyi on why tacit knowledge is tacit (structural vs quantitative), unified three independent intellectual threads (Smolensky, Dreyfus, dynamical systems theory)

Domain Mixture Design via Log-Likelihood Differences for Aligning Language Models with a Target Model

通过对数似然差异设计领域混合以对齐语言模型与目标模型

Ryo Kishino, Riku Shiomi, Hiroaki Yamagiwa, Momose Oyama, Hidetoshi Shimodaira

机构 * Kyoto University（京都大学） ； RIKEN（理化学研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过设计训练数据的领域混合，利用对数似然空间对齐模型方向，减少KL散度并提升下游任务性能。

Adaptive Theory of Mind for LLM-based Multi-Agent Coordination

自适应理论 of mind 用于基于大语言模型的多智能体协调

Chunjiang Mu, Ya Zeng, Qiaosheng Zhang, Kun Shao, Chen Chu, Hao Guo, Danyang Jia, Zhen Wang, Shuyue Hu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出自适应理论 of mind 机制，通过估计伙伴的理论 of mind 深度以提升多智能体协作效率，实验验证了该机制在多个任务中的有效性。

Comments Accepted by AAAI 2026