大模型对齐与安全

A Systematic Study of Training-Free Methods for Trustworthy Large Language Models

对可信大语言模型无训练方法的系统研究

Wai Man Si, Mingjie Li, Michael Backes, Yang Zhang

机构 * CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全研究中心） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；alignment(abstract)；分类 cs.CL

AI总结 本文系统评估了无训练方法在不同可信设置下的有效性，分析了其对效用、鲁棒性和计算开销的影响，并提出平衡可信性、效用和鲁棒性的实用建议。

Distribution Shift Alignment Helps LLMs Simulate Survey Response Distributions

分布偏移对齐有助于LLM模拟调查响应分布

Ji Huang, Mengfei Li, Shuai Shao

机构 * School of Computer Science, University of Science and Technology of China（中国科学技术大学计算机科学学院） ； School of Management, Fudan University（复旦大学管理学院） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出DSA方法，通过两阶段微调对齐输出分布和偏移，提升LLM模拟调查响应的准确性与效率，在五个公开数据集上表现优异。

PADTHAI-MM: Principles-based Approach for Designing Trustworthy, Human-centered AI using MAST Methodology

PADTHAI-MM: 基于原则的方法用于使用MAST方法论设计可信、以人类为中心的AI

Myke C. Cohen, Nayoung Kim, Yang Ba, Anna Pan, Shawaiz Bhatti, Pouria Salehi, James Sung, Erik Blasch, Michelle V. Mancenido, Erin K. Chiou

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CY

AI总结 本文提出PADTHAI-MM框架，通过MAST方法论设计可信AI系统，通过READIT平台验证，评估MAST对AI信任的影响，并探讨MAST评分与信任因素的关系。

Bridging the Gap between User Intent and LLM: A Requirement Alignment Approach for Code Generation

弥合用户意图与大语言模型之间的鸿沟：一种用于代码生成的需求对齐方法

Jia Li, Ruiqi Bai, Yangkang Luo, Yiran Zhang, Wentao Yang, Zeyu Sun, Tiankuo Zhao, Dongming Jin, Lei Li, Zhi Jin

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文提出REA-Coder方法，通过需求对齐提升大语言模型的代码生成性能，实验表明其在多个编程基准测试中表现优异，平均提升率达7.93%至30.25%。

Automating Crash Diagram Generation Using Vision-Language Models: A Case Study on Multi-Lane Roundabouts

利用视觉-语言模型自动化生成碰撞图：多车道环形交叉口的案例研究

Xiao Lu, Hao Zhen, Jidong J. Yang

机构 * Smart Mobility and Infrastructure Lab, College of Engineering University of Georgia Athens（智能移动与基础设施实验室，工程学院，佐治亚大学亚特兰大分校） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文研究利用视觉-语言模型自动化生成碰撞图，针对多车道环形交叉口这一挑战性案例，提出三步提示框架和10项评估指标，发现GPT-4o在空间推理和数据对齐方面表现最佳，为生成式AI在工程可视化中的应用奠定基础。

Comments 16 pages, 5 figures, 3 tables

Journal ref Applied Computing and Intelligence, 2026, 6(1): 38-57

From Intention to Text: AI-Supported Goal Setting in Academic Writing

从意图到文本：支持学术写作的AI目标设定

Yueling Fan, Richard Lee Davis, Olga Viberg

机构 * Department of Media Technology and Interaction Design（媒体技术与交互设计系） ； KTH Royal Institute of Technology（皇家理工学院） ； Department of Digital Learning（数字学习系） ； Digital Futures（数字未来） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出WriteFlow，一种基于AI语音的写作助手，通过目标导向互动支持反思性学术写作。通过Wizard-of-Oz研究显示，WriteFlow通过支持迭代目标优化、维持目标与文本一致性及促进目标完成评估，提升了写作的元认知调节与反思。

Comments Accepted at AIED 2026

SIMMER: Cross-Modal Food Image--Recipe Retrieval via MLLM-Based Embedding

SIMMER：通过基于MLLM的嵌入进行跨模态食物图像-食谱检索

Keisuke Gomi, Keiji Yanai

机构 * The University of Electro-Communications（电通大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SIMMER，利用基于MLLM的嵌入模型VLM2Vec，通过统一编码器处理食物图像和食谱文本，设计定制化提示模板和数据增强策略，实现跨模态检索的高精度。

Comments 20 pages, 6 figures

OSCBench: Benchmarking Object State Change in Text-to-Video Generation

OSCBench：文本到视频生成中对象状态变化的基准测试

Xianjing Han, Bin Zhu, Shiqi Hu, Franklin Mingzhe Li, Patrick Carrington, Roger Zimmermann, Jingjing Chen

机构 * National University of Singapore（新加坡国立大学） ； Singapore Management University（新加坡管理大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Fudan University（复旦大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出OSCBench基准，用于评估文本到视频模型在对象状态变化上的性能，揭示当前模型在处理新场景时的不足。

Comments ACL 2026 Main Conference, Project page: https://hanxjing.github.io/OSCBench

MTR-DuplexBench: Towards a Comprehensive Evaluation of Multi-Round Conversations for Full-Duplex Speech Language Models

MTR-DuplexBench：面向全双工语音语言模型多轮对话全面评估的综合评测

He Zhang, Wenqian Cui, Haoning Xu, Xiaohui Li, Lei Zhu, Haoli Bai, Shaohua Ma, Irwin King

机构 * Tsinghua University（清华大学） ； The Chinese University of Hong Kong（香港中文大学） ； Huawei Technologies（华为技术） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MTR-DuplexBench，用于评估全双工语音语言模型在多轮对话中的表现，涵盖对话质量、指令遵循和安全性等关键方面，揭示现有模型在多轮对话中的一致性问题。

Comments Accepted to Findings of ACL 2026

Do Vision-Language Models Truly Perform Vision Reasoning? A Rigorous Study of the Modality Gap

视觉-语言模型真的能进行视觉推理吗？一种对模态差距的严格研究

Yige Xu, Yongjie Wang, Zizhuo Wu, Kaisong Song, Jun Lin, Zhiqi Shen

机构 * College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算机与数据科学学院，新加坡） ； Alibaba-NTU Global e-Sustainability CorpLab (ANGEL)（阿里巴巴-国立大学全球可持续发展公司实验室（ANGEL）） ； Tongyi Lab, Alibaba Group, China（阿里云实验室，阿里巴巴集团，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过CrossMath基准测试，发现视觉-语言模型在文本输入时表现优异，但加入图像信息后推理性能下降，表明其推理主要依赖文本空间，而非真实视觉证据。

When Cultures Meet: Multicultural Text-to-Image Generation

当文化相遇：多文化文本到图像生成

Parth Bhalerao, Mounika Yalamarty, Brian Trinh, Oana Ignat

机构 * Santa Clara University（圣克拉拉大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出多文化文本到图像生成任务，构建首个评估基准，分析先进模型在多文化场景下的表现，提出MosAIG框架提升图像生成质量与文化准确性。

UniEditBench: A Unified and Cost-Effective Benchmark for Image and Video Editing via Distilled MLLMs

UniEditBench: 一种统一且成本效益高的图像和视频编辑基准，通过压缩的多模态大语言模型

Lifan Jiang, Tianrun Wu, Yuhang Pei, Chenyang Wang, Boxi Wu, Deng Cai

机构 * Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 UniEditBench提出统一的图像和视频编辑基准，支持基于重建和指令驱动的方法，通过压缩的多模态大语言模型提供多维评分，减少部署成本并提高评估效率。

SatBLIP: Context Understanding and Feature Identification from Satellite Imagery with Vision-Language Learning

SatBLIP：基于卫星影像的视觉-语言学习用于农村环境理解和特征识别

Xue Wu, Shengting Cao, Shenglin Li, Jiaqi Gong

机构 * The University of Alabama（阿拉巴马大学） ； Knox College（克诺克斯学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 SatBLIP通过结合对比图像-文本对齐与定制化卫星语义描述，提升农村风险环境的可解释性分析，预测县级社会脆弱性指数。

Scattered Hypothesis Generation for Open-Ended Event Forecasting

散点假设生成用于开放性事件预测

He Chang, Zhulin Tao, Lifang Yang, Xianglin Huang, Yunshan Ma

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出SCATTER框架，通过引入假设生成任务，将开放性事件预测从点预测扩展到散点预测，以生成更全面的假设集，提升事件预测的多样性和包容性。

ZORO: Active Rules for Reliable Vibe Coding

ZORO：用于可靠振动编码的主动规则

Jenny Ma, Sitong Wang, Joshua H. Kung, Lydia B. Chilton

专题命中 安全评测 ：alignment(abstract)

AI总结 ZORO通过将规则转化为主动控制，提升振动编码中人类与代理对齐的可靠性，通过交互界面整合编码代理，使规则与编码过程每一步关联，并通过技术评估和用户研究验证其有效性。

Comments 19 pages, 10 figures

Analyzing the Presentation, Content, and Utilization of References in LLM-powered Conversational AI Systems

分析基于大语言模型的对话式人工智能系统中参考文献的呈现、内容和利用

Jianheng Ouyang, Arpit Narechania

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究分析了九个系统中1517个参考文献的呈现方式和质量，发现不同系统在参考文献数量和质量上有显著差异，需改进界面设计以提升用户对参考文献的信任度。

Comments 8 pages, 5 figures, Accepted to ACM CHI 2026 Extended Abstract/Poster/Case Study Track

VAGNet: Vision-based Accident Anticipation with Global Features

VAGNet：基于视觉的事故预测与全局特征

Vipooshan Vipulananthan, Charith D. Chitraranjan

机构 * Department of Computer Science and Engineering, University of Moratuwa（moratuwa大学计算机科学与工程系） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出VAGNet，通过全局特征预测事故，提升实时性与效率，实验显示在四个数据集上精度和响应时间均优于现有方法。

C-Mining: Unsupervised Discovery of Seeds for Cultural Data Synthesis via Geometric Misalignment

C-Mining：通过几何偏移无监督发现文化数据合成的种子

Pufan Zeng, Yilun Liu, Mingchen Dai, Mengyao Piao, Chunguang Zhao, Lingqi Miao, Shimin Tao, Weibin Meng, Minggui He, Chenxin Liu, Zhenzhen Qin, Li Zhang, Hongxia Ma, Boxing Chen, Daimeng Wei

机构 * Huawei China（华为中国） ； Huawei Canada（华为加拿大） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出C-Mining框架，通过几何偏移发现文化种子，提升文化理解与推理能力，实验显示在CulturalBench-Hard上提升6.03分。

Language Models as Semantic Teachers: Post-Training Alignment for Medical Audio Understanding

语言模型作为语义教师：面向医学音频理解的后训练对齐

Tsai-Ning Wang, Lin-Lin Chen, Neil Zeghidour, Aaqib Saeed

机构 * Eindhoven University of Technology, The Netherlands（埃因霍温理工大学，荷兰） ； Kyutai, France（Kyutai公司，法国） ； Eindhoven Artificial Intelligence Systems Institute, The Netherlands（埃因霍温人工智能系统研究所，荷兰） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出AcuLa框架，通过将音频编码器与医学语言模型对齐，提升医学音频的语义理解能力，在18个心血管任务中取得最佳性能，显著提升诊断准确性。

Correcting Suppressed Log-Probabilities in Language Models with Post-Transformer Adapters

通过后Transformer适配器纠正语言模型中的压制对数概率

Bryan Sanchez

机构 * Apple MLX（苹果MLX） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 研究通过后Transformer适配器纠正语言模型在敏感话题上的压制对数概率，展示适配器在不同规模模型上的泛化能力及生成一致性改进。

Comments 12 pages, 3 figures, code at https://github.com/SolomonB14D3/qwen-adapter-correction

Anthropogenic Regional Adaptation in Multimodal Vision-Language Model

人为区域适应于多模态视觉-语言模型

Samuel Cahyawijaya, Peerat Limkonchotiwat, Tack Hwa Wong, Hitesh Laxmichand Patel, Amit Agarwal, Manuel Antonio Rufino, Carlos Rafael Catalan, Muhammad Reza Qorib, Vicky Feliren, Holy Lovenia, Aye Hninn Khine, Frederikus Hudi, David Anugraha, Alham Fikri Aji, Romrawin Chumpu, Viet-Thanh Pham, Minghan Wang, Mohamed Fazli Imam, Ruochen Zhang, Joseph Marvin Imperial, Khumaisa Nur'aini, Do Xuan Long, Musa Izzanardi Wijanarko, Joel Ruben Antony Moniz, Patrick Amadeus Irawan, Hanif Muhammad Zhafran, Isaiah Flores, Salsabila Zahirah Pranida, Jun Kevin, Jostin Jerico Rosal, Patricia Nicole Monderin, Kun Kerdthaisong, Ahmad Mustafid, My Chiffon Nguyen, Natchapon Jongwiriyanurak, Siva Worajitwannakul, Haochen Li, Adrian Xuan Wei Lim, Bin Wang, Muhammad Ravi Shulthan Habibi, Lynnette Hui Xian Ng, Mithil Bangera, Yeshil Bangera, Priyaranjan Pattnayak, Dun Li Chan, Sherissa Caren Djuniwar, Cho Chan Myei Oo, Hee Ming Shan

机构 * Cohere ； SEACrowd ； AI Singapore ； Universiti Teknologi PETRONAS ； Oracle ； Carnegie Mellon University（卡内基梅隆大学） ； Monash University, Indonesia（莫纳什大学（印尼）） ； King Mongkut’s University of Technology Thonburi（泰国孔敬大学） ； Nara Institute of Science and Technology（奈良科学技術大學） ； Stanford University（斯坦福大学） ； MBZUAI ； National University of Singapore（新加坡国立大学） ； Monash University, Australia（莫纳什大学（澳大利亚）） ； Brown University（布朗大学） ； University of Bath（巴斯大学） ； Mila - Quebec AI Institute（蒙特利尔AI研究所） ； Institut Teknologi Bandung（Bandung 工程技术大学） ； Ateneo de Manila University（马尼拉亚特内奥大学） ； Universitas Pelita Harapan（Pelita Harapan 大学） ； Seoul National University of Science and Technology（首尔科学技术大学） ； Thammasat University（泰国 Thammasat 大学） ； Independent（独立） ； University College London（伦敦大学学院） ； Nanyang Technological University（南洋理工大学） ； MiroMind AI ； University of Indonesia（印度尼西亚大学） ； University of New Haven（纽黑文大学） ； INTI International University and Colleges（INTI 国际大学和学院） ； Binus University（Binus 大学） ； National University Philippines（菲律宾国家大学） ； ThoughtFull 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出人为区域适应框架，通过地理通用化简化方法提升多模态模型在特定区域的文化相关性，实验显示在东南亚地区提升5-15%的同时保持全球性能。

Neural Computers

神经计算机

Mingchen Zhuge, Changsheng Zhao, Haozhe Liu, Zijian Zhou, Shuming Liu, Wenyi Wang, Ernie Chang, Gael Le Lan, Junjie Fei, Wenxuan Zhang, Yasheng Sun, Zhipeng Cai, Zechun Liu, Yunyang Xiong, Yining Yang, Yuandong Tian, Yangyang Shi, Vikas Chandra, Jürgen Schmidhuber

机构 * Meta AI 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出神经计算机，通过学习运行时状态统一计算、内存和I/O，探索完全神经计算机的实现路径，展示其在接口基本操作上的能力及挑战。

Comments Github (data pipeline): https://github.com/metauto-ai/NeuralComputer; Blogpost: https://metauto.ai/neuralcomputer/index_eng.html

Unsupervised domain adaptation for radioisotope identification in gamma spectroscopy

无监督领域适应在伽马能谱学中用于放射性同位素识别

Peter Lalor, Ayush Panigrahy, Alex Hagen

机构 * Pacific Northwest National Laboratory（太平洋西北国家实验室） ； University of Washington（华盛顿大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出利用无监督领域适应技术提升合成数据训练的模型在真实环境中的泛化能力，通过最大均值差异最小化等方法提高测试准确率。

Comments 38 pages, 5 figures, and 14 tables

HumanLLM: Benchmarking and Improving LLM Anthropomorphism via Human Cognitive Patterns

HumanLLM：通过人类认知模式基准测试和改进LLM拟人化

Xintao Wang, Jian Yang, Weiyuan Li, Rui Xie, Jen-tse Huang, Jun Gao, Shuai Huang, Yueping Kang, Yuanli Gou, Hongwei Feng, Yanghua Xiao

机构 * Fudan University（复旦大学） ； Hello Group（Hello集团） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 HumanLLM通过构建244种心理模式和11359种场景，评估LLM拟人化的有效性，发现认知建模比单纯模拟行为更重要，其8B模型在参数更少的情况下优于Qwen3-32B。

Comments Accepted to ACL 2026 Main Conference

Improving Reasoning Capabilities in Small Models through Mixture-of-Layers Distillation with Stepwise Attention on Key Information

通过关键信息的分步注意力混合层蒸馏提升小模型的推理能力

Yao Chen, Jiawei Sheng, Wenyuan Zhang, Tingwen Liu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种基于分步注意力的混合层蒸馏方法，通过引导学生模型逐步聚焦关键信息，提升小模型的推理能力，并在多个数学和常识推理数据集上取得一致性能提升。

Comments Accepted at EMNLP 2025

Social-JEPA: Emergent Geometric Isomorphism

Social-JEPA：涌现的几何同构

Haoran Zhang, Youjin Wang, Yi Duan, Rong Fu, Dianyu Zhao, Sicheng Fan, Shuaishuai Cao, Wentao Guo, Xiao Zhou

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 Social-JEPA通过让不同视角的独立代理学习环境模型，发现其潜在空间近似线性同构，从而实现跨代理的透明转换与高效迁移学习。

Comments This preprint is withdrawn due to significant errors in the emergent geometric isomorphism results that necessitate full rewriting, coupled with unresolved author disagreement on authorship. A corrected and revised manuscript will be released separately

VeRVE: Versatile Retrieval for Videos via Unified Embeddings

VeRVE：通过统一嵌入实现视频的多功能检索

Shaunak Halbe, Bhagyashree Puranik, Jayakrishnan Unnikrishnan, Kushan Thakkar, Vimal Bhat, Toufiq Parag

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Amazon（亚马逊） ； Keystone AI 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出VeRVE框架，结合语义和时刻级检索能力，支持复杂多模态查询，通过对比对齐视觉和文本嵌入实现高效检索，优于其他多模态大语言模型方法。

People readily follow personal advice from AI but it does not improve their well-being

人们轻易跟随AI的个人建议但其并未改善他们的幸福感

Lennart Luettgau, Vanessa Cheung, Magda Dubois, Keno Juechems, Jessica Bergs, Luke Symes, Henry Davidson, Bessie O'Dell, Hannah Rose Kirk, Max Rollwage, Christopher Summerfield

专题命中 其他安全 ：safety(abstract)

AI总结 研究探讨了人们是否遵循AI建议及其对幸福感的影响，发现尽管多数人遵循建议，但并未带来持续的幸福感提升。

"When I see Jodie, I feel relaxed": Examining the Impact of a Virtual Supporter in Remote Psychotherapy

当我看到乔迪时，我感到放松：检验虚拟支持者在远程心理治疗中的影响

Jiashuo Cao, Chen Li, Wujie Gao, Simon Hoermann, Nilufar Baghaei, Mark Billinghurst

专题命中 其他安全 ：safety(abstract)

AI总结 本文研究了虚拟支持者在远程心理治疗中的作用，通过两项研究发现其能提升心理安全、减少焦虑并促进情感表达，同时探讨了AI驱动的虚拟代理在远程心理治疗中的潜力与挑战。

Comments Accepted to CSCW 2026

P3T: Prototypical Point-level Prompt Tuning with Enhanced Generalization for 3D Vision-Language Models

P3T: 用于3D视觉-语言模型的增强泛化原型点级提示微调

Geunyoung Jung, Soohong Kim, Kyungwoo Song, Jiyoung Jung

机构 * Department of Artificial Intelligence, University of Seoul（首尔大学人工智能系） ； Department of Applied Statistics, Yonsei University（延世大学应用统计系） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出P3T，一种针对3D视觉-语言模型的高效提示微调方法，通过点级提示器和文本提示器提升模型泛化能力，并引入原型损失减少类别内方差，实验表明其在分类和少样本学习中表现优异。

Comments Accepted by ICRA 2026