大模型对齐与安全

Eval-Pair Matrix: Answer-Paired Meta-Evaluation of LLM Judges for Grounded RAG

评估对矩阵：基于事实的检索增强生成中大型语言模型评判器的答案配对元评估

Sriram Selvam, Anneswa Ghosh

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对基于事实的检索增强生成中大型语言模型评判器自我宽容难识别问题，引入Eval-Pair Matrix协议，通过特定流程生成答案并评估，经实验得出同模型效应等结果，强调RAG评判器研究应报告多方面内容。

Articulate Intuition or Genuine Analysis? Benchmarking Epistemic Reliability in LLM-as-a-Judge Peer Reviews

清晰的直觉还是真正的分析？评估大语言模型作为评审员的同行评审中的认知可靠性基准

Nuo Chen, Qian Wang, Qingyun Zou, Bingsheng He

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 研究大语言模型评审员与人类评审员对同行评审评估的差异，将卡尼曼双过程理论转化为评分标准并发布Kahneman4Review基准，通过多方面发现揭示问题，强调可靠基准应区分分析形式与认知功能并给出设计选择。

Comments Preprint

Mitigating LLM Sycophancy in Code Smell Detection Using Evidence-Guided Reasoning Prompts

使用证据引导推理提示减轻代码异味检测中的大语言模型谄媚现象

Istiaq Ahmed Fahad, Kamruzzaman Asif, Md. Nurul Ahad Tawhid

机构 * Institute of Information Technology（信息科技研究所） ； University of Dhaka（达卡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究基于LLM的代码异味检测中谄媚偏差问题，通过MLCQ数据集评估不同提示框架影响，发现模型对提示变化敏感。提出证据引导去偏提示策略，降低决策不稳定性，提高鲁棒性，为解决该问题提供有效方法。

Comments 11 Pages

Dynamic Agent Skills: A Lifecycle Survey and Taxonomy of Evolving Skill Libraries

动态智能体技能：不断演进的技能库的生命周期调查与分类法

Yubo Li

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究大型语言模型智能体中技能库随时间的变化，通过分类法、生命周期架构和技能记录模式等工具组织文献，合成证据分级模式，指出相关问题并提出报告标准及开放问题。

Comments Accepted by TMLR (2026.07), OpenReview Link: https://openreview.net/forum?id=cjU3YbcRr8

Journal ref Transactions on Machine Learning Research, 2026

XALPHA: A Memory-Driven AI Quant Researcher for Hypothesis-to-Code Alpha Discovery

XALPHA：一个用于从假设到代码的阿尔法发现的内存驱动人工智能量化研究员

Fengyuan Liu, Yuchen Fu, Yuqi Wang, Qi Liu

机构 * School of Computing and Data Science, The University of Hong Kong（计算与数据科学学院，香港大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对金融市场难以发现交易信号问题，介绍内存驱动的XAlpha人工智能量化研究员，它通过多源研究内存系统，实现从假设到代码的闭环阿尔法发现过程，实验表明其比基线有更强的阿尔法发现性能。

Open, Reliable, and Collective: A Community-Driven Framework for Tool-Using AI Agents

开放、可靠且集体：一个由社区驱动的工具使用AI代理框架

Hy Dang, Quang Dao, Meng Jiang

机构 * University of Notre Dame（圣母大学） ； Rose-Hulman Institute of Technology（罗斯-霍曼理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出OpenTools框架，通过标准化工具方案、提供轻量级插件式封装及自动化测试套件，提升工具使用可靠性，实验表明社区贡献的高质量工具在多个架构上提升了6%-22%的任务性能。

Multimodal rumor detection enhanced by external evidence and forgery features

通过外部证据和伪造特征增强的多模态谣言检测

Han Li, Hua Sun

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出通过外部证据和伪造特征增强的多模态谣言检测模型，利用ResNet34视觉编码器、BERT文本编码器和伪造特征模块，结合双对比学习模块和门控自适应特征缩放融合机制，提升谣言检测性能。

Comments 20pages,10figures

DR-Arena: an Automated Evaluation Framework for Deep Research Agents

DR-Arena：深度研究智能体的自动化评估框架

Yiwen Gao, Ruochen Zhao, Yang Deng, Wenxuan Zhang

机构 * National University of Singapore（国立新加坡大学） ； Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理学院） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对大语言模型作深度研究智能体时任务性能评估难的问题，提出DR-Arena自动化评估框架，通过动态调查、构建实时信息树、自动考官出题及自适应进化循环提升任务复杂性来评估，实验证明其与人类偏好对齐效果好，可替代人工裁决。

Comments 22 pages, 8 figures. Accepted to ACL 2026 as an oral presentation and selected as an SAC Highlight

Journal ref Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 27130-27152, 2026

Norm Enforcement for AI Agents: Robustly Shaping Behavior in Multi-Agent Systems

人工智能代理的规范执行：在多智能体系统中稳健塑造行为

Yaowen Ye, Jacob Steinhardt

专题命中 安全评测 ：分类 cs.CL、cs.AI、cs.LG；trustworthy(comments)

AI总结 研究多智能体系统中语言模型代理的规范执行机制，针对简单机制易被利用的问题，确定估计代理可靠性及加重惩罚更新估计这两个关键要素，所构建机制可抵御利用且低成本惩罚违规，是塑造智能体行为的可扩展手段。

Comments ICML2026 Trustworthy AI for Good Workshop

GFR-SAM: Training-Free Referring Camouflaged Object Segmentation via Cross-Image Prompting

GFR-SAM：通过跨图像提示实现免训练的指认伪装物体分割

Yilong Yang, Jianxin Tian, Shengchuan Zhang, Liujuan Cao

机构 * Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, Xiamen University（多媒体可信感知与高效计算重点实验室，教育部，厦门大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究指认伪装物体分割问题，提出GFR-SAM三阶段免训练框架，通过生成候选掩码、过滤背景干扰、细化边界等步骤，在R2C7K基准测试中表现出色，弥合通用模型与特定感知任务差距，凸显SAM3跨图像提示潜力。

DynEval: Holistic Evaluations of T2I Generative Models in the Wild

DynEval：对自然环境下的文本到图像生成模型进行全面评估

Shyam Marjit, Dheeraj Baiju, Anuj Shikarkhane, Akhil Sakthieswaran, Sayak Paul, Anirban Chakraborty

机构 * Indian Institute of Science（印度科学研究所） ； Hugging Face（拥抱脸） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对文本到图像生成模型评估难题，提出DynEval动态评估框架，通过构建两个数据集，利用课程学习策略微调评估器，在多基准测试中与人类判断相关性更高，可对多个T2I模型进行细粒度分析。

Comments Accepted at ECCV 2026. Project page: https://vcl-iisc.github.io/dyneval/

Mixture of Cognitive Experts in Large Vision-Language Models

大型视觉语言模型中的认知专家混合体

Robert Wijaya, Ngai-Man Cheung

机构 * Singapore University of Technology and Design (SUTD)（新加坡科技设计大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究大型视觉语言模型中多编码器专家整合难题，提出证据驱动的多模态推理框架，利用布鲁姆分类法及两阶段认知语言化，改进感知和推理能力，实现细粒度分析。

SOLAR: Self-supervised Joint Learning for Symmetric Multimodal Retrieval

SOLAR：用于对称多模态检索的自监督联合学习

Wenjie Yang, Hang Yu, Yuyu Guo, Peng Di

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出SOLAR框架，通过自监督学习解决对称多模态检索问题，利用未标记数据提升模型性能，实验显示其在基准测试中优于现有方法。

Comments Accepted by ICML 2026. Code, model and benchmark are available at https://github.com/codefuse-ai/SOLAR

ProAct: A Benchmark and Multimodal Framework for Structure-Aware Proactive Response

ProAct：用于结构感知主动响应的基准和多模态框架

Xiaomeng Zhu, Fengming Zhu, Weijie Zhou, Ye Tian, Zhenlin Hu, Yufei Huang, Yuchun Guo, Xinyu Wu, Zhengyou Zhang, Fangzhen Lin, Xuantang Xiong

机构 * Department of Computer Science and Engineering, The Hong Kong University of Science and Technology (HKUST), Hong Kong SAR, China（香港科技大学计算机科学与工程系） ； Tencent, Shenzhen, China（腾讯（中国深圳）） ； Shenzhen Institute of Advanced Technology (SIAT), Chinese Academy of Sciences, Shenzhen, China（深圳先进技术研究所（SIAT），中国科学院） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 针对主动智能体开发受资源缺乏阻碍的问题，引入ProAct-75基准，提出由多模态大语言模型驱动的ProAct-Helper，其利用任务图进行行动选择，实验证明该方法在触发检测等方面优于闭源模型。

From inconsistency to decision: explainable operation and maintenance of battery energy storage systems

从不一致到决策：电池储能系统的可解释运维

Jingbo Qu, Yijie Wang, Yujie Fu, Putai Zhang, Weihan Li, Mian Li

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出一种基于不一致性的电池储能系统运维方法，通过多维度不一致评估与大语言模型语义推理结合，将监测数据转化为可解释的运维指导，提升运维效率和安全性。

Comments 13 pages, 5 figures

Journal ref Cell Reports Physical Science 7(6), 103388 (2026)

TIIF-Bench: How Does Your T2I Model Follow Your Instructions?

TIIF-Bench：你的文本到图像模型如何遵循指令？

Xinyu Wei, Jinrui Zhang, Zeqing Wang, Hongyang Wei, Zhen Guo, Bairui Li, Lei Zhang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Tsinghua University（清华大学） ； OPPO Research Institute（OPPO研究院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究旨在评估T2I模型遵循指令能力，提出TIIF-Bench基准，含多维度、多难度提示及新评估指标，利用大语言模型知识开发可重现评估器，通过对主流模型测试分析其优缺点及现有基准局限性。

Comments 35 pages, 14 figures, 9 tables

The Effects of Data Quality on Machine Learning Performance on Tabular Data

数据质量对表格数据上机器学习性能的影响

Sedir Mohammed, Lukas Budach, Moritz Feuerpfeil, Nina Ihde, Andrea Nathansen, Nele Noack, Hendrik Patzlaff, Felix Naumann, Hazar Harmouch

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究探讨了数据质量对表格数据上19种机器学习算法性能的影响，通过实证分析揭示不同数据质量维度对分类、回归和聚类任务性能的影响。

Journal ref Information Systems Information Systems, Volume 132, July 2025, 102549

MorphologyFM: A Foundation Model for Morphology-Aware Representation Learning from ECG and Pulse Oximetry Waveforms

MorphologyFM：一种用于从心电图和脉搏血氧波形中进行形态感知表示学习的基础模型

Saiyang Feng, Yuanyun Zhang, Shi Li

机构 * University of the Chinese Academy of Sciences（中国科学院大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对现有生理波形方法未保留临床意义波形形态的问题，提出多模态基础模型MorphologyFM，通过形态感知自监督学习目标预训练，结合多种技术学习相关表示，在多下游任务中表现优于其他方法，证明联合建模更具可转移性。

WasteAssistant: Regulation-Guided Visual Question Answering Framework for Intelligent Waste Segregation and Sustainable Managemen

WasteAssistant：用于智能垃圾分类与可持续管理的监管引导视觉问答框架

Khush Kataruka, Harshit Maurya, Anuja Vats, Murari Mandal, Kiran Raja, Praveen Kumar Chandaliya

机构 * SVNIT（萨达尔·瓦拉巴伊·国家理工学院） ； NTNU（挪威科技大学） ； KIIT（卡林加工业技术学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 该研究针对现有智能垃圾分类系统的不足，提出集成视觉语言模型和多模态大语言模型的框架，构建新数据集，经实验验证基于BLIP的模型效果更佳，提升了分类准确率，确保监管合规，推动多模态AI在垃圾管理中的应用。

Comments 12 Pages, 5 Figures

Closed-Loop Control with Rule-Aligned Small Language Models and Multi-Agent Self-Correction

基于规则对齐的小语言模型和多智能体自我校正的闭环控制

Yuchen Wang, Javal Vyas, Tong Liu, Mehmet Mercangoz

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 研究能否对紧凑型小语言模型再训练用于控制推理并嵌入验证器引导的校正循环，通过组相对策略优化对齐模型，结合多种智能体，在随机热控模拟中取得高准确率和低延迟，支持该架构用于边缘可重构自主控制。

Comments Accepted by IEEE CCTA 2026

Characterizing Large Language Model Agentic Workflows: A Study on N8n Ecosystem

表征大语言模型智能体工作流：基于N8n生态系统的研究

Yutian Tang, Yuming Zhou, Huaming Chen

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 通过分析6000多个n8n工作流，揭示LLM在低代码平台中嵌入控制逻辑、外部工具和人工审核等结构，但可靠性机制不足。

Cardano's Voltaire Governance: Complete Specification and Research Program

卡尔达诺的伏尔泰治理：完整规范与研究计划

Nimrod Talmon, Oghenekaro Elem

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 研究卡尔达诺的伏尔泰治理系统，给出其机制完整技术规范，涵盖架构、行动类型等；建立治理优化研究议程，含模拟平台设计等，提供初步结果如治理内核，助力推进区块链治理科学。

Hearing Like Humans? Sound Symbolism and Perceptual Alignment in Speech Language Models

像人类一样听？语音语言模型中的语音象征与感知对齐

Yun-Shao Tsai, Chun-Wei Chen, Chee-En Yu, Yi-Cheng Lin, Hung-yi Lee

机构 * Graduate Institute of Communication Engineering National Taiwan University Taipei, Taiwan ； Graduate Institute of Electrical Engineering National Taiwan University Taipei, Taiwan ； Artificial Intelligence Center of Research Excellence National Taiwan University Taipei, Taiwan 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 研究语音语言模型是否有语音象征倾向，通过真实人类语音录音对比模型与人类数据，发现模型听觉判断与人类感知对齐差，错过声学线索，开放权重模型表现不佳，弱点在语音表示方式。

Comments Submitted to SLT 2026

Fundamental market design as a layer of AI-agent alignment

作为人工智能-智能体对齐层次的基础市场设计

Omar Inverso, Emilio Tuosto, Dragisa Zunic

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究探讨市场中人工智能-智能体对齐，提出将基础市场设计视为该对齐层次，通过对市场核心形式化建模，利用理论计算机科学严谨性构建透明盒模型，支持激励分析与机制设计，使期望行为受青睐，不良行为难维持。

Comments Accepted as at the EC'26 Workshop on Incentive-Based AI Alignment, co-located with the 27th ACM Conference on Economics and Computation, Rome, Italy, July 2026. This version is prepared for public dissemination following workshop acceptance

Implicit Fine-tuning via Context Engineering: A Curriculum Learning Framework for Multimodal Entity Alignment

通过上下文工程进行隐式微调：多模态实体对齐的课程学习框架

Yunpeng Hong, Chenyang Bu, Di Wu, Yi He, Xindong Wu

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究多模态实体对齐问题，提出PTFEA课程学习框架，通过自适应难度调制和三阶段渐进推理将微调策略转化为上下文工程，实验证明该框架性能优越，提供了统一上下文工程和微调的理论框架。

Comments Accepted by KDD 2026

Journal ref SIGKDD 2026

SMETA-ZSL:Semantic Meta-Alignment for Zero-Shot Threat Classification

SMETA-ZSL：用于零样本威胁分类的语义元对齐

Ivan Alejandro Montoya Sanchez, Anantaa Kotal, Aritran Piplai

机构 * The University of Texas at El Paso（德克萨斯大学艾尔帕索分校） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI、cs.LG

AI总结 研究针对网络安全新威胁无标注数据问题，提出SMETA-ZSL方法，通过对比微调、情景元学习和知识蒸馏等，从重叠语言描述学习语义原型并对齐行为特征，实现跨可见-未见类别的泛化，在7个基准测试中性能远超先前方法。

Question Type, Cognitive Load, and CEFR Alignment: Evaluating LLM-Generated EFL Grammar Drill Exercises

问题类型、认知负荷与CEFR对齐：评估LLM生成的EFL语法练习

Steve Woollaston, Brendan Flanagan, Yuko Toyokawa, Hiroaki Ogata

专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.CY

AI总结 本研究通过分析日本初中生在语法练习应用中的日志数据，评估了LLM生成的EFL学习内容的教学可行性，揭示了不同问题模态对表现的影响，并验证了CEFR-J语法框架的难度层级。

Comments Under review for the the 34th International Conference on Computers in Education (ICCE 2026). 2jun26: v2 - fixed minor typo

Cost of Reasoning in non-English Languages: A Case Study on Japanese

非英语语言的推理成本：以日语为例

Yuu Jinnai

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究训练日语推理模型的可行性，开发Qwen - 3 - Swallow - 8B的日语推理变体并用GRPO训练，在多基准测试中发现推理语言控制可行，但性能与英语推理基线相当，在日本文化基准上表现不如基线模型。

BackgroundMellow: A Multi-Modal Cohesive Framework for Narrative-Driven Rich Cinematic Soundscape Generation

BackgroundMellow：一种用于叙事驱动的丰富电影音效生成的多模态凝聚框架

Ajitesh Jamulkar, Aritra Hazra

机构 * Indian Institute of Technology Kharagpur（印度理工学院卡拉格布尔分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 多模态AI中为文本叙事生成电影音效困难，BackgroundMellow框架将其视为编排与信号处理问题，通过主 - 专家架构、Tango2模型、背景音乐检索器及NLP模块实现，经实验验证在时间同步等方面有效。

Comments 7 pages

LLM-Based Social Simulations Require a Boundary

基于大语言模型的社会模拟需要边界

Zengqing Wu, Run Peng, Takayuki Ito, Makoto Onizuka, Chuan Xiao

机构 * Osaka University（大阪大学） ； Nagoya University（名古屋大学） ； University of Michigan（密歇根大学） ； Kyoto University（京都大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 探讨基于大语言模型的社会模拟，指出其因输出同质化限制对复杂社会动态行为多样性的捕捉。通过回顾研究发现验证实践与问题异质性要求不符，建议匹配验证深度、明确报告方差并合理限制结论，倡导有边界意识的方法为社会科学提供见解。

Comments ICML 2026 Position Paper Track