大模型对齐与安全

What Makes a Good AI Review? Concern-Level Diagnostics for AI Peer Review

什么使一个好的AI评审？针对AI同行评审的关切层面诊断

Ming Jin

机构 * Bradley Department of Electrical & Computer Engineering（布拉德利电气与计算机工程系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出关切对齐框架，通过关切层面分析评估AI评审质量，发现校准常是关键约束，而非单纯检测。

Large Language Models Meet Biomedical Knowledge Graphs for Mechanistically Grounded Therapeutic Prioritization

大型语言模型与生物医学知识图谱结合用于机制性指导的治疗优先级排序

Chih-Hsuan Wei, Chi-Ping Day, Zhizheng Wang, Christine C. Alewine, Betty Tyler, Hasan Slika, David Saraf, Chin-Hsien Tai, Joey Chan, Robert Leaman, Zhiyong Lu

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出DrugKLM框架，结合生物医学知识图谱与大语言模型的机制推理，提升治疗优先级排序的准确性与生物学依据。

Comments 24 pages, 5 figures in main text

Beyond Rating: A Comprehensive Evaluation and Benchmark for AI Reviews

超越评分：AI评论的全面评估与基准

Bowen Li, Haochen Ma, Yuxin Wang, Jie Yang, Yining Zheng, Xinchi Chen, Xuanjing Huang, Xipeng Qiu

机构 * College of Computer Science and Artificial Intelligence, Fudan University, Shanghai, China（复旦大学计算机科学与人工智能学院） ； Shanghai Innovation Institute, Shanghai, China（上海创新研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Beyond Rating框架，通过五个维度评估AI评论，引入Max-Recall策略和高质量数据集，证明文本中心指标与评分准确性的强相关性。

Comments 38 pages,8 figures,4 tables

RAG-KT: Cross-platform Explainable Knowledge Tracing with Multi-view Fusion Retrieval Generation

RAG-KT: 跨平台可解释知识追踪的多视图融合检索生成

Zhiyi Duan, Hongyu Yuan, Rui Liu

机构 * Inner Mongolia University（内蒙古大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 RAG-KT通过多视图融合检索生成技术，解决传统知识追踪模型在跨平台迁移和解释性上的不足，提升准确性和鲁棒性。

TaxPraBen: A Scalable Benchmark for Structured Evaluation of LLMs in Chinese Real-World Tax Practice

TaxPraBen：一种可扩展的基准，用于评估LLM在中文实际税收实践中的结构化表现

Gang Hu, Yating Chen, Haiyan Ding, Wang Gao, Jiajia Huang, Min Peng, Qianqian Xie, Kun Yue

机构 * Yunnan University（云南大学） ； Wuhan University（武汉大学） ； Jianghan University（江汉大学） ； Nanjing Audit University（南京审计大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出TaxPraBen，首个专注于中文税收实践的基准，结合10项传统任务和3项创新场景，评估19种LLM在税收实践中的表现，揭示封闭源大参数LLM和中文LLM的优势。

Journal ref ACL 2026 Main Conference

Context Attribution with Multi-Armed Bandit Optimization

基于多臂老虎机优化的上下文归因

Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

机构 * Lucy Family Institute for Data & Society, University of Notre Dame（数据与社会学院卢西家庭研究所，圣约翰大学） ； Department of Computer Science & Engineering, University of Notre Dame（计算机科学与工程系，圣约翰大学） ； IBM Research（IBM研究院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种将上下文归因问题建模为组合多臂老虎机问题的框架，利用线性汤普森采样高效识别关键上下文片段，减少模型查询次数，实验表明在多个问答基准上实现30%的查询减少同时保持归因质量。

Comments Accepted as a Findings paper at ACL 2026

A Survey of Scaling in Large Language Model Reasoning

大型语言模型推理中的扩展综述

Zihan Chen, Song Wang, Zhen Tan, Xingbo Fu, Zhenyu Lei, Peng Wang, Huan Liu, Cong Shen, Jundong Li

机构 * University of Virginia（弗吉尼亚大学） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文综述了大型语言模型推理中的扩展策略，分析了输入规模、推理步骤、推理轮次和训练增强推理等不同维度，探讨了如何通过不同扩展策略提升推理能力，并展望了未来发展方向。

ONOTE: Benchmarking Omnimodal Notation Processing for Expert-level Music Intelligence

ONOTE：面向专家级音乐智能的多模态记谱处理基准测试

Menghe Ma, Siqing Wei, Yuecheng Xing, Yaheng Wang, Fanhong Meng, Peijun Han, Luu Anh Tuan, Haoran Luo

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出ONOTE基准测试，通过确定性流程消除记谱系统偏差，揭示多模态模型在感知准确性和音乐理论理解间的根本分歧。

Comments 12 pages, 8 figures

Auto-ART: Structured Literature Synthesis and Automated Adversarial Robustness Testing

Auto-ART：结构化文献综合与自动化对抗鲁棒性测试

Abhijit Talluri

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出Auto-ART框架，通过结构化文献综合和自动化对抗鲁棒性测试，填补了领域内的知识空白，实现了多规范评估和合规性映射。

Comments NeurIPS 2026 Evaluations and Datasets Track Submission

CCTVBench: Contrastive Consistency Traffic VideoQA Benchmark for Multimodal LLMs

CCTVBench：用于多模态大语言模型的对比一致性交通视频问答基准

Xingcheng Zhou, Hao Guo, Rui Song, Walter Zimmer, Mingyu Liu, André Schamschurko, Hu Cao, Alois Knoll

机构 * Technical University of Munich（慕尼黑技术大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 CCTVBench通过真实事故视频与世界模型生成的反事实场景配对，提出对比一致性评估方法，揭示视频问答中对比一致性与标准指标间的显著差距，并引入C-TCD方法提升问答与一致性性能。

SurgCoT: Advancing Spatiotemporal Reasoning in Surgical Videos through a Chain-of-Thought Benchmark

SurgCoT：通过链式推理基准提升手术视频中的时空推理

Gui Wang, YongSong Zhou, Kaijun Deng, Wooi Ping Cheah, Rong Qu, Jianfeng Ren, Linlin Shen

机构 * School of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机科学与软件工程学院） ； University of Nottingham（诺丁汉大学） ； School of AI, Shenzhen University（深圳大学人工智能学院） ； Guangdong Provincial Key Laboratory of Intelligent Information Processing, Shenzhen University（广东省智能信息处理重点实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 SurgCoT通过统一的链式推理框架评估多模态大语言模型在7个外科领域35种手术中的时空推理能力，揭示了商业模型在手术推理中的优势及现有模型的不足。

Comments Accept by CVPR2026

Indic-CodecFake meets SATYAM: Towards Detecting Neural Audio Codec Synthesized Speech Deepfakes in Indic Languages

Indic-CodecFake meets SATYAM：迈向检测印度语言神经音频编解码器合成语音深度伪造

Girish, Mohd Mujtaba Akhtar, Orchid Chetia Phukan, Arun Balaji Buduru

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出Indic-CodecFake数据集，用于检测印度语言中神经音频编解码器合成语音深度伪造，发现现有检测器在印度语音上表现不佳，并提出SATYAM模型以提升性能。

Comments Accepted to ACL 2026

Statistical Software Engineering with Tuned Variables

基于调优变量的统计软件工程

Nimrod Busany

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出将统计软件工程中的治理空间作为核心对象，强调在变化环境中通过调优变量维持程序质量与安全性的方法。

Comments 3 pages, position paper

Air-Know: Arbiter-Calibrated Knowledge-Internalizing Robust Network for Composed Image Retrieval

Air-Know: 基于仲裁校准的知识内化鲁棒网络用于组合图像检索

Zhiheng Fu, Yupeng Hu, Qianyun Yang, Shiqi Zhang, Zhiwei Chen, Zixu Li

机构 * Shandong University（山东大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对组合图像检索中噪声三元组对应问题，Air-Know提出专家-代理-分流解耦范式，通过外部先验仲裁、专家知识内化和双流协调模块，提升鲁棒性和检索性能。

Comments Accepted by CVPR 2026

Soft-Label Governance for Distributional Safety in Multi-Agent Systems

多智能体系统中的分布安全软标签治理

Aizierjiang Aiersilan, Raeli Savitt

机构 * The George Washington University（乔治·华盛顿大学） ； SWARM AI Safety（SWARM AI安全） 纠错

专题命中 AI治理与伦理 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 本文提出SWARM框架，通过连续概率标签提升多智能体系统安全性和治理效果，展示软指标在检测代理游戏中的应用。

Relative Principals, Pluralistic Alignment, and the Structural Value Alignment Problem

相对委托人、多元主义对齐与结构价值对齐问题

Travis LaCroix

机构 * Durham University（杜伦大学） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.CY

AI总结 本文提出价值对齐问题应被视为治理结构问题，通过三个轴框架分析对齐的成因，强调对齐是治理而非工程问题，需通过持续的制度过程管理。

Comments Accepted in the Ninth Annual ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT) 2026

Epistemology gives a Future to Complementarity in Human-AI Interactions

认识论为人类-人工智能互动中的互补性赋予未来

Andrea Ferrario, Alessandro Facchini, Juan M. Durán

机构 * SUPSI, Dalle Molle Institute for Artificial Intelligence (IDSIA)（SUPSI，达姆施塔特人工智能研究所（IDSIA）） ； Management in Networked and Digital Societies (MINDS) Department, Kozminski University（网络化与数字化社会管理系（MINDS）部，科米斯基大学） ； TU Delft（代尔夫特理工大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过认识论重构互补性，将其作为可靠知识过程的证据，提升人类-人工智能团队预测的可靠性，并提出设计与治理建议。

Comments Submitted

All Languages Matter: Understanding and Mitigating Language Bias in Multilingual RAG

所有语言都重要：理解并缓解多语言RAG中的语言偏差

Dan Wang, Guozhao Mo, Yafei Shi, Cheng Zhang, Bo Zheng, Boxi Cao, Xuanang Chen, Yaojie Lu, Hongyu Lin, Ben He, Xianpei Han, Le Sun

机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所信息处理实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； MYbank, AntGroup（蚂蚁集团MYbank） 纠错

专题命中 AI治理与伦理 ：alignment(abstract_cn)；分类 cs.CL

AI总结 本文研究多语言RAG中的语言偏差问题，提出LAURA方法，通过多语言证据排名与生成效用对齐，有效缓解语言偏差并提升性能。

Comments ACL 2026 main conference

Understanding AI Trustworthiness: A Scoping Review of AIES & FAccT Articles

理解人工智能可信性：AIES与FAccT文章的综述

Siddharth Mehrotra, Jin Huang, Xuelong Fu, Roel Dobbe, Clara I. Sánchez, Maarten de Rijke

机构 * University of Amsterdam \& Delft University of Technology The Netherlands ； University of Cambridge United Kingdom ； University of Amsterdam The Netherlands ； Delft University of Technology The Netherlands ； University of Amsterdam \& Delft University of Technology ； University of Cambridge ； University of Amsterdam ； Delft University of Technology 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文通过综述AIES和FAccT会议论文，探讨人工智能可信性的概念、测量与验证方法，揭示技术与社会维度的不足，提出跨学科研究的重要性。

Comments Submitted to Journal of Artificial Intelligence Research (JAIR)

Journal ref Journal of Artificial Intelligence Research (2026)

Breaking the Assistant Mold: Modeling Behavioral Variation in LLM Based Procedural Character Generation

打破助手模式：在基于大语言模型的程序化角色生成中建模行为变异

Maan Qraitem, Kate Saenko, Bryan A. Plummer

机构 * Boston University（波士顿大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出PersonaWeaver框架，通过解耦世界观构建与行为构建，生成更具多样性和戏剧张力的角色。

Representational Alignment Across Model Layers and Brain Regions with Multi-Level Optimal Transport

跨模型层和脑区的多级最优传输表示对齐

Shaan Shah, Meenakshi Khosla

机构 * University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出多级最优传输框架，通过全局优化实现层间和神经元级的软耦合，解决传统方法在深度不一致和全局结构忽略的问题，提升跨网络表示对比的解释性与准确性。

LLM-Guided Safety Agent for Edge Robotics with an ISO-Compliant Perception-Compute-Control Architecture

基于ISO合规感知-计算-控制架构的LLM引导安全代理用于边缘机器人

Xu Huang, Ruofan Zhang, Lu Cheng, Yuefeng Song, Xu Huang, Huayu Zhang, Sheng Yin, Anyang Liang, Chen Qian, Yin Zhou, Xiaoyun Yuan, Yuan Cheng

机构 * Shanghai Jiao Tong University（上海交通大学） ； SIMMIR Tech（SIMMIR科技） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出一种基于ISO合规架构的LLM引导安全代理，通过将安全规范转化为可执行谓词，实现边缘机器人中的功能安全，支持ISO 13849 Category 3和PL d的实用部署。

SciCoQA: Quality Assurance for Scientific Paper--Code Alignment

SciCoQA：科学论文与代码对齐的质量保障

Tim Baumgärtner, Iryna Gurevych

机构 * Ubiquitous Knowledge Processing Lab (UKP Lab), Department of Computer Science, TU Darmstadt and National Research Center for Applied Cybersecurity ATHENE（普遍知识处理实验室（UKP实验室）、计算机科学系、德累斯顿技术大学和应用网络安全国家研究中心ATHENE） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.AI

AI总结 本文提出SciCoQA数据集，用于评估LLM在科学论文与代码对齐任务中的表现，揭示自动化科学质量保障的关键差距。

Comments Accepted at ACL 2026

Mechanistic Decoding of Cognitive Constructs in Large Language Models

大语言模型中认知结构的机制解码

Yitong Shou, Manhao Guan

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于Representation Engineering的Cognitive Reverse-Engineering框架，分析社会比较嫉妒的认知机制，揭示模型内部对嫉妒的结构化编码，并展示如何机械检测和抑制有毒情绪状态。

From Fuzzy to Formal: Scaling Hospital Quality Improvement with AI

从模糊到正式：利用AI扩展医院质量改进

Patrick Vossler, Jean Feng, Venkat Sivaraman, Robert Gallo, Hemal Kanzaria, Dana Freiser, Christopher Ross, Amy Ou, James Marks, Susan Ehrlich, Christopher Peabody, Lucas Zier

机构 * University of California, San Francisco（加州大学旧金山分校） ； Zuckerberg San Francisco General Hospital（扎克伯格旧金山总医院） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出通过AI框架优化医院质量改进过程，通过学习LLM提示和自然语言规范，提升质量因素发现的效率与可追溯性，实现人类与AI协同优化。

Comments 34 pages, 8 figures, 6 tables

WebGen-R1: Incentivizing Large Language Models to Generate Functional and Aesthetic Websites with Reinforcement Learning

WebGen-R1: 通过强化学习激励大语言模型生成功能性和美观的网站

Juyong Jiang, Chenglin Cai, Chansung Park, Jiasi Shen, Sunghun Kim, Jianguo Li, Yue Wang

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Tongyi Lab, Alibaba Group（阿里云实验室） ； Electronics and Telecommunications Research Institute（电子电信研究院） ； Ant Group（蚂蚁集团） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出WebGen-R1框架，通过强化学习生成多页面功能性和美观的网站，解决了传统方法在多页面交互和审美评估上的不足。

EmbodiedMidtrain: Bridging the Gap between Vision-Language Models and Vision-Language-Action Models via Mid-training

EmbodiedMidtrain: 通过中训练弥合视觉语言模型与视觉语言动作模型之间的差距

Yiyang Du, Zhanqiu Guo, Xin Ye, Liu Ren, Chenyan Xiong

机构 * Language Technologies Institute, Carnegie Mellon University（卡内基梅隆大学语言技术研究所） ； Bosch Research North America & Bosch Center for Artificial Intelligence (BCAI)（博世北美研究部及博世人工智能中心（BCAI）） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出EmbodiedMidtrain方法，通过中训练弥合视觉语言模型与视觉语言动作模型之间的差距，实验表明中训练能提升不同VLM骨干网络的性能，且在初始化阶段对VLA微调有显著帮助。

Exploring Data Augmentation and Resampling Strategies for Transformer-Based Models to Address Class Imbalance in AI Scoring of Scientific Explanations in NGSS Classroom

探索数据增强和重采样策略以解决基于Transformer模型的AI评分中科学解释类不平衡问题

Prudence Djagba, Kevin Haudek, Clare G. C. Franovic, Leonora Kaldaras

机构 * Michigan State University（密歇根州立大学） ； CREATE for STEM（STEM创新计划） ； University of Houston（休斯顿大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了通过数据增强策略提升Transformer模型对科学解释评分的性能，发现GPT生成数据和ALP方法在处理严重类别不平衡时效果显著，优于传统过采样方法。

Comments Published as a conference paper at NARST 2026

CAST: Achieving Stable LLM-based Text Analysis for Data Analytics

CAST：实现稳定的大语言模型文本分析用于数据分析

Jinxiang Xie, Zihao Li, Wei He, Rui Ding, Shi Han, Dongmei Zhang

机构 * Nanjing University（南京大学） ； Tsinghua University（清华大学） ； Peking University（北京大学） ； Microsoft Research（微软研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 CAST通过算法提示和先思考后发言提升大语言模型在表格数据分析中的输出稳定性，实验表明其在多个基准上表现最佳，稳定性提升达16.2%。

Comments ACL 2026 Findings

LLMs Can Get "Brain Rot": A Pilot Study on Twitter/X

Shuo Xing, Junyuan Hong, Yifan Wang, Runjin Chen, Zhenyu Zhang, Ananth Grama, Zhengzhong Tu, Zhangyang Wang

机构 * Texas A&M University（德克萨斯农工大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Purdue University（普渡大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI

Comments Updated experiments with corrected data