大模型对齐与安全

Can "AI" Be a Doctor? A Study of Empathy, Readability, and Alignment in Clinical LLMs

AI能成为医生吗？对临床LLM中共情、可读性和对齐性的研究

Mariano Barone, Francesco Di Serio, Roberto Moio, Marco Postiglione, Giuseppe Riccio, Antonio Romano, Vincenzo Moscato

机构 * Department of Electrical Engineering and Information Technology（电子工程与信息科技系） ； University of Naples Federico II（那不勒斯费德里科二世大学） ； Department of Translational Medical Sciences（转化医学科学系） ； University of Campania ”Luigi Vanvitelli”（坎帕尼亚“路易吉·范维蒂利”大学） ； Department of Computer Science, McCormick School of Engineering and Applied Science（计算机科学系，麦科马克工程与应用科学学院） ； Northwestern University（西北大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了临床LLM在共情、可读性和对齐性方面的表现，发现协作重写能显著提升对齐效果，但LLM仍无法超越医生的临床专业性。

Beyond Task Success: An Evidence-Synthesis Framework for Evaluating, Governing, and Orchestrating Agentic AI

超越任务成功：一个证据综合框架用于评估、治理和协调智能体AI

Christopher Koch, Joshua Andreas Wellbrock

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)

AI总结 本文提出一个证据综合框架，解决评估、治理和协调智能体AI中的治理到行动闭合缺口，通过四个层次框架、ODTA运行时测试和最小行动证据包，整合现有证据以提升可信度。

Comments 8 pages, 1 figure, 4 tables

Hidden Reliability Risks in Large Language Models: Systematic Identification of Precision-Induced Output Disagreements

大语言模型中的隐藏可靠性风险：系统性识别精度诱导的输出分歧

Yifei Wang, Tianlin Li, Xiaohan Zhang, Xiaoyu Zhang, Wei Ma, Mingfei Cheng, Li Pan

机构 * Shanghai Jiao Tong University（上海交通大学） ； Beihang University（北航） ； Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理学院） 纠错

专题命中 安全评测 ：alignment(abstract)；jailbreak(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出PrecisionDiff框架，用于系统检测大语言模型在不同精度下的行为分歧，通过生成精度敏感测试输入并进行跨精度比较分析，揭示传统方法难以发现的细微差异，实验表明此类分歧在多个开源对齐LLM中普遍存在，PrecisionDiff在检测此类问题上表现优异。

Comments 12 pages, 5 figures

CircuChain: Disentangling Competence and Compliance in LLM Circuit Analysis

CircuChain: 解构LLM电路分析中的能力与合规性

Mayank Ravishankara

机构 * Independent Researcher（独立研究员） ； San Francisco, CA, USA（美国加州旧金山） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 CircuChain通过设计控制/陷阱问题对，评估LLM在电路分析中遵循指令与物理推理能力的差异，揭示模型能力与约束对齐的不足。

Development and Preliminary Evaluation of a Domain-Specific Large Language Model for Tuberculosis Care in South Africa

针对南非结核病护理的领域专用大型语言模型的开发与初步评估

Thokozile Khosa, Olawande Daramola

机构 * University of Pretoria（南非大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种专门用于南非结核病护理的大型语言模型，通过量化低秩适应算法和图检索生成技术，提升了模型在结核病领域的上下文对齐能力。

Comments 12 pages, 2 figures, ICICT 2026 Conference

MedSkillAudit: A Domain-Specific Audit Framework for Medical Research Agent Skills

MedSkillAudit：一种面向医学研究代理技能的领域特定审计框架

Yingyong Hou, Xinyuan Lao, Huimei Wang, Qianyu Yao, Wei Chen, Bocheng Huang, Fei Sun, Yuxian Lv, Weiqi Lei, Xueqian Wen, Pengfei Xia, Zhujun Tan, Shengyang Xie

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出MedSkillAudit框架，用于评估医学研究代理技能的可靠性，通过专家评审和统计指标验证其有效性，为医学研究代理技能的治理提供实践基础。

Comments 20 pages, 9 figures, 1 graphic abstract, 4 tables

Graph2Counsel: Clinically Grounded Synthetic Counseling Dialogue Generation from Client Psychological Graphs

Graph2Counsel: 从客户端心理图谱生成临床导向的合成咨询对话

Aishik Mandal, Hiba Arnaout, Clarissa W. Ong, Juliet Bockhorst, Kate Sheehan, Rachael Moldow, Tanmoy Chakraborty, Iryna Gurevych

机构 * UKP Lab, Department of Computer Science and Hessian Center for AI (hessian.AI), Technische Universität Darmstadt（德国达姆施塔特技术大学UKP实验室、计算机科学系和海森人工智能中心（hessian.AI）） ； Zuse School ELIZA（Zuse学院ELIZA） ； National Research Center for Applied Cybersecurity ATHENE（应用网络安全国家研究中心ATHENE） ； Indian Institute of Technology Delhi（印度德里理工学院） ； Yardi School of Artificial Intelligence（Yardi人工智能学院） ； University of Louisville（路易斯维尔大学） ； University of Toledo（托莱多大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出Graph2Counsel框架，通过客户端心理图谱生成合成咨询对话，提升数据真实性与质量，实验表明其在特定性、咨询师能力等方面优于现有数据集。

Comments 49 pages, 46 figures, 11 tables

What Makes a Good AI Review? Concern-Level Diagnostics for AI Peer Review

什么使一个好的AI评审？针对AI同行评审的关切层面诊断

Ming Jin

机构 * Bradley Department of Electrical & Computer Engineering（布拉德利电气与计算机工程系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出关切对齐框架，通过关切层面分析评估AI评审质量，发现校准常是关键约束，而非单纯检测。

Large Language Models Meet Biomedical Knowledge Graphs for Mechanistically Grounded Therapeutic Prioritization

大型语言模型与生物医学知识图谱结合用于机制性指导的治疗优先级排序

Chih-Hsuan Wei, Chi-Ping Day, Zhizheng Wang, Christine C. Alewine, Betty Tyler, Hasan Slika, David Saraf, Chin-Hsien Tai, Joey Chan, Robert Leaman, Zhiyong Lu

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出DrugKLM框架，结合生物医学知识图谱与大语言模型的机制推理，提升治疗优先级排序的准确性与生物学依据。

Comments 24 pages, 5 figures in main text

Beyond Rating: A Comprehensive Evaluation and Benchmark for AI Reviews

超越评分：AI评论的全面评估与基准

Bowen Li, Haochen Ma, Yuxin Wang, Jie Yang, Yining Zheng, Xinchi Chen, Xuanjing Huang, Xipeng Qiu

机构 * College of Computer Science and Artificial Intelligence, Fudan University, Shanghai, China（复旦大学计算机科学与人工智能学院） ； Shanghai Innovation Institute, Shanghai, China（上海创新研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Beyond Rating框架，通过五个维度评估AI评论，引入Max-Recall策略和高质量数据集，证明文本中心指标与评分准确性的强相关性。

Comments 38 pages,8 figures,4 tables

RAG-KT: Cross-platform Explainable Knowledge Tracing with Multi-view Fusion Retrieval Generation

RAG-KT: 跨平台可解释知识追踪的多视图融合检索生成

Zhiyi Duan, Hongyu Yuan, Rui Liu

机构 * Inner Mongolia University（内蒙古大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 RAG-KT通过多视图融合检索生成技术，解决传统知识追踪模型在跨平台迁移和解释性上的不足，提升准确性和鲁棒性。

TaxPraBen: A Scalable Benchmark for Structured Evaluation of LLMs in Chinese Real-World Tax Practice

TaxPraBen：一种可扩展的基准，用于评估LLM在中文实际税收实践中的结构化表现

Gang Hu, Yating Chen, Haiyan Ding, Wang Gao, Jiajia Huang, Min Peng, Qianqian Xie, Kun Yue

机构 * Yunnan University（云南大学） ； Wuhan University（武汉大学） ； Jianghan University（江汉大学） ； Nanjing Audit University（南京审计大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出TaxPraBen，首个专注于中文税收实践的基准，结合10项传统任务和3项创新场景，评估19种LLM在税收实践中的表现，揭示封闭源大参数LLM和中文LLM的优势。

Journal ref ACL 2026 Main Conference

Context Attribution with Multi-Armed Bandit Optimization

基于多臂老虎机优化的上下文归因

Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

机构 * Lucy Family Institute for Data & Society, University of Notre Dame（数据与社会学院卢西家庭研究所，圣约翰大学） ； Department of Computer Science & Engineering, University of Notre Dame（计算机科学与工程系，圣约翰大学） ； IBM Research（IBM研究院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种将上下文归因问题建模为组合多臂老虎机问题的框架，利用线性汤普森采样高效识别关键上下文片段，减少模型查询次数，实验表明在多个问答基准上实现30%的查询减少同时保持归因质量。

Comments Accepted as a Findings paper at ACL 2026

A Survey of Scaling in Large Language Model Reasoning

大型语言模型推理中的扩展综述

Zihan Chen, Song Wang, Zhen Tan, Xingbo Fu, Zhenyu Lei, Peng Wang, Huan Liu, Cong Shen, Jundong Li

机构 * University of Virginia（弗吉尼亚大学） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文综述了大型语言模型推理中的扩展策略，分析了输入规模、推理步骤、推理轮次和训练增强推理等不同维度，探讨了如何通过不同扩展策略提升推理能力，并展望了未来发展方向。

ONOTE: Benchmarking Omnimodal Notation Processing for Expert-level Music Intelligence

ONOTE：面向专家级音乐智能的多模态记谱处理基准测试

Menghe Ma, Siqing Wei, Yuecheng Xing, Yaheng Wang, Fanhong Meng, Peijun Han, Luu Anh Tuan, Haoran Luo

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出ONOTE基准测试，通过确定性流程消除记谱系统偏差，揭示多模态模型在感知准确性和音乐理论理解间的根本分歧。

Comments 12 pages, 8 figures

Auto-ART: Structured Literature Synthesis and Automated Adversarial Robustness Testing

Auto-ART：结构化文献综合与自动化对抗鲁棒性测试

Abhijit Talluri

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出Auto-ART框架，通过结构化文献综合和自动化对抗鲁棒性测试，填补了领域内的知识空白，实现了多规范评估和合规性映射。

Comments NeurIPS 2026 Evaluations and Datasets Track Submission

CCTVBench: Contrastive Consistency Traffic VideoQA Benchmark for Multimodal LLMs

CCTVBench：用于多模态大语言模型的对比一致性交通视频问答基准

Xingcheng Zhou, Hao Guo, Rui Song, Walter Zimmer, Mingyu Liu, André Schamschurko, Hu Cao, Alois Knoll

机构 * Technical University of Munich（慕尼黑技术大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 CCTVBench通过真实事故视频与世界模型生成的反事实场景配对，提出对比一致性评估方法，揭示视频问答中对比一致性与标准指标间的显著差距，并引入C-TCD方法提升问答与一致性性能。

SurgCoT: Advancing Spatiotemporal Reasoning in Surgical Videos through a Chain-of-Thought Benchmark

SurgCoT：通过链式推理基准提升手术视频中的时空推理

Gui Wang, YongSong Zhou, Kaijun Deng, Wooi Ping Cheah, Rong Qu, Jianfeng Ren, Linlin Shen

机构 * School of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机科学与软件工程学院） ； University of Nottingham（诺丁汉大学） ； School of AI, Shenzhen University（深圳大学人工智能学院） ； Guangdong Provincial Key Laboratory of Intelligent Information Processing, Shenzhen University（广东省智能信息处理重点实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 SurgCoT通过统一的链式推理框架评估多模态大语言模型在7个外科领域35种手术中的时空推理能力，揭示了商业模型在手术推理中的优势及现有模型的不足。

Comments Accept by CVPR2026

Indic-CodecFake meets SATYAM: Towards Detecting Neural Audio Codec Synthesized Speech Deepfakes in Indic Languages

Indic-CodecFake meets SATYAM：迈向检测印度语言神经音频编解码器合成语音深度伪造

Girish, Mohd Mujtaba Akhtar, Orchid Chetia Phukan, Arun Balaji Buduru

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出Indic-CodecFake数据集，用于检测印度语言中神经音频编解码器合成语音深度伪造，发现现有检测器在印度语音上表现不佳，并提出SATYAM模型以提升性能。

Comments Accepted to ACL 2026

Statistical Software Engineering with Tuned Variables

基于调优变量的统计软件工程

Nimrod Busany

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出将统计软件工程中的治理空间作为核心对象，强调在变化环境中通过调优变量维持程序质量与安全性的方法。

Comments 3 pages, position paper

Air-Know: Arbiter-Calibrated Knowledge-Internalizing Robust Network for Composed Image Retrieval

Air-Know: 基于仲裁校准的知识内化鲁棒网络用于组合图像检索

Zhiheng Fu, Yupeng Hu, Qianyun Yang, Shiqi Zhang, Zhiwei Chen, Zixu Li

机构 * Shandong University（山东大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对组合图像检索中噪声三元组对应问题，Air-Know提出专家-代理-分流解耦范式，通过外部先验仲裁、专家知识内化和双流协调模块，提升鲁棒性和检索性能。

Comments Accepted by CVPR 2026