大模型对齐与安全

Multi-LLM Collaboration for Medication Recommendation

多LLM协作用于药物推荐

Huascar Sanchez, Briland Hitaj, Jules Bergmann, Linda Briesemeister

机构 * Computer Science Laboratory, SRI International（SRI国际计算机科学实验室） ； University of Maryland St. Joseph Medical Center（马里兰大学圣约瑟夫医疗中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于LLM化学的多模型协作方法，通过增强互补性、稳定性和校准性，提高药物推荐的可靠性与可信度。

Comments 8 pages, 5 figures, 1 table

STELLA: Guiding Large Language Models for Time Series Forecasting with Semantic Abstractions

STELLA: 通过语义抽象引导大型语言模型进行时间序列预测

Junjie Fan, Hongye Zhao, Linduo Wei, Jiayu Rao, Guijia Li, Jiaxin Yuan, Wenqi Xu, Yong Qi

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 STELLA通过动态语义抽象机制，提升大型语言模型在时间序列预测中的表现，实现更精准的长期和短期预测。

Comments This work has been submitted to the IEEE for possible publication

Rethinking AI Evaluation in Education: The TEACH-AI Framework and Benchmark for Generative AI Assistants

重新思考教育中的AI评估：TEACH-AI框架与生成AI助手的基准测试

Shi Ding, Brian Magerko

机构 * Expressive Machinery Lab（表达性机械实验室） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出TEACH-AI框架，旨在通过多视角重新定义教育中AI的有效性评估，促进包容性和长期影响。

Comments 6 pages, NeurIPS 2025 Responsible Foundation Models Workshop

Aligning with Human Values to Enhance Interaction: An eHMI-Mediated Lane-Changing Negotiation Strategy Using Bayesian Inference

与人类价值观对齐以增强交互：一种使用贝叶斯推理的eHMI介导的变道协商策略

Boyao Peng, Linkun Liu

专题命中 安全评测 ：alignment(abstract)；safety(abstract)

AI总结 本文提出了一种使用贝叶斯推理的eHMI介导变道协商策略，通过善意欺骗提升交互效率和安全性，但同时也揭示了信任崩溃的伦理风险。

InvisibleBench: A Deployment Gate for Caregiving Relationship AI

InvisibleBench：护理关系AI的部署门

Ali Madad

机构 * GiveCare 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 InvisibleBench评估护理关系AI的部署安全性，通过多维度测试揭示模型在危机检测、合规性及创伤导向设计上的差异，强调生产系统中确定性危机路由的重要性。

Comments 29 pages, 3 figures

AssurAI: Experience with Constructing Korean Socio-cultural Datasets to Discover Potential Risks of Generative AI

AssurAI: 韩国社会文化数据集构建经验以发现生成式AI的潜在风险

Chae-Gyun Lim, Seung-Ho Han, EunYoung Byun, Jeongyun Han, Soohyun Cho, Eojin Joo, Heehyeon Kim, Sieun Kim, Juhoon Lee, Hyunsoo Lee, Dongkun Lee, Jonghwan Hyeon, Yechan Hwang, Young-Jun Lee, Kyeongryul Lee, Minhyeong An, Hyunjun Ahn, Jeongwoo Son, Junho Park, Donggyu Yoon, Taehyung Kim, Jeemin Kim, Dasom Choi, Kwangyoung Lee, Hyunseung Lim, Yeohyun Jung, Jongok Hong, Sooyohn Nam, Joonyoung Park, Sungmin Na, Yubin Choi, Jeanne Choi, Yoojin Hong, Sueun Jang, Youngseok Seo, Somin Park, Seoungung Jo, Wonhye Chae, Yeeun Jo, Eunyoung Kim, Joyce Jiyoung Whang, HwaJung Hong, Joseph Seering, Uichin Lee, Juho Kim, Sunna Choi, Seokyeon Ko, Taeho Kim, Kyunghoon Kim, Myungsik Ha, So Jung Lee, Jemin Hwang, JoonHo Kwak, Ho-Jin Choi

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 AssurAI通过构建高质量的韩语多模态数据集，评估生成式AI的安全性，发现潜在风险，促进更安全的AI发展。

Comments 16 pages, HuggingFace: https://huggingface.co/datasets/TTA01/AssurAI

Benchmarking the Trustworthiness in Multimodal LLMs for Video Understanding

对多模态大语言模型在视频理解中的可信度进行基准测试

Youze Wang, Zijun Chen, Ruoyu Chen, Shishen Gu, Wenbo Hu, Jiayang Liu, Yinpeng Dong, Hang Su, Jun Zhu, Meng Wang, Richang Hong

机构 * Hefei University of Technology（合肥工业大学） ； Tsinghua University（清华大学） ； Institute of Science Tokyo（东京科学研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)

AI总结 本研究提出Trust-videoLLMs基准，评估23种视频LLMs在真实性、鲁棒性、安全性和隐私等方面的表现，揭示其在动态场景理解及现实风险缓解中的局限性。

Building Browser Agents: Architecture, Security, and Practical Solutions

构建浏览器代理：架构、安全与实用解决方案

Aram Vardanyan

专题命中 安全评测 ：safety(abstract)；prompt injection(abstract)

AI总结 本文提出通过专用工具和编程约束构建安全浏览器代理，实现85%的成功率。

Comments 30 pages, 22 figures. Production architecture and benchmark evaluation of browser agents

Data Annotation Quality Problems in AI-Enabled Perception System Development

人工智能感知系统开发中的数据标注质量问题

Hina Saeeda, Tommy Johansson, Mazen Mohamad, Eric Knauss

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)

AI总结 本研究通过多组织案例研究，提出了一种涵盖完整性、准确性和一致性的18种标注错误类型分类法，为人工智能感知系统开发中的数据标注质量提供了共享词汇、诊断工具和可操作指导。

StyleDrive: Towards Driving-Style Aware Benchmarking of End-To-End Autonomous Driving

Ruiyang Hao, Bowen Jing, Haibao Yu, Zaiqing Nie

机构 * AIR, Tsinghua University（空气动力学研究所，清华大学） ； King’s College London（伦敦国王学院） ； The University of Manchester（曼彻斯特大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)

Comments 25 pages, 7 figures, 5 tables

MCTSr-Zero: Self-Reflective Psychological Counseling Dialogues Generation via Principles and Adaptive Exploration

Hao Lu, Yanchi Gu, Haoyuan Huang, Yulin Zhou, Ningxin Zhu, Chen Li

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments 48 pages, 3 figures. Accepted in AAAI-2026 (Main Technical Track). For code and model, see this https://github.com/JianChengXingYun/Mctsr-Zero

DSCodeBench: A Realistic Benchmark for Data Science Code Generation

Shuyin Ouyang, Dong Huang, Jingwen Guo, Zeyu Sun, Qihao Zhu, Jie M. Zhang

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)

EduAgentQG: A Multi-Agent Workflow Framework for Personalized Question Generation

Rui Jia, Min Zhang, Fengrui Liu, Bo Jiang, Kun Kuang, Zhongxiang Dai

机构 * East China Normal University（东华大学） ； Shanghai Institute of Al for Education（上海人工智能教育研究院） ； The Chinese University of Hong Kong, Shenzhen School of Data Science（香港中文大学（深圳）数据科学学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

LLM-Driven Robots Risk Enacting Discrimination, Violence, and Unlawful Actions

Andrew Hundt, Rumaisa Azeem, Masoumeh Mansouri, Martim Brandão

机构 * Carnegie Mellon University（卡内基梅隆大学） ； King’s College London（伦敦国王学院） ； University of Birmingham（伯明翰大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments Published in International Journal of Social Robotics (2025). 49 pages (65 with references and appendix), 27 Figures, 8 Tables. Andrew Hundt and Rumaisa Azeem are equal contribution co-first authors. The positions of the two co-first authors were swapped from arxiv version 1 with the written consent of all four authors. The Version of Record is available via DOI: 10.1007/s12369-025-01301-x

Guarding the Meaning: Self-Supervised Training for Semantic Robustness in Guard Models

Cristina Pinneri, Christos Louizos

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

FAIRPLAI: A Human-in-the-Loop Approach to Fair and Private Machine Learning

David Sanchez, Holly Lopez, Michelle Buraczyk, Anantaa Kotal

机构 * Dept. of Computer Science, The University of Texas at El Paso（得克萨斯大学埃尔帕索分校计算机科学系） ； Dept. of Mathematics, Mountain View High School（山景高中数学系） ； Dept. of Mathematics, El Paso Independent School District（埃尔帕索独立学区数学系） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG

Selection of LLM Fine-Tuning Data based on Orthogonal Rules

Xiaomin Li, Mingye Gao, Zhiwei Zhang, Chang Yue, Hong Hu

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

HugAgent: Benchmarking LLMs for Simulation of Individualized Human Reasoning

Chance Jiajie Li, Zhenze Mo, Yuhan Tang, Ao Qu, Jiayi Wu, Kaiya Ivy Zhao, Yulu Gan, Jie Fan, Jiangbo Yu, Hang Jiang, Paul Pu Liang, Jinhua Zhao, Luis Alberto Alonso Pastor, Kent Larson

机构 * MIT Media Lab（MIT媒体实验室） ； MIT EECS（MIT电子工程与计算机科学系） ； MIT BCS（MIT生物科学系） ； MIT IDSS（MIT国际设计系统研究所） ； MIT CEE（MIT土木与环境工程系） ； MIT DUSP（MIT设计学教授职位） ； MIT Architecture（MIT建筑系） ； Northeastern University（东北大学） ； Brown University（布朗大学） ； McGill University（麦吉尔大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments To appear in NeurIPS 2025 Workshop on Bridging Language, Agent, and World Models (LAW)

Watermarking Large Language Models in Europe: Interpreting the AI Act in Light of Technology

Thomas Souverain

机构 * Department of AI Ethics, CEA Paris-Saclay（人工智能伦理系，CEA巴黎萨克雷） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments 17 pages, 2 Tables and 2 Pictures

The Mirror Loop: Recursive Non-Convergence in Generative Reasoning Systems

Bentley DeVilling

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 18 pages, 2 figures. Category: cs.LG. Code and data: https://github.com/Course-Correct-Labs/mirror-loop

A Quantitative Evaluation Framework for Explainable AI in Semantic Segmentation

Reem Hammoud, Abdul Karim Gizzini, Ali J. Ghandour

机构 * American University of Beirut（美国贝鲁特美国大学） ； SogetiLabs Research and Innovation（SogetiLabs研究与创新） ； National Center for Remote Sensing（远程 sensing 国家中心） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)

Delay Tolerant Control for Autonomous Driving Using CDOB

Xincheng Cao, Haochong Chen, Levent Guvenc, Bilin Aksun-Guvenc

专题命中 安全评测 ：alignment(abstract)；safety(abstract)

ProofSketch: Efficient Verified Reasoning for Large Language Models

Disha Sheshanarayana, Tanishka Magar

机构 * Manipal University Jaipur（马普尔大学斋普尔） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted at NeurIPS 2025, ER Workshop

FAITH: A Framework for Assessing Intrinsic Tabular Hallucinations in Finance

Mengao Zhang, Jiayu Fu, Tanya Warrier, Yuwen Wang, Tianhui Tan, Ke-wei Huang

机构 * Asian Institute of Digital Finance, National University of Singapore（亚洲数字金融研究所，新加坡国立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 9 pages, AMC ICAIF'25

Self-Rewarding PPO: Aligning Large Language Models with Demonstrations Only

Qingru Zhang, Liang Qiu, Ilgee Hong, Zhenghao Xu, Tianyi Liu, Shiyang Li, Rongzhi Zhang, Zheng Li, Lihong Li, Bing Yin, Chao Zhang, Jianshu Chen, Haoming Jiang, Tuo Zhao

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Amazon（亚马逊） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted by COLM 2025

Black Box Absorption: LLMs Undermining Innovative Ideas

Wenjun Cao

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG

Beyond One-Way Influence: Bidirectional Opinion Dynamics in Multi-Turn Human-LLM Interactions

Yuyang Jiang, Longjie Guo, Yuchen Wu, Aylin Caliskan, Tanu Mitra, Hua Shen

机构 * University of Chicago（芝加哥大学） ； New York University（纽约大学） ； University of Washington（华盛顿大学） ； New York University Shanghai（纽约大学上海） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments 26 pages, 8 figures

Integrating Transparent Models, LLMs, and Practitioner-in-the-Loop: A Case of Nonprofit Program Evaluation

Ji Ma, Albert Casella

机构 * LBJ School of Public Affairs, The University of Texas at Austin（德克萨斯大学奥斯汀分校劳伦斯·伯克曼公共事务学院） ； Gradel Institute of Charity, University of Oxford（牛津大学格拉德利慈善研究所） ； Michael & Susan Dell Foundation（迈克尔与苏珊·德尔基金会） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG

MLR-Bench: Evaluating AI Agents on Open-Ended Machine Learning Research

Hui Chen, Miao Xiong, Yujie Lu, Wei Han, Ailin Deng, Yufei He, Jiaying Wu, Yibo Li, Yue Liu, Bryan Hooi

机构 * National University of Singapore（新加坡国立大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 49 pages, 9 figures. Accepted by NeurIPS 2025 D&B Track

DeTAILS: Deep Thematic Analysis with Iterative LLM Support

Ansh Sharma, Karen Cochrane, James R. Wallace

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)