医学 AI

A Patient Simulation Framework for Risk Assessment of Conversational Healthcare AI: Evaluation of an Antidepressant Decision Aid

通过患者模拟推进AI可信度：对抗抑郁药物选择的对话代理风险评估

Md Tanvir Rouf Shawon, Mohammad Sabik Irbaz, Hadeel R. A. Elyazori, Keerti Reddy Resapu, Yili Lin, Vladimir Franzuela Cardenas, K. Pierre Eklou, Farrokh Alemi, Kevin Lybarger

机构 * George Mason University (GMU)（乔治梅森大学） 纠错

专题命中 临床大模型 ：healthcare AI(title)；clinical AI(abstract)

AI总结 本文提出一个患者模拟器用于评估医疗对话代理的可扩展自动化评估，通过系统变化医疗、语言和行为维度支持风险评估。方法基于NIST AI风险管理框架，整合医疗、语言和行为三种profile，评估AI决策辅助在抗抑郁药物选择中的表现。

X-FEMR: A Token-level Explainable Approach for Electronic Health Records Foundation Models using Transformer-based Models

X-FEMR：一种使用基于Transformer的模型对电子健康记录基础模型进行令牌级可解释的方法

Jie Huang, Pengfei Yin, Zihan Xu, Daniel Capurro, Mike Conway, Ting Dang

机构 * School of Computing and Information Systems, University of Melbourne（墨尔本大学计算与信息系统学院） ； Royal Melbourne Hospital（皇家墨尔本医院） 纠错

专题命中 临床大模型 ：clinical AI(abstract)；分类 cs.LG

AI总结 针对电子健康记录基础模型是黑箱模型的问题，提出基于Transformer的令牌级可解释性方法，训练替代模型近似其行为，识别有影响力令牌，引入临床对齐度量，结果显示该方法能实现可解释且可信的临床人工智能。

Comments Accepted by IJCAI-ECAI 2026 AI and Health Track