University of California, San Diego（加州大学圣迭戈分校）

Beyond Attention: Signed Integrated Gradients Attribution in a BiomeGPT-Style Microbiome Transformer

超越注意力：BiomeGPT式微生物组Transformer中的符号化集成梯度归因

Oren Nelson

机构 * University of California, San Diego（加利福尼亚大学圣迭戈分校） 纠错

AI总结 该研究针对BiomeGPT式微生物组Transformer的注意力权重局限，提出符号化集成梯度归因方法，结合二阶集成海森矩阵，可区分致病与保护性微生物信号，揭示群落相互作用规则，提升模型可解释性

Comments 15 pages, 6 figures. Code: https://github.com/nohren/token-source-attribution

Beyond Routing Weights: Faithful Response-Level Interpretation of Mixture-of-Experts Reward Models via Contribution Contrast

超越路由权重：基于贡献对比的混合专家奖励模型的忠实响应级解释

Yifan Wang, Jinyi Mu, Mayank Jobanputra, Yu Wang, Soyoung Oh, Isabel Valera, Vera Demberg

机构 * Saarland University（萨尔大学） ； University of California San Diego（加利福尼亚大学圣迭戈分校） ； Bielefeld University（比勒费尔德大学） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） ； Max Planck Institute for Informatics（马克斯·普朗克信息学研究所） 纠错

AI总结 针对MoE奖励模型现有路由权重解释的局限性，本文提出CoCo响应级解释方法，经评估其解释质量更优且奖励建模准确率有竞争力，是该领域首个系统研究。