多模态大模型

Addressing Variable Heterogeneity in Distributed Multimodal Training with Entrain

解决分布式多模态训练中的变量异构性问题：Entrain

Insu Jang, Mosharaf Chowdhury

专题命中 其他多模态 ：multimodal(title,abstract)；MLLM(abstract)

AI总结 提出Entrain框架，通过宏观批次的静态模型并行配置和层次化微批次分配算法，解决多模态大语言模型训练中的数据异构性和变量波动，提升吞吐量达1.40倍。

Beyond External Monitors: Enhancing Transparency of Large Language Models for Easier Monitoring

超越外部监控：增强大型语言模型的透明度以便于监控

Guanxu Chen, Jing Shao, Tao Luo, Lijie Hu, Qihao Lin, Dongrui Liu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； ICISEE, Shanghai Jiao Tong University（上海交通大学ICISEE） ； School of Mathematical Sciences, Institute of Natural Sciences, MOE-LSC, CMA-Shanghai, Shanghai Jiao Tong University（上海交通大学数学科学学院） ； King Abdullah University of Science and Technology（卡塔尔国王 Abdullah 科学与技术大学） 纠错

专题命中 其他多模态 ：multimodal(abstract)；分类 cs.CV、cs.CL、cs.AI

AI总结 提出TELLME方法，通过改进大型语言模型的内部表征透明度，帮助监控者识别不当和敏感行为，并在去毒化任务中验证其有效性。

Comments 28 pages,8 figures,15 tables

From Prediction to Intervention: The Evolution of AI in Biomedicine

从预测到干预：人工智能在生物医学中的演进

Andrew Feinberg, Aleksandr Sarachakov, Viktor Svekolkin, Alexander Bagaev, Ferran Prat, Michael Feinberg

机构 * BostonGene Corporation（波士顿基因公司） 纠错

专题命中 其他多模态 ：multimodal(abstract)；分类 cs.AI

AI总结 本文提出生物医学AI正从基于历史数据的预测范式转向能够模拟干预效果的干预智能，通过定义疾病级模型实现从推理到仿真的转变，以支持新型疗法和未观测干预下的决策。

Comments 10 pages, 3 figures, 1 table. Figures were replaced with a better versions