Massachusetts Institute of Technology（麻省理工学院）

Attractor Geometry of Transformer Memory: From Conflict Arbitration to Confident Hallucination

Transformer记忆的吸引子几何：从冲突仲裁到自信 hallucination

Qiyao Liang, Risto Miikkulainen, Ila Fiete

机构 * Massachusetts Institute of Technology（麻省理工学院） ； University of Texas Austin（德克萨斯大学奥斯汀分校） ； Cognizant（Cognizant公司） 纠错

AI总结 研究Transformer记忆中冲突与hallucination的几何机制，揭示吸引子基底在隐藏状态空间中的作用，通过合成任务验证几何边界在区分正确回忆与hallucination中的有效性。

Comments Inadvertent premature posting before full approval of all listed co-authors

Xray-Visual Models: Scaling Vision models on Industry Scale Data

Xray-Visual模型：在产业级数据上扩展视觉模型

Shlok Mishra, Tsung-Yu Lin, Linda Wang, Hongli Xu, Yimin Liu, Michael Hsu, Chaitanya Ahuja, Hao Yuan, Jianpeng Cheng, Hong-You Chen, Haoyuan Xu, Chao Li, Sreya Dutta Roy, Abhijeet Awasthi, Jihye Moon, Don Husa, Michael Ge, Sumedha Singla, Arkabandhu Chowdhury, Phong Dingh, Satya Narayan Shukla, Yonghuan Yang, David Jacobs, Qi Guo, Jun Xiao, Xiangjun Fan, Aashu Singh

机构 * Meta-AI ； MIT（麻省理工学院） ； University of Maryland（马里兰大学） 纠错

AI总结 Xray-Visual通过三阶段训练流程和LLM2CLIP技术，在产业级数据上实现高效多模态视觉模型，取得最佳性能并提升鲁棒性与泛化能力。

Evolution Strategies at Scale: LLM Fine-Tuning Beyond Reinforcement Learning

大规模进化策略：超越强化学习的LLM微调

Xin Qiu, Yulu Gan, Conor F. Hayes, Qiyao Liang, Yinggan Xu, Roberto Dailey, Elliot Meyerson, Babak Hodjat, Risto Miikkulainen

机构 * University of California, Los Angeles, Los Angeles, CA, USA（加州大学洛杉矶分校） ； Cognizant AI Lab, San Francisco, CA, USA（Cognizant AI实验室） ； The University of Texas at Austin, Austin, TX, USA（德克萨斯大学奥斯汀分校） ； Massachusetts Institute of Technology, Cambridge, MA, USA（麻省理工学院） 纠错

AI总结 本文提出使用进化策略进行大规模LLM微调，证明其在多个方面优于强化学习，为LLM微调提供了新的方法。

Comments Published at ICML 2026 main conference

First, do NOHARM: a medical safety benchmark and randomized study of physician and AI teaming on clinical consultations

首先，不伤害：迈向临床安全的大语言模型

David Wu, Fateme Nateghi Haredasht, Saloni Kumar Maharaj, Priyank Jain, Jessica Tran, Matthew Gwiazdon, Arjun Rustagi, Jenelle Jindal, Jacob M. Koshy, Vinay Kadiyala, Anup Agarwal, Bassman Tappuni, Brianna French, Sirus Jesudasen, Christopher V. Cosgriff, Rebanta Chakraborty, Jillian Caldwell, Susan Ziolkowski, David J. Iberri, Robert Diep, Rahul S. Dalal, Kira L. Newman, Kristin Galetta, J. Carl Pallais, Nancy Wei, Kathleen M. Buchheit, David I. Hong, Vartan Pahalyants, Ernest Y. Lee, Allen Shih, Tamara B. Kaplan, Vishnu Ravi, Sarita Khemani, Thomas A. Buckley, April S. Liang, Daniel Shirvani, Advait Patil, Nicholas Marshall, Kanav Chopra, Joel Koh, Adi Badhwar, Anastasia Perez, Austin J. Schoeffler, Mahbuba Tusty, Chase M. Walton, Liam G. McCoy, David J. H. Wu, Yingjie Weng, Sumant Ranji, Kevin Schulman, Nigam H. Shah, Jason Hom, Arnold Milstein, Arjun K. Manrai, Adam Rodman, Jonathan H. Chen, Ethan Goh

机构 * Harvard Combined Dermatology Program（哈佛联合皮肤科项目） ； Department of Dermatology, Mass General Brigham（麻省总医院皮肤科） ； Harvard Medical School（哈佛医学院） ； Stanford Center for Biomedical Informatics Research（斯坦福生物医学信息学研究中心） ； Stanford University（斯坦福大学） ； Division of Hospital Medicine, Department of Medicine, Stanford University School of Medicine（斯坦福大学医学院医院医学科） ； Department of Medicine, Cambridge Health Alliance（剑桥健康联盟医学科） ； Beth Israel Deaconess Hospital–Plymouth（贝塞斯达德acons医院-普利茅斯） ； Department of Medicine, University of California, San Francisco（加州大学旧金山分校医学科） ； Department of Neurology, Stanford University School of Medicine（斯坦福大学医学院神经科） ； Department of Medicine, Beth Israel Deaconess Medical Center（贝塞斯达德acons医学中心医学科） ； Division of Cardiology, Department of Medicine, Cambridge Health Alliance（剑桥健康联盟心脏病科） ； Department of Cardiovascular Medicine, Summa Health System（Summa健康系统心血管医学科） ； Division of Allergy, Pulmonary, and Critical Care Medicine, Department of Medicine, University of Wisconsin-Madison（威斯康星大学麦迪逊分校医学科过敏、呼吸科和危重医学科） ； Division of Pulmonary and Critical Care Medicine, Department of Medicine, Massachusetts General Hospital（麻省总医院呼吸科和危重医学科） ； Center for Immunology and Inflammatory Diseases, Department of Medicine, Massachusetts General Hospital（麻省总医院免疫和炎症疾病中心） ； Broad Institute of MIT and Harvard（MIT和哈佛Broad研究所） ； Division of Pulmonary, Critical Care, and Sleep Medicine, Cambridge Health Alliance（剑桥健康联盟呼吸科、危重医学科和睡眠医学科） 纠错

AI总结 提出NOHARM基准，包含1100个初级到专科咨询案例，评估28个LLM的医疗建议安全性，发现高达22.6%的案例存在严重危害风险，其中遗漏错误占80%以上。