SageBwd: A Trainable Low-bit Attention
SageBwd: 一种可训练的低比特注意力
机构 * Tsinghua University（清华大学） ； UC Berkeley（伯克利大学）
AI总结 SageBwd通过降低比特数实现高效的注意力机制，通过理论分析和实验发现QK-范数和K-平滑对训练稳定性至关重要，从而在预训练中实现与全精度注意力的性能匹配。
高校专区
University of California, Berkeley（加州大学伯克利分校）
Strategic Advice in the Age of Personal AI
个人AI时代的战略建议
机构 * Jones Graduate School of Business, Rice University（里士满大学杰斯研究生商学院） ； Haas School of Business, University of California, Berkeley（加州大学伯克利分校哈斯商学院）
AI总结 研究个人AI在战略建议中的影响，分析其对顾问表现和信任机制的非单调效应。
Generative Models for Crystalline Materials
晶体材料的生成模型
机构 * Institute of Nanotechnology, Karlsruhe Institute of Technology（卡尔斯鲁厄理工大学纳米技术研究所） ； Institute of Anthropomatics and Robotics, Karlsruhe Institute of Technology（卡尔斯鲁厄理工大学人机学与机器人研究所） ； Department of Materials Science and Engineering, University of California, Berkeley（加州大学伯克利分校材料科学与工程系） ； Materials Sciences Division, Lawrence Berkeley National Laboratory（伯克利国家实验室材料科学部）
AI总结 本文综述了生成模型在晶体结构预测和从头生成中的应用，探讨了晶体表示、生成模型、实验评估及新兴挑战，为材料设计提供指导。
Training Dynamics of Softmax Self-Attention: Fast Global Convergence via Preconditioning
softmax自注意力层的训练动态：通过预条件实现快速全局收敛
机构 * Simons Institute, UC Berkeley（西蒙斯研究所，伯克利大学） ； Department of Electrical and Computer Engineering, University of Southern California（电气与计算机工程系，南加州大学）
AI总结 本文提出了一种结构感知的梯度下降算法，通过预条件和谱初始化实现softmax自注意力层在有限数据下的快速全局收敛。
D-REX: Differentiable Real-to-Sim-to-Real Engine for Learning Dexterous Grasping
D-REX：用于学习灵巧抓取的可微现实到仿真到现实引擎
机构 * Physical Superintelligence (PSI) Lab, University of Southern California（南加州大学物理超智能实验室） ； Viterbi School of Engineering, University of Southern California（南加州大学韦伯尔工程学院） ； Department of EECS, University of California, Berkeley（加州大学伯克利分校电子工程与计算机科学系）
AI总结 D-REX通过可微引擎实现现实到仿真到现实的抓取学习，利用高斯点表示自动构建数字双胞胎并优化质量识别，从而提升抓取策略的力感知性能。
Comments ICLR 2026 Poster
How Do LLMs Use Their Depth?
大语言模型如何利用其深度？
机构 * University of California Berkeley（加州大学伯克利分校） ； Georgia Institute of Technology（佐治亚理工学院）
AI总结 本文研究了大语言模型如何利用深度进行预测，提出'猜测-然后细化'框架，揭示了层间计算动态及深度使用机制。
Reliable Fine-Grained Evaluation of Natural Language Math Proofs
自然语言数学证明的可靠细粒度评估
机构 * UC Berkeley（加州大学伯克利分校） ； Google DeepMind（谷歌DeepMind） ； Peking University（北京大学） ； Allen Institute for AI（人工智能研究院）
AI总结 本研究提出ProofGrader，通过结合强推理模型、丰富上下文和简单集成方法，实现对LLM生成数学证明的细粒度评估，有效提升证明生成任务的可靠性。
Comments 40 pages, 7 figures, 15 tables
Emergence of Superposition: Unveiling the Training Dynamics of Chain of Continuous Thought
连续思维的涌现：揭示连续思维链的训练动态
机构 * UC Berkeley（加州大学伯克利分校） ； UCSD（加州大学圣地亚哥分校） ； Nvidia（英伟达） ； Meta AI
AI总结 本文通过分析两层Transformer在有向图可达性问题上的训练动态，揭示了连续思维链中叠加机制如何在训练过程中通过自回归扩展思维和预测阶段自然产生。
Comments 32 pages, 9 figures, accepted by ICLR 2026
AgentSynth: Scalable Task Generation for Generalist Computer-Use Agents
AgentSynth: 通用计算机使用代理的可扩展任务生成
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 AgentSynth通过生成多样化任务和轨迹数据集，提升通用计算机使用代理的训练效率和性能评估的准确性。
Comments ICLR 2026
Robust Finetuning of Vision-Language-Action Robot Policies via Parameter Merging
通过参数合并实现视觉-语言-动作机器人策略的鲁棒微调
机构 * UC Berkeley（伯克利大学）
AI总结 通过参数合并实现视觉-语言-动作机器人策略的鲁棒微调，使策略在保持泛化能力的同时有效学习新技能。
Journal ref The Fourteenth International Conference on Learning Representations 2026
Design and Control of a Compact Series Elastic Actuator Module for Robots in MRI Scanners
为MRI扫描仪中的机器人设计和控制紧凑型串联弹性执行器模块
机构 * Department of Electrical Engineering and Computer Sciences, University of California, Berkeley（电气工程与计算机科学系，加州大学伯克利分校） ； Department of Mechanical, Aerospace, and Industrial Engineering, The University of Texas at San Antonio（机械、航空航天与工业工程系，德克萨斯大学圣安东尼奥分校） ； Department of Mechanical Engineering, University of California, Berkeley（机械工程系，加州大学伯克利分校）
AI总结 本文提出了一种适用于MRI扫描仪的紧凑型串联弹性执行器模块，采用速度源超声电机和扰动观测器控制器，实现了在MRI环境下的高精度扭矩控制。
