University of California, Berkeley（加州大学伯克利分校）

Improved high-dimensional estimation with Langevin dynamics and stochastic weight averaging

改进的高维估计与 Langevin 动力学和随机权重平均

Stanley Wei, Alex Damian, Jason D. Lee

机构 * Princeton University（普林斯顿大学） ； Harvard University（哈佛大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 本文提出利用 Langevin 动力学和迭代平均来改进高维估计，证明在不显式平滑的情况下，Langevin 动力学可在n≈d^{k*/2}样本下成功恢复隐藏方向。

Sparse Crosscoders for diffing MoEs and Dense models

稀疏交叉编码器用于比较MoE和密集模型

Marmik Chaudhari, Nishkal Hundia, Idhant Gulati

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Maryland（马里兰大学） 纠错

AI总结 本文通过交叉编码器比较MoE和密集模型的内部表示，发现MoE学习更专门的特征，而密集模型则分布更广泛的信息。

Comments 5 pages, 3 figures

The Fragility Of Moral Judgment In Large Language Models

大语言模型中道德判断的脆弱性

Tom van Nuenen, Pratik S. Sachdeva

机构 * D-Lab, University of California, Berkeley（加州大学伯克利分校D实验室） 纠错

AI总结 研究揭示大语言模型在道德判断中易受叙述形式和任务支架影响，其稳定性受协议和视角变化显著影响。

Comments 22 pages, 7 figures, 10 tables, plus appendices

Towards Autonomous Mathematics Research

迈向自主数学研究

Tony Feng, Trieu H. Trinh, Garrett Bingham, Dawsen Hwang, Yuri Chervonyi, Junehyuk Jung, Joonkyung Lee, Carlo Pagano, Sang-hyun Kim, Federico Pasqualotto, Sergei Gukov, Jonathan N. Lee, Junsu Kim, Kaiying Hou, Golnaz Ghiasi, Yi Tay, YaGuang Li, Chenkai Kuang, Yuan Liu, Hanzhao Lin, Evan Zheran Liu, Nigamaa Nayakanti, Xiaomeng Yang, Heng-Tze Cheng, Demis Hassabis, Koray Kavukcuoglu, Quoc V. Le, Thang Luong

机构 * UC Berkeley（伯克利大学） ； Brown University（布朗大学） ； Yonsei University（延世大学） ； Concordia University（Concordia 大学） ； Korea Institute for Advanced Study（韩国高级研究院） ； UC San Diego（圣地亚哥大学） ； Caltech（加州理工学院） 纠错

AI总结 Aletheia是一个能够自主生成、验证和修订数学解决方案的代理，展示了AI在数学研究中的应用，包括生成研究论文和解决开放问题。

Comments 42 pages, updated with summary of FirstProof results. Accompanied blog post https://deepmind.google/blog/accelerating-mathematical-and-scientific-discovery-with-gemini-deep-think/