Massachusetts Institute of Technology（麻省理工学院）

Transforming Rank: How Architecture Navigates the Spectral Pathologies of Depth

变换秩：架构如何在深度的谱病态中导航

Katie Everett

机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） 纠错

AI总结 研究Transformer前馈块架构设计组件在初始化时如何确定跨深度的秩保留，通过重新解释跳跃连接和归一化等，揭示架构各方面对秩的影响，将深度网络架构设计视为在秩崩溃、集成行为和参数数量间的权衡。

Comments 40 pages. Code: https://github.com/everettk/transforming-rank-paper

DreamSat-Pose: Spacecraft Pose Estimation from Single-View 3D Reconstructions and Learned 2D-3D Feature Matching

DreamSat-Pose：基于单视图3D重建和学习的2D-3D特征匹配的航天器姿态估计

Josiane Uwumukiza, Jocelyn Zhao, Giovanni Lavezzi, Giacomo Battaglia, Paolo Panicucci, Minduli C. Wijayatunga, Victor Rodriguez-Fernandez, Richard Linares

机构 * Wellesley College（韦尔斯利学院） ； Massachusetts Institute of Technology（麻省理工学院） ； Politecnico di Milano（米兰理工大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Universidad Politécnica de Madrid（马德里理工大学） 纠错

AI总结 针对未知航天器对象，本文提出新框架，先利用冻结的DINOv3提取图像特征、动态图卷积神经网络编码器计算几何特征，再经双流变压器匹配器细化描述符，通过学习2D-3D对应关系估计姿态，在数据集上评估效果良好，泛化能力强。

EXPLORE: Exploration with Guided Search for Analog Topology Generation using Language Models

EXPLORE：使用语言模型进行引导搜索以生成模拟拓扑结构

Guanglei Zhou, Chen-Chia Chang, Yikang Shen, Jonathan Ku, Isaac Jacobson, Jingyu Pan, Yiran Chen, Xin Zhang

机构 * Duke University（杜克大学） ； MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室） ； IBM T. J. Watson Research Center（IBM T. J. 沃森研究中心） 纠错

AI总结 本文针对自动化模拟电路拓扑设计难题，提出EXPLORE框架，集成模拟器引导蒙特卡罗树搜索与基于变压器的解码，利用语言模型先验优化搜索，在6组件基准测试中显著提升成功率、降低均方误差，推动LLM驱动设计自动化。

Comments MLCAD 26' accepted

Learned Pairwise Deep Dual-Optimal Inequalities for Stabilizing Column Generation

用于稳定列生成的学习成对深度对偶最优不等式

Zhengzhong Ricky You, Bo Tang, Haoran Liu, Baichuan Mo

机构 * Department of Civil Engineering, Tsinghua University, Beijing 100084, China（清华大学土木工程系） ； MIT Sloan School of Management, Massachusetts Institute of Technology, 100 Main Street, Cambridge, MA 02142, USA（麻省理工学院斯隆管理学院） ； Department of Industrial and Systems Engineering, University of Florida, Gainesville, FL 32611, USA（佛罗里达大学工业与系统工程系） 纠错

AI总结 研究针对列生成中对偶解不稳定问题，提出学习成对深度对偶最优不等式框架，通过预测对偶变量排序、构建训练标签、后处理及恢复过程，在车辆路由问题测试集上大幅减少CG时间且保证边界无损失。

Comments 35 pages, 3 figures, and 12 tables; online appendix included