University of Michigan（密歇根大学安娜堡分校）

ForcingDAS: Unified and Robust Data Assimilation via Diffusion Forcing

通过扩散强迫实现统一且稳健的数据同化：ForcingDAS

Yixuan Jia, Siyi Chen, Yida Pan, Xiao Li, Lianghe Shi, Chanyong Jung, Haijie Yuan, Ismail Alkhouri, Yue Cynthia Wu, Saiprasad Ravishankar, Jeffrey A Fessler, Qing Qu

机构 * University of Michigan（密歇根大学） ； University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； Massachusetts Institute of Technology（麻省理工学院） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

AI总结 本文提出ForcingDAS，一种基于扩散强迫的统一数据同化框架，能够捕捉长时序依赖并减少误差积累，同时在推理时无需重新训练即可实现滤波到平滑的全谱应用。

Perplexity Can Miss SAE Feature Damage Under Quantization

量化如何改变可解释特征：语言模型的稀疏自编码器分析

Evan Duan

机构 * University of Michigan（密歇根大学） 纠错

AI总结 通过稀疏自编码器分析，发现量化导致语言模型中的可解释特征逐渐退化，且任务指标无法完全反映这种损伤，量化与幅度剪枝共享相似的损伤模式。

Comments 12 Pages of Content, Submitted to TMLR

Expanding Spatial and Temporal Context for Robotic Imitation Learning With Scene Graphs

利用场景图扩展机器人模仿学习的时空上下文

Jianing Qian, Qinhe Peng, Emmanuel Panov, Leonor Fermoselle, Dinesh Jayaraman, Bernadette Bucher, Tarik Kelestemur

机构 * University of Pennsylvania（宾夕法尼亚大学） ； RAI Institute（RAI研究院） ； University of Michigan（密歇根大学） 纠错

AI总结 提出使用场景图作为显式结构化记忆机制，通过动态维护对象中心关系及其时间演化，解决机器人模仿学习中的部分可观测性和长时推理问题。

Latent Geometry Beyond Search: Amortizing Planning in World Models

超越搜索的潜在几何：在世界模型中摊销规划

Hoang Nguyen, Xiaohao Xu, Xiaonan Huang

机构 * Department of Robotics, University of Michigan, Ann Arbor（密歇根大学机器人系，安阿伯） 纠错

AI总结 提出在正则化潜在几何下，将规划摊销为潜在逆动力学映射，以轻量级GC-IDM替代在线搜索，在七个环境协议中匹配或超越CEM，决策成本降低100-130倍。

Comments 31 pages

Attention Sink in Transformers: A Survey on Utilization, Interpretation, and Mitigation

Transformer中的注意力汇聚：利用、解释与缓解综述

Zunhai Su, Hengyuan Zhang, Wei Wu, Yifan Zhang, Yaxiu Liu, He Xiao, Qingyao Yang, Yuxuan Sun, Rui Yang, Chao Zhang, Jing Xiong, Hui Shen, Keyu Fan, Weihao Ye, Chaofan Tao, Taiqiang Wu, Zhongwei Wan, Tiantian Zhang, Bowen Yan, Zhen Li, Yiming Zhang, Congkai Xie, Yulei Qian, Yuchen Xie, Yik-Chung Wu, Hongxia Yang, Ngai Wong

机构 * Tsinghua University（清华大学） ； Meituan LongCat Team（美团LongCat团队） ； The University of Hong Kong（香港大学） ； University of Michigan（密歇根大学） ； Xiamen University（厦门大学） ； The Ohio State University（俄亥俄州立大学） ； Columbia University（哥伦比亚大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

AI总结 本文首次系统综述Transformer中的注意力汇聚现象，从基础利用、机制解释和策略缓解三个维度梳理研究现状，为未来研究提供指导。

MACD: Model-Aware Contrastive Decoding via Counterfactual Data

MACD：基于反事实数据的模型感知对比解码

Qixin Xiao, Kun Zhou

机构 * University of Michigan, Ann Arbor, MI, USA（密歇根大学，安娜堡分校） ； University of California San Diego, La Jolla, CA, USA（加州大学圣地亚哥分校） 纠错

AI总结 提出MACD方法，利用视频语言模型自身反馈识别导致幻觉的目标区域，生成目标级反事实输入，结合对比解码减少幻觉，提升多模型在复杂场景下的准确性。

Unsupervised Learning Based Focal Stack Camera Depth Estimation

基于无监督学习的焦堆相机深度估计

Zhengyu Huang, Weizhi Du, Theodore B. Norris

机构 * Center for Ultrafast Optical Science, University of Michigan（超快光学科学中心，密歇根大学） ； University of Michigan（密歇根大学） 纠错

AI总结 提出一种基于无监督深度学习的方法，从焦堆相机图像估计深度，在NYU-v2数据集上相比单图像方法显著提高精度。

Journal ref in Conference on Lasers and Electro-Optics, Technical Digest Series (Optica Publishing Group, 2022), paper JW3A.5