Learning the Koopman Operator using Attention Free Transformers
使用无注意力变换器学习Koopman算子
机构 * Institute for Bioengineering, School of Engineering and Centre for Engineering Biology, University of Edinburgh(爱丁堡大学生物工程研究所、工程学院与工程生物学中心) ; Electrical and Computer Engineering and Applied Mathematics, University of Washington(华盛顿大学电气与计算机工程与应用数学系) ; Electrical and Computer Engineering and Computer Science & Engineering, University of Washington(华盛顿大学电气与计算机工程及计算机科学与工程系)
AI总结 针对Koopman自编码器长期预测中流形漂移导致误差累积的问题,提出无注意力潜在记忆块和动态重编码两种方法,在三个基准系统上显著降低长时域误差并保持低推理延迟。
Comments 28 pages, 10 figures, 9 tables. Code: https://github.com/MohammedNagdi/Attended-Koopman