Dynamic Compression in Recurrent Networks
循环网络中的动态压缩
机构 * Massachusetts Institute of Technology(麻省理工学院)
AI总结 该研究提出动态压缩方法,允许循环模型选择性重访过去标记以修正固定状态,在少样本函数复用任务中,其所需循环状态更小、扩展性更优,实现了计算与内存的有效权衡。
高校专区
循环网络中的动态压缩
机构 * Massachusetts Institute of Technology(麻省理工学院)
AI总结 该研究提出动态压缩方法,允许循环模型选择性重访过去标记以修正固定状态,在少样本函数复用任务中,其所需循环状态更小、扩展性更优,实现了计算与内存的有效权衡。
ASI-Bench:人工智能超级智能的黎明
机构 * Tsinghua University(清华大学) ; Massachusetts Institute of Technology(麻省理工学院) ; Harvard University(哈佛大学) ; Carnegie Mellon University(卡内基梅隆大学) ; University of Michigan(密歇根大学) ; University of Illinois Urbana–Champaign(伊利诺伊大学厄巴纳-香槟分校) ; Boston University(波士顿大学) ; University of Queensland(昆士兰大学) ; University of Science and Technology of China(中国科学技术大学) ; Flatiron Institute(弗拉蒂伦研究所) ; Microsoft Research(微软研究院) ; AG2 AI(AG2 AI公司)
AI总结 研究人员推出首个联合评估AI创新探索与自主科学执行能力的基准ASI-Bench,逐步减少人类方法指导测试AI自主科研能力,发现当前AI仍严重依赖人类指导,该基准面向全球开放邀请贡献。
Comments 16 pages, 5 figures, 2 tables
上下文强化学习的任务专业化微调
机构 * Nanyang Technological University(南洋理工大学) ; MIT(麻省理工学院) ; UIUC(伊利诺伊大学厄巴纳-香槟分校)
AI总结 针对上下文强化学习的任务专业化微调难题,提出TSFT框架,通过整数线性规划分配微调预算,在多领域实验中提升了任务覆盖性能。
混沌系统的科学机器学习发现神经群体的支配方程
机构 * Department of Biomedical Engineering and Laufer Center for Physical and Quantitative Biology, State University of New York at Stony Brook, NY, USA(生物医学工程系和物理与定量生物学拉夫中心,石溪大学纽约州立大学 Stony Brook 分校) ; Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital and Harvard Medical School, MA, USA(Athinoula A. Martinos 生物医学成像中心,麻省总医院和哈佛医学院) ; Computer Science and Artificial Intelligence Lab, Massachusetts Institute of Technology, MA, USA(计算机科学与人工智能实验室,麻省理工学院) ; Picower Institute for Learning and Memory, Massachusetts Institute of Technology, MA, USA(记忆学习研究所,麻省理工学院) ; Psychological and Brain Sciences, Dartmouth College, NH, USA(心理学与脑科学系,达特茅斯学院) ; Santa Fe Institute, NM, USA(圣菲研究所)
AI总结 该研究提出PEM-UDE方法,通过科学机器学习从混沌系统中发现可解释的支配方程,成功恢复噪声污染数据中的动态,并在神经群体中推导出符合生物约束的新方程。
Comments 54 pages, 10 figures
SparsePixels: 用于FPGA上稀疏数据高效卷积的框架
机构 * University of Pennsylvania, USA(美国宾夕法尼亚大学) ; Institute of Physics Belgrade, Serbia(塞尔维亚贝尔格莱德物理研究所) ; Massachusetts Institute of Technology, USA(美国麻省理工学院) ; Institute for Artificial Intelligence and Fundamental Interactions, USA(美国人工智能与基本相互作用研究所)
AI总结 本文提出SparsePixels框架,通过只计算少量活跃像素实现稀疏卷积,降低FPGA上的推理延迟,实验显示在稀疏LArTPC图像中,稀疏CNN比传统CNN快73倍。
Comments Under review