Scalable Derivative Gaussian Processes via Exact Gradient Reduction
可扩展的导数高斯过程通过精确梯度约简
机构 * Department of Statistics University of Wisconsin–Madison(统计学系威斯康星大学麦迪逊分校)
AI总结 提出TERA方法,利用精确梯度约简将导数高斯过程的计算复杂度从O(n^3 d^3)降至O(d m^2 + m^6),实现高维空间中的可扩展推理。
高校专区
可扩展的导数高斯过程通过精确梯度约简
机构 * Department of Statistics University of Wisconsin–Madison(统计学系威斯康星大学麦迪逊分校)
AI总结 提出TERA方法,利用精确梯度约简将导数高斯过程的计算复杂度从O(n^3 d^3)降至O(d m^2 + m^6),实现高维空间中的可扩展推理。
GeoDrive-Bench:自动驾驶中区域特定多模态推理的基准测试
机构 * University of Wisconsin-Madison(威斯康星大学麦迪逊分校) ; Johns Hopkins University(约翰霍普金斯大学)
AI总结 提出GeoDrive-Bench基准,通过5053个跨六国人工验证的多选题,评估视觉语言模型在感知、预测、规划和区域推理四个驾驶任务中基于区域特定交通规则的推理能力,并设计蒸馏算法注入区域知识以提升模型性能。
Lean-GAP:形式化研究生代数问题数据集
机构 * University of California, Berkeley(加州大学伯克利分校) ; Korea Advanced Institute of Science and Technology(韩国科学技术院) ; Hanyang University(翰阳大学) ; Hufs University(Hufs大学) ; Sungkyunkwan University(成均馆大学) ; University of Wisconsin - Madison(威斯康星大学麦迪逊分校) ; Sejong University(世宗大学) ; University of Connecticut(康涅狄格大学)
AI总结 本文提出Lean-GAP数据集,包含430个来自Dummit和Foote《抽象代数》的形式化研究生代数问题,并开发了从PDF预处理到自动形式化再到验证的可扩展流水线。
Cryo-Bench:面向冰冻圈应用的基础模型基准测试
机构 * Center for Sustainability and the Global Environment (SAGE), University of Wisconsin–Madison(可持续性与全球环境中心(SAGE),威斯康星大学麦迪逊分校) ; Portsmouth AI and Data Science Centre (PAIDS), School of Computing, University of Portsmouth(波特茅斯人工智能与数据科学中心(PAIDS),计算学院,波特茅斯大学) ; ESA, ESRIN, φ \varphi -lab, Frascati(欧洲航天局(ESA),欧洲空间研究中心(ESRIN),φ实验室,弗拉斯卡蒂)
AI总结 提出Cryo-Bench基准,评估14个地理基础模型在冰冻圈关键组件(如冰川、冰湖、海冰等)上的性能,发现UNet在冻结编码器下平均mIoU最高(66.38),而全微调结合学习率调整可提升性能12.77%。
低分辨率编辑足以实现高分辨率编辑
机构 * ECE & IPAI, Seoul National University(电子与信息物理学院及首尔国立大学IPAI) ; University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
AI总结 本文提出一种测试时优化框架,通过分块优化、细节迁移和同步策略,实现高分辨率图像编辑。
Comments CVPR 2026. Project website: https://hleephilip.github.io/ScaleEdit
基于LLM的物理查询计划测试时优化
机构 * Stanford University(斯坦福大学) ; University of Wisconsin-Madison(威斯康星大学麦迪逊分校) ; TogetherAI ; Bauplan
AI总结 提出DBPlanBench框架,利用LLM在测试时通过语义推理和进化搜索优化物理查询计划,在OLAP查询中实现1.05-1.12倍中位数加速,并支持小规模到大规模的迁移。
Comments Code is available at: https://github.com/BauplanLabs/DBPLANBENCH
低秩曲率用于大语言模型微调中的零阶优化
机构 * University of Wisconsin – Madison(威斯康星大学麦迪逊分校) ; University of Georgia(佐治亚大学) ; Hanyang University(翰阳大学)
AI总结 提出LOREN方法,通过低秩块对角预条件器捕捉曲率并利用REINFORCE留一法梯度估计器降低方差,在LLM微调中实现更高精度和更快收敛,同时峰值内存使用降低27.3%。
Comments Accepted to the AAAI Conference on Artificial Intelligence (AAAI-2026)
MAC:一种使用平均激活近似曲率的高效梯度预条件方法
机构 * University of Wisconsin – Madison(威斯康星大学麦迪逊分校) ; University of Georgia(佐治亚大学) ; Hanyang University(翰阳大学)
AI总结 提出MAC方法,通过近似KFAC中Fisher信息矩阵的Kronecker因子,降低二阶优化计算负担,并首次将Kronecker分解应用于Transformer注意力层,在多种网络和数据集上优于KFAC等现有方法。
Comments Accepted to the IEEE International Conference on Data Mining (ICDM-2025)