高校专区

University of Wisconsin-Madison（威斯康星大学麦迪逊分校）

2026-06-08 至 2026-06-08 共收录 2 篇

2603.20967 2026-06-08 stat.ML cs.LG math.ST stat.TH 版本更新

Hard labels sampled from sparse targets mislead rotation invariant algorithms

从稀疏目标采样的硬标签误导旋转不变算法

Avrajit Ghosh, Bin Yu, Manfred Warmuth, Peter Bartlett

机构 * University of California, Berkeley（加州大学伯克利分校）； University of Wisconsin, Madison（威斯康星大学麦迪逊分校）

AI总结针对稀疏目标下的二分类问题，证明旋转不变算法（如逻辑损失梯度下降）的过风险下界为Ω((d-1)/n)，而通过重参数化u_i v_i的非旋转不变算法可实现O(s log d / n)的上界。

Journal ref ICML-2026

2510.05363 2026-06-08 cs.AI 版本更新

MHA-RAG: Improving Efficiency, Accuracy, and Consistency by Encoding Exemplars as Soft Prompts

MHA-RAG：通过将示例编码为软提示来提高效率、准确性和一致性

Abhinav Jain, Xinyu Yao, Thomas Reps, Christopher Jermaine

机构 * Department of Computer Science, Rice University（计算机科学系，里士大学）； Department of Computer Science, University of Wisconsin–Madison（计算机科学系，威斯康星大学麦迪逊分校）

AI总结提出MHA-RAG框架，将领域示例编码为软提示，通过多头注意力机制控制生成，在多个问答基准上相比标准RAG提升20点性能，同时降低10倍推理成本。

Comments 17 pages, 5 figures