Learning More from Less: Unlocking Internal Representations for Benchmark Compression
从更少中学习更多:解锁内部表示以实现基准压缩
机构 * School of Computer Science, Beijing Institute of Technology(北京理工大学计算机科学学院)
专题命中 推理评测 :reasoning(abstract);分类 cs.AI
AI总结 提出RepCore方法,通过对齐异构隐藏状态构建代表性核心集,仅需少量源模型即可精确估计大语言模型在完整基准上的性能,显著优于基于输出的基线方法。