Beyond the Sampled Token: Preserving Candidate Support in RLVR
超越采样令牌:在RLVR中保留候选支持
机构 * Westlake University(西湖大学) ; University of British Columbia(不列颠哥伦比亚大学) ; The Chinese University of Hong Kong(香港中文大学)
专题命中 数学推理 :reasoning(abstract);分类 cs.AI
AI总结 本文从候选分布角度分析RLVR中的探索崩溃,提出CaSP方法,通过保留前N个候选的概率质量,在不牺牲pass@1的情况下提升pass@K,在多个基准测试中验证了有效性。
Comments Technical report (23 pages, 16 figures, project page: https://spherelab.ai/simko/)