Compress the Easy, Explore the Hard: Difficulty-Aware Entropy Regularization for Efficient LLM Reasoning
压缩简单问题,探索困难问题:面向高效LLM推理的难度感知熵正则化
机构 * Nanjing University of Aeronautics and Astronautics(南京航空航天大学) ; College of Computer Science and Technology(计算机科学与技术学院) ; Didichuxing Co. Ltd(滴滴出行有限公司)
专题命中 逻辑推理 :reasoning(title,abstract);CoT(abstract,abstract_cn);chain-of-thought(abstract);分类 cs.LG
AI总结 提出CEEH方法,通过难度感知的熵正则化,在强化学习中对简单问题压缩推理长度,对困难问题保持探索空间,从而在减少响应长度的同时维持推理准确性。
Comments Accepted to KDD 2026