Do Not Let Low-Probability Tokens Over-Dominate in RL for LLMs
机构 * The Chinese University of Hong Kong(香港中文大学) ; Microsoft Research Asia(微软亚洲研究院)
Comments 24 pages, 12 figures
高校专区
机构 * The Chinese University of Hong Kong(香港中文大学) ; Microsoft Research Asia(微软亚洲研究院)
Comments 24 pages, 12 figures
机构 * Hong Kong Baptist University(香港 Baptist 大学) ; MBZUAI Carnegie Mellon University(MBZUAI 美国卡内基梅隆大学) ; The University of Sydney(悉尼大学) ; The Chinese University of Hong Kong(香港中文大学)
Comments Chenxi and Yongqiang contributed equally; project page: https://causalcoat.github.io/lot.html
机构 * Department of Computer Science(计算机科学系) ; The Chinese University of Hong Kong(香港中文大学) ; Gaoling School of Artificial Intelligence(九龙人工智能学院) ; Renmin University of China(中国人民大学) ; AWS AI Amazon(AWS人工智能亚马逊) ; University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
Comments 17 pages, 16 figures
机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen(数据科学学院,香港中文大学(深圳))
机构 * Tsinghua University(清华大学) ; Duke University(杜克大学) ; The Chinese University of Hong Kong(香港中文大学) ; Nanjing University of Posts and Telecommunications(南京邮电大学)
Comments 18 pages, 8 figures, 14 tables
机构 * Electrical and Computer Engineering, The University of Texas at Austin(得克萨斯大学奥斯汀分校电子与计算机工程系) ; Computer Science and Engineering, The Chinese University of Hong Kong(香港中文大学计算机科学与工程系) ; Computer Science, The University of Hong Kong(香港大学计算机科学系)
机构 * CSE, CUHK(计算工程系,香港中文大学)
机构 * Inner Mongolia University(内蒙古大学) ; ByteDance(字节跳动) ; SRIBD, School of Data Science, The Chinese University of Hong Kong, Shenzhen(SRIBD,数据科学学院,香港中文大学(深圳))
Comments 16 pages, 5 figures, 5 tables. Accepted by ACL 2025 (Findings)
机构 * The Chinese University of Hong Kong(香港中文大学) ; Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州)) ; The Hong Kong Polytechnic University(香港理工大学) ; National University of Singapore(新加坡国立大学)
机构 * Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) ; Department of Engineering Science, University of Oxford(牛津大学工程科学系) ; Shanghai Institute for Science of Science(上海科学科学研究院) ; School of Mathematics, Southeast University(东南大学数学学院) ; Shanghai Innovation Institute(上海创新研究院) ; Department of Information Engineering, Chinese University of Hong Kong(香港中文大学信息工程系)
机构 * The Chinese University of Hong Kong, China(香港中文大学) ; ChatEDA Tech(ChatEDA科技) ; University of Texas at Austin, USA(德克萨斯大学奥斯汀分校)
机构 * The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳)) ; Harbin Institute of Technology(哈尔滨工业大学) ; DexForce Technology(DexForce科技) ; Southeast University(东南大学)
机构 * Mila, Université de Montréal(蒙特利尔大学Mila实验室) ; Max Planck Institute for Intelligent Systems - Tübingen(智能系统马克斯·普朗克研究所(图宾根)) ; The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳)) ; University of Tübingen(图宾根大学) ; University of Cambridge(剑桥大学) ; Microsoft Research(微软研究院)
Comments Technical Report (36 pages, 31 figures), Accepted at ICLR 2025
机构 * Nanjing University of Aeronautics and Astronautics(南京航空航天大学) ; The Chinese University of Hong Kong(香港中文大学) ; The University of Hong Kong(香港大学) ; Zhejiang Lab, Nanjing University of Aeronautics and Astronautics(浙江实验室,南京航空航天大学)
机构 * City University of HongKong(香港城市大学) ; HKUST(香港科技大学) ; HKU(香港大学) ; TAMU(德克萨斯大学奥斯汀分校) ; CUHK(SZ)(香港城市大学(深圳))
Comments Accepted as a poster at ICLR. Project page: https://modgs.github.io
机构 * Fudan University(复旦大学) ; Shanghai AI Laboratory(上海人工智能实验室) ; The Chinese University of Hong Kong(香港中文大学) ; Harbin Institute of Technology(哈尔滨工业大学)
Comments 16 pages, 7 figures
机构 * MMLab, CUHK, Hong Kong(CUHK的MMLab, 香港) ; Shanghai Jiang Tong University, Shanghai(上海江 Tong大学, 上海) ; CPII under InnoHK, Hong Kong(InnoHK下的CPII, 香港)
Comments Accepted to ICLR 2025
机构 * The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) ; Shenzhen Research Institute of Big Data(深圳大数据研究院) ; The Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳人工智能与机器人社会研究院) ; The Guangdong Provincial Key Laboratory of Future Networks of Intelligence(广东省未来网络智能化重点实验室)
机构 * Shanghai AI Laboratory(上海人工智能实验室) ; Westlake University(西湖大学) ; Zhejiang University(浙江大学) ; Chinese University of Hong Kong(香港中文大学)
Comments 9 pages
机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen, China(数据科学学院,香港中文大学(深圳)) ; Shenzhen Research Institute of Big Data, Shenzhen, China(深圳大数据研究院)
机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen(数据科学学院,香港中文大学(深圳)) ; Stony Brook University, New York(石溪大学)
机构 * The Chinese University of Hong Kong(香港中文大学) ; Tencent AI Lab(腾讯AI实验室) ; Centre for Perceptual and Interactive Intelligence(感知与交互智能中心)
Comments ACL 2025 Findings
机构 * Department of Computer Science and Engineering, CUHK(计算机科学与工程系,香港中文大学)
机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen(数据科学学院,香港中文大学(深圳))
机构 * Multimedia Laboratory (MMLab)(多媒体实验室) ; The Chinese University of Hong Kong(香港中文大学) ; CPII under InnoHK(创新香港科技署CPII)
Comments Accepted to ACL 2025 Findings
机构 * School of Data Science(数据科学学院) ; The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
机构 * School of Mathematical Sciences, Peking University(北京大学数学科学学院) ; School of Science and Engineering, The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳)科学与工程学院) ; Department of Applied Mathematics, The Hong Kong Polytechnic University(香港理工大学应用数学系)
Comments 35 pages
机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen(数据科学学院,香港中文大学(深圳))
机构 * Mohamed bin Zayed University of Artificial Intelligence(Mohamed bin Zayed大学人工智能学院) ; The Hang Seng University of Hong Kong(恒生大学) ; City University of Hong Kong(城市大学) ; The Chinese University of Hong Kong(香港中文大学) ; National Taiwan University(台湾国立台湾大学)
机构 * The Chinese University of Hong Kong(香港中文大学) ; University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
Comments Accepted in ACM SIGMETRICS 2025