Detecting Functional Memorization in Code Language Models
检测代码语言模型中的功能记忆
机构 * Meta ; Imperial College London(伦敦帝国学院)
AI总结 研究代码语言模型的功能记忆现象,通过反事实设置对比暴露目标代码的模型与未暴露的参考模型,使用文本和功能相似性度量,发现功能记忆超出文本重叠的检测范围。
高校专区
检测代码语言模型中的功能记忆
机构 * Meta ; Imperial College London(伦敦帝国学院)
AI总结 研究代码语言模型的功能记忆现象,通过反事实设置对比暴露目标代码的模型与未暴露的参考模型,使用文本和功能相似性度量,发现功能记忆超出文本重叠的检测范围。
AfriSUD:用于评估非洲语言模型的依存树库集合
机构 * Princeton University(普林斯顿大学) ; Laboratory for Artificial Intelligence, Princeton University(普林斯顿大学人工智能实验室) ; Gaston Berger University(加斯顿·伯杰大学) ; Mila, McGill University(麦吉尔大学米拉研究所) ; Canada CIFAR AI Chair(加拿大CIFAR人工智能教席) ; Paris Nanterre University(巴黎南泰尔大学) ; Paris-Saclay University(巴黎-萨克雷大学) ; CNRS(法国国家科学研究中心) ; Inria(法国国家信息与自动化研究所) ; LORIA(洛林计算机科学实验室) ; Université de Lorraine(洛林大学) ; University of Trento(特伦托大学) ; University of Minnesota–Twin Cities(明尼苏达大学双城分校) ; Imperial College London(伦敦帝国学院) ; Binghamton University(宾汉姆顿大学) ; Makerere University(马凯雷雷大学) ; Penn State University(宾夕法尼亚州立大学) ; Mbarara University of Science and Technology(姆巴拉拉科技大学) ; Chalmers University of Technology(查尔姆斯理工大学) ; University of Ibadan(伊巴丹大学) ; Nnamdi Azikiwe University(纳姆迪·阿齐基韦大学) ; South African Centre for Digital Language Resources(南非数字语言资源中心)
AI总结 为弥补非洲语言在NLP资源上的不足,构建了首个大规模九种非洲语言句法标注树库AfriSUD,评估多种模型发现显著句法差距。
Pythagoras-Prover: 通过增强型Lean形式化推进高效形式化证明
机构 * Imperial College London(伦敦帝国学院) ; University of Edinburgh(爱丁堡大学) ; Nanyang Technological University(南洋理工大学) ; MBZUAI(穆罕默德·本·扎耶德人工智能大学)
AI总结 提出Pythagoras-Prover系列,包括自回归和扩散模型,通过课程SFT、动态过滤和增强型Lean形式化(ALF)扩展验证数据,在MiniF2F-Test上以更少参数超越DeepSeek-Prover-V2。
Comments Pythagoras-Prover: Technical Report