Active Attacks: Red-teaming LLMs via Adaptive Environments
机构 * KAIST(韩国科学技术院) ; Mila – Québec AI Institute(魁北克人工智能研究所) ; LawZero ; Omelet ; Université de Montréal(蒙特利尔大学)
Comments 22 pages, 7 figures, 18 tables
高校专区
机构 * KAIST(韩国科学技术院) ; Mila – Québec AI Institute(魁北克人工智能研究所) ; LawZero ; Omelet ; Université de Montréal(蒙特利尔大学)
Comments 22 pages, 7 figures, 18 tables
机构 * School of Computing, KAIST, Republic of Korea(韩国科学技术院计算机学院)
Comments Arxiv version of ICCV 2025 paper (3rd version)
机构 * KAIST AI(韩国科学技术院人工智能研究所) ; LG AI Research(LG人工智能研究)
Comments NeurIPS 2025
机构 * Massachusetts Institute of Technology(麻省理工学院) ; Korea Advanced Institute of Science and Technology(韩国科学技术院) ; Seoul National University(首尔国立大学)
机构 * Korea Advanced Institute of Science and Technology(韩国科学技术院) ; Pohang University of Science and Technology(釜山科学技术大学)
Comments ACM Multimedia 2025
机构 * KAIST(韩国科学技术院) ; Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
Comments ICLR 2023 spotlight
Journal ref The Eleventh International Conference on Learning Representations (ICLR) 2023
机构 * KAIST AI(韩国科学技术院人工智能研究所)
Comments Preprint, under review. 39 pages, 12 figures. Updates from v1: Added new theoretical results on DPO training dynamics and policy exploration, included experiments with Qwen3-4B, and refined the discussion of log-margin dynamics
机构 * School of Computing KAIST Daejeon Republic of Korea(韩国国立庆尚大学计算机科学学院) ; School of Computer Science(计算机科学学院) ; School of Computing KAIST(韩国国立庆尚大学计算机科学学院)
Comments 14 pages
机构 * KAIST(韩国科学技术院)
Comments Accepted to NeurIPS 2025
机构 * AITRICS ; Korea Advanced Institute of Science and Technology(韩国科学技术院)
Comments currently under submission to ICLR 2026
机构 * KAIST(韩国科学技术院)
Comments NeurIPS 2025
机构 * KAIST AI(韩国科学技术院人工智能研究所)
机构 * Graduate School of AI, KAIST(人工智能研究生院,韩国科学技术院)
Comments Preprint
机构 * KAIST(韩国科学技术院)
Comments 15 pages, 8 figures
机构 * VUNO Inc.(VUNO公司) ; KAIST(韩国科学技术院) ; POSTECH(POSTECH大学)
Comments 34 pages, 30 figures, preprint
机构 * School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)(电气工程学院,韩国科学技术院)
机构 * Yonsei University(延世大学) ; KAIST(韩国科学技术院)
机构 * VUNO Inc.(VUNO公司) ; KAIST(韩国科学技术院)
Comments 39 pages, 25 figures, preprint
机构 * KAIST(韩国科学技术院) ; KRICT(韩国信息通信技术研究院) ; Stanford University(斯坦福大学) ; Genentech(基因泰克) ; Nanjing University(南京大学)
机构 * KAIST AI(韩国科学技术院人工智能研究所) ; Yonsei University(延世大学)
机构 * Dept. of Electrical Engineering, POSTECH(POSTECH电子工程系) ; Samsung Electronics(三星电子) ; School of Computing, KAIST(KAIST计算机科学学院)
机构 * KAIST(韩国科学技术院)
Comments Accepted to NeurIPS 2025
机构 * School of Computing, KAIST(计算机学院,韩国科学技术院)
Comments 17 pages, 13 figures
机构 * Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
机构 * Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
机构 * VUNO Inc.(VUNO公司) ; KAIST(韩国科学技术院)
Comments 38 pages, 17 figures, preprint
机构 * School of Computing, KAIST(计算学院,韩国科学技术院)
机构 * KAIST(韩国科学技术院)
Comments 9 pages, 4 figures
机构 * Korea University(韩国大学) ; Meta GenAI(Meta 生成人工智能) ; KAIST(韩国科学技术院)
Comments ICCV 2025 Highlight
机构 * KAIST(韩国科学技术院)
Comments 29 pages, Under review