University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）

Safety at Scale: A Comprehensive Survey of Large Model and Agent Safety

大规模安全：大型模型和智能体安全的全面综述

Xingjun Ma, Yifeng Gao, Yixu Wang, Ruofan Wang, Xin Wang, Ye Sun, Yifan Ding, Hengyuan Xu, Yunhao Chen, Yunhan Zhao, Hanxun Huang, Yige Li, Yutao Wu, Jiaming Zhang, Xiang Zheng, Yang Bai, Zuxuan Wu, Xipeng Qiu, Jingfeng Zhang, Yiming Li, Xudong Han, Haonan Li, Jun Sun, Cong Wang, Jindong Gu, Baoyuan Wu, Siheng Chen, Tianwei Zhang, Yang Liu, Mingming Gong, Tongliang Liu, Shirui Pan, Cihang Xie, Tianyu Pang, Yinpeng Dong, Ruoxi Jia, Yang Zhang, Shiqing Ma, Xiangyu Zhang, Neil Gong, Chaowei Xiao, Sarah Erfani, Tim Baldwin, Bo Li, Masashi Sugiyama, Dacheng Tao, James Bailey, Yu-Gang Jiang

机构 * Fudan University（复旦大学） ； The University of Melbourne（墨尔本大学） ； Singapore Management University（新加坡国立大学） ； Deakin University（德肯大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； City University of Hong Kong（香港城市大学） ； University of Oxford（牛津大学） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； The University of Sydney（悉尼大学） ； Griffith University（格里菲斯大学） ； University of California, Santa Cruz（加州大学圣克鲁兹分校） ； Sea AI Lab（Sea AI实验室） ； Tsinghua University（清华大学） ； Virginia Tech（弗吉尼亚理工大学） ； CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全部） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； Purdue University（普渡大学） ； Duke University（杜克大学） ； University of Wisconsin - Madison（威斯康星大学麦迪逊分校） ； RIKEN（理化学研究所） ； The University of Tokyo（东京大学） 纠错

AI总结 本文综述了大型模型和智能体的安全性，分析了各类攻击威胁及防御策略，指出安全评估、防御机制和数据实践的重要性，强调研究社区和国际合作的必要性。

Comments 706 papers, 60 pages, 3 figures, 14 tables; GitHub: https://github.com/xingjunm/Awesome-Large-Model-Safety

Mathematics Teachers Interactions with a Multi-Agent System for Personalized Problem Generation

数学教师与多智能体系统在个性化问题生成中的互动

Candace Walkington, Theodora Beauchamp, Fareya Ikram, Merve Koçyiğit Gürbüz, Fangli Xia, Margan Lee, Andrew Lan

机构 * Southern Methodist University（南方 Methodist 大学） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； Worchester Polytechnic Institute（沃斯顿理工学院） 纠错

AI总结 研究探讨了多智能体教师闭环系统在中学数学问题个性化中的应用，通过教师输入基础问题和主题，由LLM生成问题，再由四个AI代理评估问题的数学准确性、真实性、可读性和现实性。

Comments Paper accepted to AIED 2026 - South Korea

Should There be a Teacher In-the-Loop? A Study of Generative AI Personalized Tasks Middle School

应该有教师在循环中吗？生成式AI个性化任务中学中学的探讨

Candace Walkington, Mingyu Feng, Itffini Pruitt-Britton, Theodora Beauchamp, Andrew Lan

机构 * Department of Teaching and Learning（教学与学习系） ； Southern Methodist University（南方 Methodist 大学） ； WestEd（西斯特教育） ； American Institutes for Research（美国研究机构） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） 纠错

AI总结 研究探讨生成式AI在中学个性化任务中的应用，分析教师与AI协作的效率及学生对不同粒度个性化任务的偏好。