作者
AI / Security
IMMACULATE: 通过可验证计算实现的实用LLM审计框架
机构 * National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） ； Independent Researcher（独立研究者） ； University of California, Berkeley（加州大学伯克利分校）
AI总结 IMMACULATE通过可验证计算实现对大语言模型的审计，检测模型替换、量化滥用和令牌过账等经济动机驱动的偏差，具有低吞吐量开销和强检测保证。
dLLM：简单的扩散语言建模
机构 * UC Berkeley（伯克利大学） ； UIUC（伊利诺伊大学香槟分校）
AI总结 dLLM提供了一个统一的开源框架，用于标准化和灵活扩展扩散语言建模的核心组件，同时提供可重现的食谱以加速小型DLMs的研究与开发。
Comments Code available at: https://github.com/ZHZisZZ/dllm
数学推理中的策略可执行性：利用人类-模型差异实现有效指导
机构 * National University of Singapore（新加坡国立大学） ； University of California, Berkeley（加州大学伯克利分校）
AI总结 本文提出SSR框架，通过显式建模策略可执行性，利用人类-模型差异提升数学推理的指导效果。
TxRay：活区块链攻击的代理事后分析
机构 * Decentralized Intelligence AG（去中心化智能AG） ； The University of Sydney（悉尼大学） ； University of Warwick（沃里克大学） ； University of California, Berkeley（加州大学伯克利分校） ； University College London（伦敦大学学院）
AI总结 TxRay通过代理系统利用LLM和工具调用，从有限证据中重建活区块链攻击，生成可执行的PoC并验证根本原因，提升攻击分析效率和覆盖范围。
Comments 24 pages, 8 figures
AgenticPay: 一种基于多智能体LLM的买方卖方交易谈判系统
AI总结 AgenticPay是一种基于多智能体LLM的买方卖方交易谈判系统，通过自然语言驱动的多轮谈判解决市场交易问题，评估智能体在经济互动中的表现。
WebSentinel: 检测和定位网页代理中的提示注入攻击
AI总结 WebSentinel通过两步方法有效检测和定位网页代理中的提示注入攻击，显著优于现有方法。
DevOps-Gym: 在软件DevOps周期中评估AI代理的基准测试
机构 * UC Santa Barbara（加州大学圣巴巴拉分校） ； National University of Singapore（新加坡国立大学） ； UC Berkeley（加州大学伯克利分校） ； Google（谷歌） ； UC Los Angeles（加州大学洛杉矶分校）
AI总结 DevOps-Gym通过700+真实任务评估AI代理在完整DevOps周期中的能力，揭示其在问题解决和测试生成方面的局限性。
恶意AI群如何威胁民主：代理AI与大语言模型的融合标志着信息战争的新前沿
机构 * Department of Sustainable Communication Technologies, SINTEF Digital（可持续通信技术系，SINTEF数字） ； Max Planck Institute for Security and Privacy（安全与隐私研究所） ； Department of Mathematics, City St George’s University of London（数学系，圣乔治大学） ； Macrostrategy Research Initiative（战略研究计划） ； Human Nature Lab, Yale University（人性实验室，耶鲁大学） ； Department of Politics and Public Administration, University of Konstanz（政治与公共管理系，康斯坦茨大学） ； Harvard Business School, Harvard University（哈佛商学院，哈佛大学） ； Department of Psychology, University of Cambridge（心理学系，剑桥大学） ； Department of Computer Science, University of British Columbia（计算机科学系，不列颠哥伦比亚大学） ； Department of Human Centered Design & Engineering, University of Washington（以人为本设计与工程系，华盛顿大学） ； Department of Psychology, New York University（心理学系，纽约大学） ； Observatory on Social Media and Luddy School of Informatics, Computing, and Engineering, Indiana University（社交媒体观察所和信息、计算与工程学院，印第安纳大学）
AI总结 本文探讨了恶意AI群通过融合代理AI与大语言模型对民主构成的威胁，并提出多方面的干预措施。
Comments 5 Pages, This is the author's version of the work. It is posted here by permission of the AAAS for personal use, not for redistribution. The definitive version was published in Science on January 22, 2026, DOI: 10.1126/science.adz1697
可持续的人工智能经济需要能够为生成者服务的数据协议
AI总结 本文提出公平的数据价值交换框架，旨在解决机器学习价值链条中数据生成者的经济不平等问题。
Comments Published at NeurIPS 2025 (https://neurips.cc/virtual/2025/loc/san-diego/poster/121926)
能否通过编辑LLM注入危害？
机构 * Northwestern University（西北大学）
AI总结 本文提出编辑攻击作为LLM安全威胁，揭示了通过编辑注入虚假信息和偏见的风险及高隐蔽性。
Comments Accepted to Proceedings of AAAI 2026. The first two authors contributed equally. 7 pages for main paper, 31 pages including appendix. The code, results, dataset for this paper and more resources are on the project website: https://llm-editing.github.io
攀登推理的阶梯：在SFT之后，大语言模型能解决什么问题？
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Wisconsin, Madison（威斯康星大学麦迪逊分校） ； Allen Institute for AI（人工智能研究院）
AI总结 本文通过分析AIME24数据集，揭示了大语言模型在数学推理任务中不同难度层级的进阶要求，发现SFT对提升推理能力有限，而扩大数据规模更有效。
LLMs如何泛化：从认知行为到低级模式的细粒度分析
机构 * University of Wisconsin, Madison（威斯康星大学麦迪逊分校） ； University of California, Berkeley（加州大学伯克利分校） ； University of Pennsylvania（宾夕法尼亚大学） ； California Institute of Technology（加州理工学院）
AI总结 本文通过细粒度分析揭示LLMs在SFT和RL微调下的泛化差异，提出基于核心技能的基准测试，揭示RL模型在推理稳定性上的优势。
FrontierCS: 蒸馏智能面临的挑战
机构 * UC Berkeley（加州大学伯克利分校） ； Princeton University（普林斯顿大学） ； UCSD（加州大学圣迭戈分校） ； X-camp Academy（X-camp学院） ； Georgia Tech（佐治亚理工学院） ； Stanford University（斯坦福大学） ； University of Washington（华盛顿大学） ； Nanyang Technological University（南洋理工大学） ； University of Toronto（多伦多大学） ； UIUC（伊利诺伊大学香槟分校） ； University of Michigan（密歇根大学） ； New York University（纽约大学） ； MIT（麻省理工学院）
AI总结 FrontierCS是一个针对未知最优解的计算机科学开放性问题基准测试，旨在评估模型在算法和研究任务中的推理能力，发现现有模型在复杂问题上仍需提升。
Comments Code with instruction: https://github.com/FrontierCS/Frontier-CS
LLM记忆景观：机制、测量与缓解
机构 * UC Berkeley（伯克利大学） ； Google DeepMind（谷歌DeepMind）
AI总结 本文研究了LLM记忆现象的机制、测量方法及缓解策略，探讨了影响记忆的因素和检测技术，并分析了其法律伦理影响及缓解措施。
通过自我确定性实现大规模语言模型的可扩展最佳-N选择
机构 * UC Berkeley（伯克利大学）
AI总结 本文提出自我确定性方法，通过利用LLM输出的概率分布，高效提升大规模语言模型的推理能力，适用于多种推理任务和开放性生成场景。
Comments NeurIPS 2025
VulnLLM-R：基于代理架构的专用推理LLM用于漏洞检测
机构 * Department of Computer Science, University of California, Santa Barbara, CA, USA（加州大学圣芭芭拉分校计算机科学系） ； Department of Computer Science, University of Chicago, Chicago, IL, USA（芝加哥大学计算机科学系） ； Department of Electrical Engineering and Computer Sciences, University of California, Berkeley, CA, USA（加州大学伯克利分校电子工程与计算机科学系） ； Department of Computer Science, University of Illinois Urbana-Champaign, Champaign, IL, USA（伊利诺伊大学厄巴纳-香槟分校计算机科学系）
AI总结 VulnLLM-R通过专用推理模型和代理架构，在漏洞检测中实现高效准确的AI驱动检测。
AGI 的定义
机构 * Center for AI Safety（AI安全中心） ； University of California, Berkeley（加州大学伯克利分校） ； Virtue AI ； Morph Labs（Morph实验室） ； University of Michigan（密歇根大学） ； LG AI Research（LG人工智能研究） ； University of Oxford（牛津大学） ； Stanford University（斯坦福大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Gray Swan AI ； Carnegie Mellon University（卡内基梅隆大学） ； Cornell University（康奈尔大学） ； Hong Kong Baptist University（香港 Baptist大学） ； HKUST（香港科技大学） ； Nanyang Technological University（南洋理工大学） ； KAIST（韩国科学技术院） ； University of California, Santa Cruz（加州大学圣克鲁兹分校） ； Massachusetts Institute of Technology（麻省理工学院） ； University of Tübingen（图宾根大学） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Beneficial AI Research（有益AI研究） ； Conjecture ； Institute for Applied Psychometrics（应用心理测量研究所） ； New York University（纽约大学） ； CSER ； Université de Montréal（蒙特利尔大学） ； LawZero
AI总结 本文提出了一种基于卡特尔-霍恩-卡罗尔理论的可量化框架，定义AGI为与受过良好教育的成年人认知能力相匹配，并通过心理测量电池评估AI系统，揭示当前AI在基础认知机制上的不足。
BountyBench: AI代理攻击者和防御者对现实世界网络安全系统的影响
机构 * Stanford University（斯坦福大学） ； UC Berkeley（加州大学伯克利分校）
AI总结 BountyBench通过评估AI代理在漏洞检测、利用和修补中的表现，揭示AI在网络安全中的影响。
Comments 113 pages
前沿人工智能对网络安全领域的冲击
机构 * UC Berkeley（加州大学伯克利分校） ； UC Santa Barbara（加州大学圣芭芭拉分校） ； Google（谷歌）
AI总结 本文研究了前沿人工智能在网络安全中的影响，指出人工智能在攻击中的能力已超过防御，呼吁构建新基准、开发防御代理等以缓解风险。
机构 * UCSC（加州大学圣何塞分校） ； UCSB（加州大学圣芭芭拉分校） ； UCB（加州大学伯克利分校） ； Cisco Research（思科研究） ； Yale University（耶鲁大学）
机构 * UC Santa Cruz（加州大学圣克ruz分校） ； UC Santa Barbara（加州大学圣芭芭拉分校） ； UC Berkeley（加州大学伯克利分校） ； Cisco Research（思科研究）
Comments Distinguished Paper Award in IEEE Symposium on Security and Privacy, 2025. For slides, see https://people.duke.edu/~zg70/code/PromptInjection.pdf
机构 * Meta Superintelligence Labs（Meta超智能实验室） ； FAIR at Meta（Meta的FAIR部门） ； University of Chicago（芝加哥大学）
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of California, Santa Cruz（加州大学圣克ruz分校） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Chicago（芝加哥大学） ； Amazon（亚马逊） ； Information Commissioner’s Office（信息专员办公室）
Comments NeurIPS 2025 Datasets & Benchmarks
机构 * University of California, Berkeley（加州大学伯克利分校）
Comments ICML 2025
机构 * UC Berkeley（加州大学伯克利分校）
Comments NeurIPS 2025 (D&B Track)
机构 * UC Santa Cruz（加州大学圣克ruz分校） ； Washington University in St. Louis（华盛顿大学圣路易斯分校） ； Databricks（Databricks公司） ； Google DeepMind（谷歌DeepMind） ； UC Berkeley（加州大学伯克利分校）
机构 * The Ohio State University（俄亥俄州立大学） ； University of California, Berkeley（加州大学伯克利分校）
Comments 22 pages, 17 figures, 7 tables
Journal ref COLM 2025
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈