AI Agent

Your Agent is More Brittle Than You Think: Uncovering Indirect Injection Vulnerabilities in Agentic LLMs

你的代理比你想象的更脆弱：揭示代理LLM中的间接注入漏洞

Wenhui Zhu, Xuanzhao Dong, Xiwen Chen, Rui Cai, Peijie Qiu, Zhipeng Wang, Oana Frunza, Shao Tang, Jindong Gu, Yalin Wang

机构 * Arizona State University（亚利桑那州立大学） ； Morgan Stanley（摩根士丹利） ； UC Davis（加州大学戴维斯分校） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； Rice University（莱斯大学） ； Florida State University（佛罗里达州立大学） ； University of Oxford（牛津大学） 纠错

专题命中 Agent评测 ：agent(title,abstract)；agentic(title)；autonomous agent(abstract)；multi-agent(abstract)

AI总结 研究揭示了代理LLM在动态环境中存在严重的间接注入漏洞，通过评估六种防御策略发现现有防护不足，提出基于表示工程的检测方法以提升安全性。

Toward Evaluation Frameworks for Multi-Agent Scientific AI Systems

迈向多智能体科学AI系统的评估框架

Marcin Abram

专题命中 Agent评测 ：agent(title)；multi-agent(title)；tool use(abstract)；agentic(abstract)

AI总结 本文探讨了多智能体科学系统评估的挑战，提出构建抗污染问题、生成可扩展任务家族及多轮交互评估方法，通过访谈量子科学家探讨AI系统交互期望对评估方法的影响。

Comments 14 pages, 4 figures

AgentSocialBench: Evaluating Privacy Risks in Human-Centered Agentic Social Networks

AgentSocialBench: 评估人类中心代理社交网络中的隐私风险

Prince Zizhuang Wang, Shuli Jiang

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 Agent评测 ：agentic(title,abstract)；agent(abstract)；AI agent(abstract)；multi-agent(abstract)

AI总结 研究探讨了人类中心代理社交网络中的隐私挑战，提出AgentSocialBench基准，揭示代理协作中隐私保护的复杂性及现有LLM在隐私保护上的不足。

Comments 43 pages, 9 figures

Agentic AI Security: Threats, Defenses, Evaluation, and Open Challenges

代理AI安全：威胁、防御、评估与开放挑战

Anshuman Chhabra, Shrestha Datta, Shahriar Kabir Nahin, Prasant Mohapatra

专题命中 Agent评测 ：agentic(title,abstract)；agent(abstract)；tool use(abstract)；planning(abstract)

AI总结 本文探讨代理AI系统的安全威胁与防御策略，分析其在自动化中的独特风险，并提出安全设计的开放挑战。

Comments Published in IEEE Access. DOI: https://doi.org/10.1109/access.2026.3675554

Governance-Constrained Agentic AI: Blockchain-Enforced Human Oversight for Safety-Critical Wildfire Monitoring

受治理约束的代理AI：区块链强制的人类监督用于安全关键的野火监测

Ali Akarma, Toqeer Ali Syed, Salman Jan, Hammad Muneer, Abdul Khadar Jilani

机构 * AI Center, Faculty of Computer and Information Systems, Islamic University of Madinah（伊斯兰大学麦地那分校计算机与信息系统学院人工智能中心） ； Faculty of Computer Studies, Arab Open University-Bahrain（阿拉伯开放大学巴林分校计算机研究学院） ； Department of Computer Science, The Islamia University of Bahawalpur（巴哈瓦尔布尔伊斯兰大学计算机科学系） ； College of Computer Studies, University of Technology Bahrain（巴林科技大学计算机研究学院） 纠错

专题命中 Agent评测 ：agentic(title,abstract)；agent(abstract)；multi-agent(abstract)；分类 cs.AI

AI总结 本文提出基于区块链的治理意识代理AI架构，用于安全关键的野火预警，通过约束部分可观测马尔可夫决策过程模型，实现动态风险适应的无人机资源分配，并通过智能合约强制人类授权，确保警报完整性、人类控制和非否认性。

Comments This paper was presented at ICETAS 2026 Bahrain

Quantifying Trust: Financial Risk Management for Trustworthy AI Agents

量化信任：为可信AI代理的金融风险管理

Wenyue Hua, Tianyi Peng, Chi Wang, Ian Kaufman, Bryan Lim, Chandler Fang

机构 * Microsoft Research（微软研究院） ； Columbia University（哥伦比亚大学） ； Google DeepMind（谷歌DeepMind） ； Stanford University（斯坦福大学） ； t54.ai ； Virtuals ACP ； University of California, Santa Barbara（加州大学圣塔芭芭拉分校） 纠错

专题命中 Agent评测 ：AI agent(title)；agent(abstract)；autonomous agent(abstract)；agentic(abstract)

AI总结 本文提出基于金融风险管理的Agentic Risk Standard框架，通过整合风险评估与补偿机制，将信任从隐含期望转为可衡量的产品保证，提升AI代理在开放环境中的可靠性。

Comments 30 pages, 9 figures

SoK: Blockchain Agent-to-Agent Payments

SoK: 区块链代理间支付

Yuanzhe Zhang, Yuexin Xiang, Yuchen Lei, Qin Wang, Tian Qiu, Yujing Sun, Spiridon Zarkov, Tsz Hon Yuen, Andreas Deppeler, Jiangshan Yu, Kwok-Yan Lam

专题命中 Agent评测 ：agent(title,abstract)；AI agent(abstract)；agentic(abstract)

AI总结 本文系统化研究区块链支持的代理间支付，提出四阶段生命周期，识别关键挑战并提出未来方向。

Your Agent, Their Asset: A Real-World Safety Analysis of OpenClaw

你的代理，他们的资产：OpenClaw的现实世界安全性分析

Zijun Wang, Haoqin Tu, Letian Zhang, Hardy Chen, Juncheng Wu, Xiangyan Liu, Zhenlong Yuan, Tianyu Pang, Michael Qizhe Shieh, Fengze Liu, Zeyu Zheng, Huaxiu Yao, Yuyin Zhou, Cihang Xie

机构 * UC Santa Cruz（加州大学圣克鲁兹分校） ； NUS（新加坡国立大学） ； Tencent（腾讯） ； ByteDance（字节跳动） ； UC Berkeley（加州大学伯克利分校） ； UNC-Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 Agent评测 ：agent(title,abstract)；AI agent(abstract)；分类 cs.AI、cs.CL

AI总结 本文首次对OpenClaw进行现实世界安全性评估，引入CIK分类法分析代理的持久状态，发现攻击单个CIK维度可显著提高攻击成功率，强调需系统性保障个人AI代理的安全。

When AI Agents Collude Online: Financial Fraud Risks by Collaborative LLM Agents on Social Platforms

当AI代理在线合谋：社交平台上基于协作LLM代理的金融欺诈风险

Qibing Ren, Zhijie Zheng, Jiaxuan Guo, Junchi Yan, Lizhuang Ma, Jing Shao

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Beihang University（北京航空航天大学） 纠错

专题命中 Agent评测 ：AI agent(title)；agent(abstract)；multi-agent(abstract)；分类 cs.AI、cs.CL

AI总结 研究大型多代理系统中集体金融欺诈的风险，通过MultiAgentFraudBench基准测试分析欺诈行为协作机制及影响因素，提出内容警告、LLM监控和群体韧性提升等缓解策略。

Comments ICLR 2026, Code is available at https://github.com/zheng977/MutiAgent4Fraud

Deploy, Calibrate, Monitor, Heal -- No Human Required: An Autonomous AI SRE Agent for Elasticsearch

部署、校准、监控、修复——无需人工：一个用于Elasticsearch的自主AI SRE代理

Muhamed Ramees Cheriya Mukkolakkal

专题命中 Agent评测 ：agent(title,abstract)；tool-use(abstract)

AI总结 本文提出ES Guardian Agent，通过十一阶段自主管理Elasticsearch全生命周期，利用多源预测失败引擎实现故障预测与修复，展示LLM在高可用性目标中的应用。

Comments 8 pages, 1 figure, 15 tables. Submitted to IEEE CNSM 2026. Cluster: Elasticsearch 8.17.0, 3 master + 12 data nodes, Kubernetes

ShieldNet: Network-Level Guardrails against Emerging Supply-Chain Injections in Agentic Systems

ShieldNet: 针对代理系统中新兴供应链注入的网络级防护

Zhuowen Yuan, Zhaorun Chen, Zhen Xiang, Nathaniel D. Bastian, Seyyed Hadi Hashemi, Chaowei Xiao, Wenbo Guo, Bo Li

机构 * UIUC（伊利诺伊大学厄巴纳-香槟分校） ； University of Chicago（芝加哥大学） ； University of Georgia（佐治亚大学） ； United States Military Academy（美国军事学院） ； eBay ； Johns Hopkins University（约翰霍普金斯大学） ； UCSB（加州大学圣塔芭芭拉分校） ； Virtue AI 纠错

专题命中 Agent评测 ：agentic(title)；agent(abstract)；分类 cs.AI

AI总结 本文提出ShieldNet，通过观察真实网络交互检测供应链注入，优于现有工具，检测性能达0.995 F-1，误报率低。

LLM-Agent-based Social Simulation for Attitude Diffusion

基于大语言模型的社交模拟用于态度扩散

Deepak John Reji

机构 * University of Limerick（利默里克大学） 纠错

专题命中 Agent评测 ：agent(title,abstract)；分类 cs.AI

AI总结 本文提出discourse_sim框架，结合LLM与基于代理的建模，模拟公众对移民态度随时间变化的动态，通过生成社交媒体帖子和解读观点来研究态度扩散和信念演变。

Synthetic Sandbox for Training Machine Learning Engineering Agents

合成沙盒用于训练机器学习工程代理

Yuhang Zhou, Lizhu Zhang, Yifan Wu, Jiayi Liu, Xiangjun Fan, Zhuokai Zhao, Hong Yan

机构 * Meta AI 纠错

专题命中 Agent评测 ：agent(abstract)；agentic(abstract)；multi-agent(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SandMLE框架，通过生成多样化的合成机器学习工程环境，显著提升机器学习工程代理的训练效率，实现大规模在线策略学习，并在多个基准测试中取得显著性能提升。

Comments 28 pages, 9 tables, 8 figures

Tight Bounds on Window Size and Time for Single-Agent Graph Exploration under T-Interval Connectivity

单Agent图探索下T-区间连通性中窗口大小和时间的紧界

Yuichi Sudo, Naoki Kitamura, Masahiro Shibata, Junya Nakamura, Sébastien Tixeuil, Toshimitsu Masuzawa, Koichi Wada

专题命中 Agent评测 ：agent(title,abstract)

AI总结 研究单Agent在T-区间连通图中的确定性探索，分析窗口大小和探索时间的紧界，提出算法并证明其最优性。

Combee: Scaling Prompt Learning for Self-Improving Language Model Agents

Combee：用于自我改进语言模型代理的提示学习扩展

Hanchen Li, Runyuan He, Qizheng Zhang, Changxiu Ji, Qiuyang Mang, Xiaokun Chen, Lakshya A Agrawal, Wei-Liang Liao, Eric Yang, Alvin Cheung, James Zou, Kunle Olukotun, Ion Stoica, Joseph E. Gonzalez

机构 * UC Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； Tensormesh ； Gradient Network 纠错

专题命中 Agent评测 ：agent(abstract)；agentic(abstract)；分类 cs.AI、cs.CL、cs.LG

AI总结 Combee通过并行扫描和增强洗牌机制，提升提示学习效率，实现多代理并行训练，同时保持学习质量。

ATLAS-RTC: Closing the Loop on LLM Agent Output with Token-Level Runtime Control

ATLAS-RTC：通过令牌级运行时控制闭合LLM代理输出的循环

Christopher Cruz

机构 * Purdue University（普渡大学） 纠错

专题命中 Agent评测 ：agent(title)；分类 cs.LG

AI总结 ATLAS-RTC通过实时监控和干预减少解码错误，提升任务成功率和效率，实现LLM系统中的运行时控制新层次。

RoboPhD: Evolving Diverse Complex Agents Under Tight Evaluation Budgets

RoboPhD：在有限评估预算下演化多样化复杂智能体

Andrew Borthwick, Stephen Ash, Anthony Galczak

专题命中 Agent评测 ：agent(abstract)；agentic(abstract)；分类 cs.AI

AI总结 本文通过对比三种优化方法，在四个基准测试中展示了RoboPhD在演化多样化复杂智能体方面的优越性，特别是在抽象推理、云调度、SQL生成和金融问答任务中表现突出。

Comments 20 pages, 1 figure

Implementing surrogate goals for safer bargaining in LLM-based agents

在基于语言模型的智能体中实现安全谈判的替代目标

Caspar Oesterheld, Maxime Riché, Filip Sondej, Jesse Clifton, Vincent Conitzer

专题命中 Agent评测 ：agent(abstract)；AI agent(abstract)；分类 cs.AI

AI总结 本文探讨了在基于语言模型的智能体中实现替代目标以提高谈判安全性的方法，通过四种不同技术验证了细调和支架法在应对替代目标威胁方面的优越性。

Causality Laundering: Denial-Feedback Leakage in Tool-Calling LLM Agents

因果洗白：工具调用LLM代理中的否认-反馈泄漏

Mohammad Hossein Chinaei

机构 * Independent Researcher（独立研究员） 纠错

专题命中 Agent评测 ：agent(abstract)；agentic(abstract)；分类 cs.AI

AI总结 研究提出Agentic Reference Monitor通过因果溯源阻断工具调用中的因果洗白攻击，有效防止数据泄露和因果影响传播。

Comments 24 pages, 1 figure, 2 tables, 1 algorithm, preprint

TraceGuard: Structured Multi-Dimensional Monitoring as a Collusion-Resistant Control Protocol

TraceGuard：结构化多维监控作为抗合谋的控制协议

Khanh Linh Nguyen, Hoa Nghiem, Tu Tran

机构 * Independent Researchers（独立研究人员） ； Apart Research 纠错

专题命中 Agent评测 ：agent(abstract)；AI agent(abstract)；分类 cs.AI

AI总结 本文提出TraceGuard，一种结构化多维监控协议，通过五个维度评估代理行为，结合LLM调用和启发式检测器，有效区分攻击与诚实行为，防止合谋攻击。

ClawSafety: "Safe" LLMs, Unsafe Agents

ClawSafety: 安全的LLM，不安全的代理

Bowen Wei, Yunbei Zhang, Jinhao Pan, Kai Mei, Xiao Wang, Jihun Hamm, Ziwei Zhu, Yingqiang Ge

机构 * George Mason University（乔治梅森大学） ； Tulane University（杜兰大学） ； Rutgers University（罗格斯大学） ； Oak Ridge National Laboratory（橡树岭国家实验室） 纠错

专题命中 Agent评测 ：agent(abstract)；AI agent(abstract)；分类 cs.AI

AI总结 ClawSafety评估了120个对抗性测试场景，揭示了高权限工作环境中LLM的安全性问题，强调部署栈对安全性的关键影响。

CodeWiki: Evaluating AI's Ability to Generate Holistic Documentation for Large-Scale Codebases

CodeWiki: 评估AI生成大规模代码库整体文档的能力

Anh Nguyen Hoang, Minh Le-Anh, Bach Le, Nghi D. Q. Bui

专题命中 Agent评测 ：agent(abstract)；multi-agent(abstract)；分类 cs.SE

AI总结 CodeWiki提出一个统一框架，用于生成多语言代码库的自动化文档，通过层级分解、递归多代理处理和多模态合成，提升文档质量，实验显示其在高脚本语言上的改进显著。

Comments Accepted at ACL 2026

Lark: Biologically Inspired Neuroevolution for Multi-Stakeholder LLM Agents

Lark：生物启发的多利益相关者大语言模型代理神经进化

Rikhil Tanugula, Dheeraj Chintapalli, Sunkalp Chandra

专题命中 Agent评测 ：agent(abstract)；multi-agent(abstract)

AI总结 Lark通过结合大语言模型推理与进化型多智能体系统，解决冗余与利益相关者权衡问题，采用四机制提升策略生成效率与透明度，实验显示其在30轮评估中表现优异且成本可控。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: NeurIPS 2025 Workshop on Efficient Reasoning

ADAPT: AI-Driven Decentralized Adaptive Publishing Testbed

ADAPT：人工智能驱动的去中心化自适应出版测试床

Md Motaleb Hossen Manik, Ge Wang

专题命中 Agent评测 ：agent(abstract)；workflow(abstract)

AI总结 本文提出ADAPT测试床，通过去中心化代理模型改进学术出版流程，实现系统自适应与可审计性，验证了在不同运营模式下对出版积压、评审压力等的应对能力。

Pedagogical Safety in Educational Reinforcement Learning: Formalizing and Detecting Reward Hacking in AI Tutoring Systems

教育强化学习中的教学安全性：形式化并检测AI辅导系统中的奖励黑客

Oluseyi Olukola, Nick Rahimi

机构 * School of Computing Sciences and Computer Engineering（计算科学与计算机工程学院） 纠错

专题命中 Agent评测 ：agent(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出教育强化学习的教学安全性四层模型及奖励黑客严重性指数，通过模拟实验发现奖励设计不足，需结合约束架构和认知需求以减少奖励黑客问题。

Comments 43 pages, 5 figures. Submitted to the International Journal of Artificial Intelligence in Education (IJAIED)

Anticipatory Reinforcement Learning: From Generative Path-Laws to Distributional Value Functions

前瞻性强化学习：从生成路径法则到分布价值函数

Daniel Bloch

机构 * Quant Finance Ltd ； College of Engineering and Computer Science, VinUniversity（VinUniversity工程与计算机科学学院） ； University of Paris 6（巴黎第六大学） ； VinUniversity 纠错

专题命中 Agent评测 ：agent(abstract)；分类 cs.LG

AI总结 本文提出前瞻性强化学习（ARL），通过生成路径法则和分布价值函数，解决非马尔可夫决策过程与传统强化学习架构在单观测轨迹约束下的衔接问题，提升在高波动连续时间环境中的风险管理和策略稳定性。

PSY-STEP: Structuring Therapeutic Targets and Action Sequences for Proactive Counseling Dialogue Systems

PSY-STEP：结构化治疗目标和行动序列用于前瞻性咨询对话系统

Jihyun Lee, Yejin Min, Yejin Jeon, SungJun Yang, Hyounghun Kim, Gary Geunbae Lee

机构 * Graduate School of Artificial Intelligence, POSTECH（浦项工业大学人工智能研究生院） ； Department of Computer Science and Engineering, POSTECH（浦项工业大学计算机科学与工程系） ； MILA ； McGill University（麦吉尔大学） 纠错

专题命中 Agent评测 ：agent(abstract)；分类 cs.AI

AI总结 本文提出PSY-STEP框架，通过结构化治疗目标和行动序列提升咨询对话系统的主动性和有效性，实验表明其在临床相关性、连贯性和个性化方面优于现有模型。

A Model of Understanding in Deep Learning Systems

深度学习系统中的理解模型

David Peter Wallis Freeborn

机构 * Northeastern University London（伦敦东北大学） 纠错

专题命中 Agent评测 ：agent(abstract)；分类 cs.AI

AI总结 本文提出深度学习系统中系统性理解的模型，指出其虽能实现理解但缺乏科学理解的象征一致性、明确还原性和强统一性。

Clear Roads, Clear Vision: Advancements in Multi-Weather Restoration for Smart Transportation

清晰的道路，清晰的视野：智能交通中多天气恢复的进展

Vijay M. Galshetwar, Praful Hambarde, Prashant W. Patil, Akshay Dudhane, Sachin Chaudhary

机构 * Finolex Academy of Management and Technology（Finolex管理与技术学院） ； Drone Lab, Centre for Artificial Intelligence and Robotics, IIT Mandi（印度理工学院曼迪分校人工智能与机器人中心无人机实验室） ； Mehta Family School of Data Science and Artificial Intelligence, IIT Guwahati（印度理工学院古瓦哈提分校梅塔家族数据科学与人工智能学院） ； SPACE42 ； Centre of Excellence: Artificial Intelligence, School of Computer Science, UPES Dehradun（UPES德拉敦分校计算机科学学院人工智能卓越中心） 纠错

专题命中 Agent评测 ：agentic(abstract)；分类 cs.AI

AI总结 本文综述了图像和视频恢复技术，以缓解天气引起的视觉障碍，分类了传统方法和数据驱动模型，并讨论了多天气系统和未来方向。

Comments Accepted for publication in IEEE Transactions on Intelligent Transportation Systems (2026)

CoopGuard: Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Round Attacks

CoopGuard：基于协作代理的有状态多轮防御框架用于抵御LLM的演变攻击

Siyuan Li, Zehao Liu, Xi Lin, Qinghua Mao, Yuliang Chen, Haoyu Li, Jun Wu, Jianhua Li, Xiu Su

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） ； Department of Computer Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校计算机科学系） ； Big Data Institute, Central South University（中南大学大数据研究院） 纠错

专题命中 Agent评测 ：agent(abstract)；分类 cs.AI

AI总结 本文提出CoopGuard，通过协作代理维护和更新内部防御状态，有效应对多轮演变攻击。实验显示其在攻击成功率、欺骗率和攻击效率上均优于现有方法。