大模型对齐与安全

The Cognitive Firewall:Securing Browser Based AI Agents Against Indirect Prompt Injection Via Hybrid Edge Cloud Defense

认知防火墙：通过混合边缘云防御保护基于浏览器的AI代理免受间接提示注入攻击

Qianlong Lan, Anuj Kaul

机构 * eBay Inc（eBay公司） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

AI总结 本文提出认知防火墙，通过混合边缘云防御机制，有效降低基于浏览器的AI代理遭受间接提示注入攻击的成功率，同时显著提升系统响应效率。

Invisible Threats from Model Context Protocol: Generating Stealthy Injection Payload via Tree-based Adaptive Search

基于模型上下文协议的隐形威胁：通过树状自适应搜索生成隐蔽注入负载

Yulin Shen, Xudong Pan, Geng Hong, Min Yang

机构 * School of Computer Science, Fudan University（复旦大学计算机科学学院） ； Shanghai Innovation Institute（上海创新研究院） ； IEEE Publication Technology Group（IEEE出版技术组） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出TIP攻击方法，通过树状结构搜索生成隐蔽负载，有效攻击MCP增强代理，实验显示其在未防御环境下攻击成功率超95%，且优于现有方法。