大模型对齐与安全

Security Assessment of DeepSeek Harness with A.I.G: Evaluating Resistance to Indirect Prompt Injection

基于A.I.G的DeepSeek Harness安全评估：对间接提示注入的抗性评估

Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo

专题命中 提示注入 ：prompt injection(title,abstract)

AI总结 本研究用A.I.G评估DSH的间接提示注入抗性，开展多场景实验，发现不同攻击的成功率，明确需在不可信内容与敏感动作间增设控制措施。

Workspace Topology as an Attack Vector in Agentic Coding Assistants

工作空间拓扑作为智能体代码助手的攻击向量

Alexandre G.R. Day, Pradeep Yadlapalli, Sriram Venkatapathy, Thomas Paniagua, Nick Raines, Sahil Wadhwa, Himanshu Kumar, Andy Luo, Sudeep Panyam, Rikhiya Ghosh, Pranab Mohanty, Giri Iyengar

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究将工作空间拓扑作为攻击向量，发现其会影响智能体代码助手的间接提示注入攻击成功率，高度模块化环境及安全提示可降低攻击成功率，为代码智能体安全测试提供实用价值。

Comments 15 pages, 10 figures. Preprint of a paper accepted at the Conference on Applied Machine Learning in Information Security (CAMLIS 2026)

CAPO: Constraint-Aware Prompt Optimization for LLM Agents

CAPO：面向大语言模型智能体的感知约束提示优化

Victor Ye Dong, Reid Pryzant, Yi Liu, Jian Jiao

机构 * Microsoft（微软） 纠错

专题命中 提示注入 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出CAPO与DCAPO两种方法，通过原始对偶框架优化LLM智能体的系统提示，在智能体及助手式任务中均提升了可行性与性能。

Agent-Native Telemetry: Verifiable State-Delta Evidence for Autonomous Operations

智能体原生遥测：面向自主操作的可验证状态增量证据

Jun He, Deying Yu

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 该研究提出智能体原生遥测架构，基于ATP协议和状态增量证据账本，在微服务基准测试中大幅降低了数据开销、LLM资源消耗，且能检测对抗性突变、抵御提示注入攻击。

Comments 13 pages, 3 figures, 6 tables

Bounded Agents: Delegation Security for Multi-Agent AI Systems

有界智能体：多智能体AI系统的委托安全

Xabier Muruaga

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 该研究针对多智能体AI系统的委托安全问题，提出智能体委托链（APC）架构，经实验可有效阻止提示注入攻击，降低数据窃取、破坏及操纵风险，授权延迟低且效用损失可控。

Comments 14 pages, 4 figures, 18 tables. Code and data: this https URL (https://github.com/xmuruaga/bounded-agents)