大模型对齐与安全

LocalAlign: Enabling Generalizable Prompt Injection Defense via Generation of Near-Target Adversarial Examples for Alignment Training

LocalAlign: 通过生成接近目标的对抗示例实现通用的提示注入防御

Yuyang Gong, Zihao Wang, Jiawei Liu, XiaoFeng Wang

专题命中 提示注入 ：alignment(title,abstract)；prompt injection(title,abstract)

AI总结 LocalAlign通过生成接近正确响应但错误的对抗示例，提升提示注入防御的泛化能力，采用margin-aware对齐算法增强训练效果。

Trace: Unmasking AI Attack Agents Through Terminal Behavior Fingerprinting

Trace：通过终端行为指纹揭示AI攻击代理

Murali Ediga, Sudipta Chattopadhyay

专题命中 提示注入 ：prompt injection(abstract)

AI总结 本文提出Trace框架，通过终端命令序列识别AI攻击代理模型家族，利用防御性提示注入策略提取系统提示，提升攻击意图分析能力。