arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-03-19 至 2026-03-19 共收录 1 信号源:cs.CL, cs.AI, cs.CY, cs.LG

1. 红队测试 1 篇

2603.17419 2026-03-19 cs.CR cs.AI 72%

Caging the Agents: A Zero Trust Security Architecture for Autonomous AI in Healthcare

将代理笼中:面向医疗AI自主系统的零信任安全架构

Saikat Maiti

机构 * VP of Trust, Commure(Commure 职务负责人) Founder & CEO, nFactor Technologies(nFactor Technologies 创始人及首席执行官)

专题命中 红队测试 :prompt injection(abstract,comments);red teaming(abstract);分类 cs.AI

AI总结 本文提出零信任安全架构,用于医疗AI自主代理,通过多层防御机制解决代理在医疗环境中存在的关键安全漏洞,包括凭证泄露、执行能力滥用等,并开源相关配置和工具。

Comments Keywords: agentic AI security, autonomous agents, healthcare cybersecurity, zero trust, prompt injection, HIPAA, Kubernetes security, OpenClaw

详情

展开后加载摘要…

URL PDF HTML 收藏