大模型对齐与安全

StealthGraph: Exposing Domain-Specific Risks in LLMs through Knowledge-Graph-Guided Harmful Prompt Generation

StealthGraph：通过知识图谱引导的有害提示生成暴露领域特定风险

Huawei Zheng, Xinqi Jiang, Sen Yang, Shouling Ji, Yingcai Wu, Dazhen Deng

机构 * School of Software Technology, Zhejiang University（浙江大学软件学院） ； College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； State Key Lab of CAD&CG, Zhejiang University（浙江大学CAD&CG国家重点实验室） 纠错

专题命中 红队测试 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出StealthGraph框架，通过知识图谱生成领域相关的隐式有害提示，解决领域知识转化为约束和提升提示隐式的挑战，推动LLM安全研究。