FinHarness: An Inline Lifecycle Safety Harness for Finance LLM Agents
FinHarness:面向金融LLM代理的内联生命周期安全约束框架
机构 * Peking University(北京大学) ; Nanyang Technological University(南洋理工大学) ; Tsinghua University(清华大学) ; University of Science and Technology of China(中国科学技术大学) ; University of Chinese Academy of Sciences(中国科学院大学) ; Soochow University(苏州大学) ; Beijing University of Posts and Telecommunications(北京邮电大学) ; University of Leeds(利兹大学) ; Fullive Innovation (Beijing) AI Technology Co., Ltd.(全维创新(北京)人工智能科技有限公司) ; Beihang University(北京航空航天大学) ; University of Illinois Chicago(伊利诺伊大学芝加哥分校)
AI总结 针对金融LLM代理在阻止提示诱导的未授权操作与批准合法多步骤业务流程之间的冲突,提出FinHarness内联安全约束框架,通过查询监控、工具监控和级联模块实现逐步骤风险评估与自适应验证,显著降低攻击成功率并保持良性批准率。