When Lower Privileges Suffice: Investigating Over-Privileged Tool Selection in LLM Agents
当较低权限足够时:探究LLM代理中的过度权限工具选择
发表机构 * Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) ; Beijing Academy of Artificial Intelligence(北京人工智能研究院) ; The Chinese University of Hong Kong(香港中文大学) ; Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院) ; School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院)
专题命中 工具调用 :聚焦LLM代理工具选择中的权限问题。
AI总结 针对LLM代理在工具选择中偏好高权限工具的安全问题,提出ToolPrivBench评估框架,发现主流代理普遍存在过度权限选择且被瞬态故障放大,并设计权限感知后训练防御方法有效减少不必要的高权限工具使用。
Comments code: https://github.com/AISafetyHub/agent-tool-selection-bias