arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 12096 信号源:cs.CL, cs.AI, cs.LG

1. 其他LLM 12096 篇

2501.08579 2026-07-07 cs.CL 版本更新 90%

LLM-based Human Simulations Have Not Yet Been Reliable

基于大语言模型的人类模拟尚不可靠

Qian Wang, Jiaying Wu, Zichen Jiang, Zhenheng Tang, Bingqiao Luo, Nuo Chen, Wei Chen, Huacan Wang, Bingsheng He

机构 * National University of Singapore(新加坡国立大学) The Hong Kong University of Science and Technology(香港理工大学) University of Chinese Academy of Sciences(中国科学院大学)

专题命中 其他LLM :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 研究指出基于大语言模型(LLM)的人类模拟不可靠,通过系统回顾找出其在多领域模拟中的问题源于LLM局限与设计缺陷,提出强化数据、提升模型能力及稳健设计的解决框架与算法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.01867 2026-07-03 cs.SE cs.AI 新提交 90%

An Exploratory Study on LLM-Generated Code and Comments in Code Repositories

关于LLM生成的代码和注释在代码仓库中的探索性研究

Yongyi Ji, Jiaji Wang, Yi Zhou, Fuxiang Chen, Hongji Yang

机构 * School of Computing and Mathematical Sciences, University of Leicester(利兹大学计算与数学科学学院)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 本研究通过检测工具分析2021-2025年公司和社区维护的仓库,发现LLM生成的代码随时间减少且多出现在测试用例中,注释则相对稳定;公司仓库中LLM生成内容比例更高,且仅少数人工标记的bug与LLM生成代码相关。

Comments Accepted to The Journal of Systems & Software (JSS) on 1 July 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.00553 2026-07-01 cs.LG 版本更新 90%

Stable-GFlowNet: Toward Diverse and Robust LLM Red-Teaming via Contrastive Trajectory Balance

Stable-GFlowNet: 通过对比轨迹平衡实现多样且鲁棒的LLM红队测试

Minchan Kwon, Sunghyun Baek, Minseo Kim, Jaemyung Yu, Dongyoon Han, Junmo Kim

机构 * Naver AI Lab(Naver AI实验室)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 针对大语言模型红队测试中有效性与多样性难以兼顾的问题,提出Stable-GFlowNet方法,通过消除配分函数估计和对比轨迹平衡实现稳定训练,在保持最优策略的同时提升攻击性能与多样性。

Comments ICML 2026 Spotlight

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28839 2026-06-30 cs.LG 90%

The Contagion Tensor: A Framework for Measuring Output-Distribution Coupling in Multi-Agent LLM Systems -- and Auditing the Claims It Enables

传染张量:多智能体大语言模型系统中输出分布耦合的测量框架——及其支持的主张审计

Zewen Liu

专题命中 其他LLM :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 提出传染张量框架量化多智能体LLM输出分布耦合,导出耦合放大因子(CAF)作为无量纲指标,通过仿真和真实API实验验证图像条件超线性效应,提供可迁移消融协议。

Comments 26 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.26924 2026-06-26 cs.SE cs.AI cs.CR 新提交 90%

A Deterministic Control Plane for LLM Coding Agents

LLM编码代理的确定性控制平面

Padmaraj Madatha

机构 * Happiest Minds Technologies (AIP Centre of Excellence)(happiest minds technologies(aip中心卓越机构))

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 针对LLM编码代理配置缺乏管理的问题,提出确定性控制平面Rel(AI)Build,通过内容寻址、分层权限、阶段状态机等机制确保配置安全与一致性。

Comments 45 pages, 9 figures, 13 tables. Dataset and reproduction scripts: Zenodo DOI 10.5281/zenodo.20780913. Ancillary files include report.json, organizations.txt, and figure-reproduction scripts

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.26203 2026-06-26 cs.AI cs.CY cs.MA cs.SI 新提交 90%

Agentic Analysis for Agentic Infrastructure: An LLM-Powered Pipeline for Comparative Governance of DAO and Corporate AI Protocols

面向代理基础设施的代理分析:基于LLM的DAO与企业AI协议比较治理管道

Yutian Wang, Luyao Zhang

机构 * Duke Kunshan University(昆山杜克大学)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 提出LLM驱动的比较分析管道,结合自动标注、神经主题建模和多层网络分析,研究DAO与企业AI协议的治理结构,发现开放治理促进主题收敛但参与不平等普遍存在。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13076 2026-06-25 cs.CL cs.FL cs.SE 版本更新 90%

TruncProof: A Guardrail for LLM-based JSON Generation under Token-Length Constraints

TruncProof: 一种用于在令牌长度限制下基于LLM的JSON生成的防护机制

Yoshio Kato, Shuhei Tarashima

机构 * NTT DOCOMO BUSINESS, Inc., Japan(NTT DOCOMO商务公司,日本)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 本文提出TruncProof,一种基于文法约束的生成方法,使LLM在限定令牌数下生成语法正确的JSON。实验表明其在严格令牌限制下仍能生成语法正确且语义准确的输出。

Comments Main paper (8 pages). Accepted at the International Joint Conference on Neural Networks (IJCNN 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.22719 2026-06-23 q-fin.ST cs.AI 新提交 90%

Leakage-Aware Benchmarking of LLM Forecasting: Real-Time Nowcasts as the Decision-Time Input for Macro Factor Ranking

泄露感知的LLM预测基准测试:实时预测作为宏观因子排序的决策时间输入

Mao Guan, Qian Chen

机构 * Independent Researcher(独立研究者)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 提出一种泄露控制的因子排序方法,使用检索增强的7B开源LLM预测器,在决策时间仅利用滞后宏观变量、近期事件摘要和实时通胀预测,实现中位数Spearman秩IC为+0.154,并验证了实时通胀信息和宏观相似检索对中位数信号的主导作用。

Comments 10 pages, 4 figures. Accepted at the ICML 2026 Workshop on AI Forecasting (Forecasting as a New Frontier of Intelligence). Non-archival. OpenReview: https://openreview.net/forum?id=mi8QiWomm3

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.23664 2026-06-23 cs.LG cs.MA 新提交 90%

MAS-PromptBench: When Does Prompt Optimization Improve Multi-Agent LLM Systems?

MAS-PromptBench:提示优化何时能提升多智能体LLM系统?

Juyang Bai, Laixi Shi

机构 * Johns Hopkins University(约翰霍普金斯大学) Department of Electrical and Computer Engineering, Johns Hopkins University(约翰霍普金斯大学电气与计算机工程系)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.LG

AI总结 系统研究提示优化在多智能体LLM系统中的效果,发现其能显著提升性能,但收益依赖于任务、工作流和团队规模等配置。

Comments Project page: https://juyangbai.github.io/MAS-PromptBench/ ; Code: https://github.com/juyangbai/MAS-PromptBench

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12280 2026-06-23 cs.SE cs.AI 版本更新 90%

Iterative Audit Convergence in LLM-Managed Multi-Agent Systems: A Case Study in Prompt-Engineering Quality Assurance

迭代审计收敛于LLM管理的多智能体系统:提示工程质量保证的案例研究

Elias Calboreanu

机构 * Swift (North) AI Lab, The Swift Group, LLC, Maryland, USA(Swift(北)AI实验室,The Swift Group LLC,马里兰州,美国) Capitol Technology University, Laurel, MD 20708, USA(Capitol技术大学,Laurel,马里兰州20708,美国)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文通过AEGIS系统案例研究,探讨了迭代、智能体驱动的审计方法,发现7150行提示规范中存在51个一致性缺陷,提出七类缺陷分类及审计协议。

Comments 23 pages, 4 figures, 11 tables. Published in MDPI Software (Special Issue: Software Reliability, Security and Quality Assurance). Companion preprint at arXiv:2604.05000

Journal ref Software 2026, 5, 26

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.20258 2026-06-19 cs.HC cs.AI 新提交 90%

Editorial Alignment: A Participatory Approach to Engaging Editorial Expertise in LLM-mediated Knowledge Dissemination

编辑对齐:一种参与式方法,将编辑专业知识引入LLM介导的知识传播

Simon Aagaard Enni, Malthe Stavning Erslev, Karl-Emil Kjær Bilstrup, Kristoffer Laigaard Nielbo

机构 * Aarhus University(奥胡斯大学) University of Copenhagen(哥本哈根大学)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 本文提出“编辑对齐”作为参与式AI设计实践,通过设计工作坊让编辑参与重新对齐LLM接口至编辑标准,以维护公共知识机构的编辑职能。

Comments 14 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.15914 2026-06-16 cs.CL cs.HC 新提交 90%

Contaminated Collaboration: Measuring Gender Bias Transfer in LLM-Assisted Student Writing

污染的合作:测量LLM辅助学生写作中的性别偏见迁移

Ariyan Hossain, Kazi Kamruzzaman Rabbi, Farig Sadeque, S M Taiabul Haque

机构 * Brac University(布拉卡大学)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 通过实验发现,使用性别偏见的LLM写作助手会显著增加学生职业规划作文中的性别刻板印象,且偏见迁移不对称:女性目标作文的能动性被抑制,男性目标作文受影响较小。

Comments 18 pages, 7 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.14209 2026-06-15 cs.CL 新提交 90%

Detecting undisclosed LLM-generated content in parliamentary texts

检测议会文本中未披露的LLM生成内容

Minerva Suvanto, Andrea McGlinchey, Peter J. Barclay, Mattias Wahde

机构 * Chalmers University of Technology(查尔姆斯理工大学) University of Cambridge(剑桥大学)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 本研究训练可解释文本分类器,检测英国和瑞典议会文本中未披露的LLM使用情况,发现自2022年起两国议会中未披露的LLM使用持续增加。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21594 2026-06-11 cs.LG 版本更新 90%

Visualizing LLM Latent Space Geometry Through Dimensionality Reduction

通过降维可视化LLM潜在空间几何结构

Alex Ning, Vainateya Rangaraju, Yen-Ling Kuo

机构 * Department of Computer Science, University of Virginia(计算机科学系,弗吉尼亚大学)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 通过PCA和UMAP降维,可视化GPT-2和LLaMa中Transformer层的潜在状态几何,发现注意力与MLP输出分离、初始位置高范数及螺旋结构等模式。

Comments 25 pages, 15 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.10439 2026-06-10 cs.SD cs.CL eess.AS 新提交 90%

Enhancing Multilingual LLM-based ASR with Mixture of Experts and Dynamic Downsampling

利用混合专家和动态下采样增强基于多语言大模型的语音识别

Guodong Lin, Ziqi Chen, Yuxiang Fu, Ke Li, Wei-Qiang Zhang

机构 * University of Science and Technology of China(中国科学技术大学)

专题命中 其他LLM :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 提出基于投影器的LLM-ASR框架,通过混合专家架构提升跨语言适应性,并利用连续整合-触发机制实现动态下采样和模态对齐,实验表明该方法显著超越强基线模型。

Comments Accepted by ICASSP 2026

Journal ref ICASSP (2026),18807-18811

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.07874 2026-06-09 cs.AI 新提交 90%

Safety is Contextual, LLM-Judges Are Not: Navigating the Rigid Priors of Evaluators

安全是上下文相关的,而LLM评判者不是:应对评估者的刚性先验

Anissa Alloula, Federico Licini, Ava Batchkala, Seraphina Goldfarb-Tarrant

机构 * University of Oxford(牛津大学) Cohere

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 研究LLM作为安全评判者时,对上下文信息的依赖性和对不同安全定义的可引导性,发现它们难以在上下文或安全定义与自身先验矛盾时调整评估。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.00358 2026-06-09 cs.CL cs.CV 版本更新 90%

From Backward Spreading to Forward Replay: Revisiting Target Construction in LLM Parameter Editing

从反向传播到正向回放:重新审视LLM参数编辑中的目标构造

Wei Liu, Hongkai Liu, Zhiying Deng, Yee Whye Teh, Wee Sun Lee

机构 * University of Cambridge(剑桥大学) University of Edinburgh(爱丁堡大学)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 本文重新审视LLM参数编辑中的目标构造,提出一种更简洁的替代方法,通过正向传播代替反向传播,提高目标隐藏状态的准确性和兼容性。

Comments ICML 2026, code: https://github.com/jugechengzi/FE

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.06755 2026-06-08 cs.CL cs.ET 新提交 90%

PromptPrint: Behavioral Biometrics Through Natural Language Prompting in LLMs

PromptPrint: 通过自然语言提示在LLMs中的行为生物特征

Shaiv Patel, Kartik Narayan, Vishal Patel

机构 * Johns Hopkins University(约翰霍普金斯大学)

专题命中 其他LLM :LLM(summary_cn,abstract);prompting(title);large language model(abstract);language model(abstract)

AI总结 提出PromptPrint,研究用户与LLM交互的简短提示是否包含可识别的行为生物特征,通过词汇、句法和话语模式分析,发现词汇稳定性假设成立,但存在唯一性-一致性悖论,且身份信号对语义改写脆弱。

Comments 10 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.03032 2026-06-03 cs.CL 90%

The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation

深思幻觉:诊断多智能体LLM讨论中的事实损耗与立场同质化

Herun Wan, Jiaying Wu, Minnan Luo, Fanxiao Li, Ningnan Wang, Nancy F. Chen, Min-Yen Kan

机构 * Xi’an Jiaotong University(西安交通大学) National University of Singapore(新加坡国立大学) Yunnan University(云南大学) Agency for Science, Technology and Research (A*STAR), Singapore(新加坡科技研究局(A*STAR))

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 本文提出DelibTrace框架,通过分解原子事实并追踪其存留,发现多智能体LLM讨论中高达72%的关键事实丢失,导致立场同质化,揭示了“同意越多、知道越少”的风险。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.01490 2026-06-02 cs.SE cs.AI cs.MA 90%

LLM Consortium for Software Design Refinement: A Controlled Experiment on Multi-Agent Collaboration Topologies

LLM联盟用于软件设计精化:多智能体协作拓扑的受控实验

Nagarjuna Kanamarlapudi, Praveen K

机构 * LLM Consortium for Software Design Refinement(软件设计精炼LLM联盟)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 通过受控实验评估12种多智能体LLM协作拓扑在软件架构设计中的表现,发现结构对抗变体(v4b)和跨模型评审(v2)排名前二,并行合并因令牌饥饿和弗兰肯斯坦效应表现最差。

Comments 12 pages, 9 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.30653 2026-06-01 cs.CL 90%

Counterfactual Graph for Multi-Agent LLM Calibration

多智能体LLM校准的反事实图

Jiatan Huang, Mingchen Li, Ziming Li, Sunjae Kwon, Hong Yu, Chuxu Zhang

机构 * University of Connecticut(康涅狄格大学) University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 针对多智能体LLM系统中通信导致的相关失败和虚假共识问题,提出CAGE-CAL框架,通过比较观察到的通信后图与匹配的反事实无通信图来校准置信度,提升可靠性区分和拓扑选择。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.26270 2026-05-29 cs.AI 90%

Graph-Enhanced Policy Optimization in LLM Agent Training

图增强策略优化在LLM智能体训练中的应用

Jiazhen Yuan, Zhike Gong, Jinquan Hang, Zhengbiao Bai, Wei Zhao

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 提出图增强策略优化(GEPO)框架,通过状态转移图的双层结构信用分配(任务条件关键性评分),在LLM多步智能体训练中提升成功率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28321 2026-05-28 cs.SE cs.AI 90%

Multi-Agent LLM-based Metamorphic Testing for REST APIs

基于多智能体LLM的REST API蜕变测试

Shehroz Khan, Abdullah Mughees, Gaadha Sudheerbabu, Tanwir Ahmad, Dragos Truscan

机构 * Åbo Akademi University(阿博阿卡迪米大学)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 提出ARMeta方法,利用基于LLM的多智能体工作流自动识别蜕变测试场景并生成可执行测试,以解决REST API测试中的预言问题。

Comments Author submitted version accepted for publication the IEEE Conference on Computers, Software, and Applications (COMPSAC2026), July 7-11, 2026, Madrid Spain

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.27593 2026-05-28 cs.AI cs.MA 90%

Voluntary Collusion with Secret Tools in Competing LLM Agents

竞争性LLM代理中使用秘密工具的合谋行为

Xijie Zeng, Frank Rudzicz

机构 * Dalhousie University(达尔豪斯大学) Vector Institute for Artificial Intelligence(人工智能向量研究所)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 本研究通过两个多智能体环境(Liar's Bar和Cleanup)发现,即使工具被明确标注为不公平且有害,大多数LLM代理仍会自愿采用秘密合谋工具以获取战略优势,且仅靠对齐或公平标签无法有效阻止,需明确防护措施。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.06357 2026-05-26 cs.LG 90%

LLM-SAA: LLM-persona Generated Distributions for Decision-making

LLM-SAA:基于LLM人格生成分布的决策方法

Jackie Baek, Yunhan Chen, Ziyu Chi, Will Ma

机构 * Stern School of Business, New York University(纽约大学 Stern 商学院) Department of Computer Science, Columbia University(哥伦比亚大学 计算机科学系) Graduate School of Business and Data Science Institute, Columbia University(哥伦比亚大学 商学院和数据科学研究院)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.LG

AI总结 研究利用LLM生成分布(如模拟消费者支付意愿)支持下游决策,通过三个经典问题(分类优化、定价、报童模型)评估其实际效用,发现低数据场景下有效,且决策无关指标(如Wasserstein距离)可能误导。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16194 2026-05-18 cs.DL cs.AI cs.IR cs.MA 90%

paper.json: A Coordination Convention for LLM-Agent-Actionable Papers

为LLM-代理可操作论文的协调约定

Arquimedes Canedo

机构 * arquicanedo

专题命中 其他LLM :LLM(title,title_cn);分类 cs.AI

AI总结 本文提出paper.json文件,通过稳定声明ID、明确不声明列表、精确图示命令和稳定定义ID等约定,解决LLM代理在阅读学术论文时的重复失败问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.21545 2026-05-15 cs.LG 90%

MUON+: Towards More Effective Muon via One Additional Normalization Step for LLM Pre-training

MUON+: 向更有效的穆恩添加一个额外的归一化步骤以用于LLM预训练

Ruijie Zhang, Yequan Zhao, Ziyue Liu, Zhengyang Wang, Yupeng Su, Liyan Tan, Zheng Zhang

机构 * University of California at Santa Barbara(加州大学圣芭芭拉分校)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出Muon+,通过在极化正交化后添加一个归一化步骤,解决极化后更新不平衡问题,提升LLM预训练效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12512 2026-05-14 cs.SI cs.AI 90%

Beyond Individual Mimicry: Constructing Human-Like Social network with Graph-Augmented LLM Agents

超越个体模仿:构建具有图增强大语言模型代理的人类社交网络

Haoran Bu, Litian Zhang, Chuxuan Zhang, Zhanyuan Liu, Hui Pang, Xi Zhang

机构 * Cyberspace Security, Beijing University of Posts and Telecommunications(网络安全,北京邮电大学) Institute of Software, Chinese Academy of Sciences(软件研究所,中国科学院)

专题命中 其他LLM :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出GraphMind,通过让基于LLM的社交机器人学习人类社交网络结构,解决现有社交机器人在全局交互协调上的不足,并构建GraphMind-Botnet评估现有检测算法性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2412.14461 2026-05-13 cs.CL 90%

To Err Is Human; To Annotate, SILICON? Toward Robust Reproducibility in LLM Annotation

犯错是人之常情;标注,硅?迈向LLM标注中的稳健可重复性

Xiang Cheng, Raveesh Mayya, João Sedoc

机构 * Robert H. Smith School of Business, University of Maryland(马里兰大学罗伯特·H·史密斯商学院) Leonard N. Stern School of Business, New York University(纽约大学伦纳德·N·斯坦商学院)

专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL

AI总结 本文提出SILICON框架,通过分解标注误差来源,减少测量误差,提升LLM标注的稳健可重复性,同时建立备份模型并量化标注质量上限。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11790 2026-05-12 cs.CR cs.AI 90%

ClawGuard: A Runtime Security Framework for Tool-Augmented LLM Agents Against Indirect Prompt Injection

ClawGuard:一种用于对抗间接提示注入的工具增强LLM代理运行时安全框架

Wei Zhao, Zhe Li, Peixin Zhang, Jun Sun

机构 * Singapore Management University(新加坡国立管理学院)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 ClawGuard通过在工具调用边界实施用户确认规则集,有效阻止间接提示注入攻击,无需修改模型或基础设施,实验显示其在多个基准测试中均能提供可靠保护。

详情

展开后加载摘要…

URL PDF HTML 收藏