TruncProof: A Guardrail for LLM-based JSON Generation under Token-Length Constraints
TruncProof: 一种用于在令牌长度限制下基于LLM的JSON生成的防护机制
机构 * NTT DOCOMO BUSINESS, Inc., Japan(NTT DOCOMO商务公司,日本)
专题命中 其他LLM :LLM(title,title_cn);分类 cs.CL
AI总结 本文提出TruncProof,一种基于文法约束的生成方法,使LLM在限定令牌数下生成语法正确的JSON。实验表明其在严格令牌限制下仍能生成语法正确且语义准确的输出。
Comments Main paper (8 pages). Accepted at the International Joint Conference on Neural Networks (IJCNN 2026)