Oracle（甲骨文）

DiffuMask: Diffusion Language Model for Token-level Prompt Pruning

DiffuMask: 用于令牌级提示压缩的扩散语言模型

Caleb Zheng, Jyotika Singh, Fang Tu, Weiyi Sun, Sujeeth Bharadwaj, Yassine Benajiba, Sujith Ravi, Eli Shlizerman, Dan Roth

机构 * University of Washington（华盛顿大学） ； Oracle AI（甲骨文人工智能） 纠错

AI总结 DiffuMask通过迭代掩码预测实现快速并行提示压缩，保留关键推理上下文，实现80%的提示长度缩减，同时保持或提升准确性。