DiffuMask: Diffusion Language Model for Token-level Prompt Pruning
DiffuMask: 用于令牌级提示压缩的扩散语言模型
机构 * University of Washington(华盛顿大学) ; Oracle AI(甲骨文人工智能)
AI总结 DiffuMask通过迭代掩码预测实现快速并行提示压缩,保留关键推理上下文,实现80%的提示长度缩减,同时保持或提升准确性。
高校专区
DiffuMask: 用于令牌级提示压缩的扩散语言模型
机构 * University of Washington(华盛顿大学) ; Oracle AI(甲骨文人工智能)
AI总结 DiffuMask通过迭代掩码预测实现快速并行提示压缩,保留关键推理上下文,实现80%的提示长度缩减,同时保持或提升准确性。
VLMShield: 有效且稳健的视觉语言模型对抗恶意提示防御
机构 * University of Science and Technology of China(中国科学技术大学) ; University of Washington(华盛顿大学)
AI总结 本文提出VLMShield,通过多模态聚合特征提取框架提升视觉语言模型对恶意提示的防御能力,实验显示其在鲁棒性、效率和实用性方面表现优异。
RAGEN-2:代理强化学习中的推理崩溃
机构 * Northwestern University(西北大学) ; UIUC(伊利诺伊大学厄巴纳-香槟分校) ; Independent(独立研究者) ; Imperial College London(伦敦帝国学院) ; Oxford University(牛津大学) ; University of Washington(华盛顿大学) ; Microsoft(微软) ; Stanford University(斯坦福大学)
AI总结 研究发现代理强化学习中推理稳定性受模板崩溃影响,通过引入互信息代理提升推理质量与任务表现。
院内抑郁症检测:从常规初级保健会话中自动分析语言信号
机构 * University of Washington(华盛顿大学) ; University of California San Diego(加利福尼亚大学圣迭戈分校)
AI总结 研究通过分析初级保健会话中的语言信号,利用GPT-OSS等模型检测抑郁症,发现双人转录文本表现更优,且前128个患者词能有效检测,支持实时临床决策支持。
RLBoost: 为在大语言模型上高效强化学习利用可中断资源
机构 * UC Berkeley(加州大学伯克利分校) ; University of Michigan(密歇根大学) ; Google(谷歌) ; CMU(卡内基梅隆大学) ; University of Washington(华盛顿大学)
AI总结 RLBoost通过高效利用可中断GPU资源提升大语言模型强化学习的效率和成本效益,采用混合架构和三种关键技术实现状态less和 embarrassingly parallel的rollout阶段与可中断资源的匹配。