高校专区
OrbitQuant: 图像和视频扩散Transformer的数据无关量化
机构 * Cantina Labs（Cantina实验室） ； University of Southern California（南加州大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
AI总结 提出数据无关量化方法OrbitQuant，通过归一化旋转基和Lloyd-Max码本，无需校准数据即可对扩散Transformer的权重和激活进行低比特量化，在多个模型和模态上达到最优。
推理的几何特征：任务难度的谱视角
机构 * Northeastern University（东北大学） ； University of Southern California（南加州大学） ； Google Research（谷歌研究院）
AI总结 通过分析Transformer隐藏状态空间中思维链轨迹的谱、位置和运动学几何特征，提出有效维度d_ρ衡量轨迹复杂度，发现平坦特征谱对应更难任务，并利用运动学特征在生成早期预测答案正确性。
MIBE：面向个性化图像生成的多主体交互基准与评估器
机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； University of Southern California（南加州大学） ； DeerLab LLC（DeerLab有限责任公司） ； Carnegie Mellon University（卡内基梅隆大学） ； Clemson University（克莱姆森大学） ； Google（谷歌） ； San Jose State University（圣何塞州立大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
AI总结 提出MIBE框架，包含多主体交互基准（MIB）和评估器（MIE），通过解耦数据体制和双头排序诊断目标，解决多主体个性化图像生成中主体遗漏、外观失配和交互错误问题，在黄金集上达到0.922成对准确率。
异步RLHF的陈旧度-学习率缩放定律
机构 * The University of Hong Kong（香港大学） ； Shanghai Jiao Tong University（上海交通大学） ； Gradient ； University of Southern California（南加州大学） ； The Hong Kong Polytechnic University（香港理工大学）
AI总结 研究异步GRPO中陈旧rollout的影响，推导出陈旧度与学习率之间的缩放定律，揭示稳定性受累积漂移和陈旧度约束的双重条件。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈