New York University（纽约大学）

Eviction as Estimation: A Fixed-Lag Smoothing View of Test-Time Memory, and When Measuring Beats Accumulating

作为估计的逐出：测试时内存的固定延迟平滑视图，以及测量何时胜过累积

Maruthi Vemula, Neeraj Praneeth Gajula

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； New York University（纽约大学） 纠错

AI总结 研究语言模型内存管理，将存储项保留决策转化为对项目是否被重用的估计问题，提出固定延迟平滑策略RMM。在受控设置中有优势，在第三方基准测试中表现一般，贡献了框架及测量与累积效果对比的映射。

Comments 8 pages, 3 figures, 3 tables

Exploring Budgeted Image Classification with Content-Sensitive Resource Allocation

利用内容敏感资源分配探索预算图像分类

Athanasios G. Papadopoulos

机构 * Tandon School of Engineering, New York University（纽约大学坦登工程学院） 纠错

AI总结 研究在动态计算环境下的预算图像分类问题，提出将其形式化为资源分配整数规划。针对原规划NP难问题，先提出连续松弛的内容无关策略，又改进为内容敏感策略，经实验验证性能更优，还从理论上研究策略并分析失败案例以指导未来研究。

Joint Optimization for Greedy Longest-match Tokenization

贪心最长匹配分词的联合优化

Adhiraj Singh, Deepanshu Mody, Ghina Al Shdaifat, Hamza Alshamy, Adam Wiemerslage, Varshini Reddy, Craig W. Schmidt

机构 * Center for Data Science, New York University（纽约大学数据科学中心） ； Kensho Technologies（肯绍科技公司） 纠错

AI总结 研究针对贪心最长匹配解码，提出联合优化方法JOLT，将词汇学习设为整数规划，通过贪心一致性约束等确保训练与部署时分词对齐，求解线性规划松弛扩大优化规模，实验表明其能缩小与最优压缩差距，减少令牌数量。

Comments 18 pages, 6 figures

Not All LLM Reasoning is Visible in the Chain-of-Thought

并非所有大语言模型的推理都能在思维链中体现

Vatsal Baherwani, Tom Goldstein, Ashwinee Panda

机构 * New York University（纽约大学） ； University of Maryland（马里兰大学） ； TogetherAI 纠错

AI总结 研究探讨大语言模型输出令牌是否体现所有推理，发现前沿模型存在利用无关填充令牌提升合成推理任务性能的不可见推理现象，评估多个模型，揭示填充令牌益处因模型和令牌而异，还表明其能服务隐藏目标，且强化学习等方法无法使填充令牌益处在测试时持续。