arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

University of Oxford(牛津大学)

2026-07-22 至 2026-07-22 共收录 3
2607.18532 2026-07-22 cs.CL 新提交

Reasoning Fine-Tuning Induces Persistent Latent Policy States

推理微调诱导持久的潜在策略状态

Abir Harrasse, Michael Lan, Hunar Batra, Fateme Hashemi Chaleshtori, Chaithanya Bandi

机构 * University of Oxford(牛津大学) University of Utah(犹他大学)

AI总结 研究推理微调对语言模型的影响,将思维链推理建模为切换动态系统,通过时间感知对比表征学习等方法恢复潜在策略。发现推理微调使模型有更丰富的潜在策略组织,恢复的状态有功能意义,SDS引导的剪枝效果良好,为推理模型分析和控制提供新视角。

Comments Accepted at the Conference on Language Modeling (COLM) 2026. 45 pages, including appendices; 24 figures and 12 tables. Code: https://github.com/withmartian/mi-cot

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18271 2026-07-22 cs.AI 新提交

Using LLMs for Explainable, Data-Driven Insight Generation from Time Series

使用大语言模型从时间序列中生成可解释的、数据驱动的见解

Ria Mundhra, Gustavo Sato dos Santos, Michael Benedikt

机构 * University of Oxford(牛津大学) Vortexa

AI总结 研究针对时间序列预测中解释生成难且易幻觉的问题,提出领域无关框架,含提取解释因素、基于证据生成解释及可扩展评估三组件,经案例研究验证,该框架能大规模实现有根据的解释生成,无需特定领域微调。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18584 2026-07-22 cs.LG math.DS 新提交

On the Diverse Dynamical Behaviors Arising in Deep Linear Transformers

关于深度线性编码器-only变压器中出现的多样动力学行为

Sixu Li, Thomas Jacob Maranzatto, Jan Peszek, Trevor Teolis, Semih Akkoc, Konstantin Riedl, Sennur Ulukus, Nicolás García Trillos

机构 * University of Wisconsin–Madison(威斯康星大学麦迪逊分校) University of Maryland(马里兰大学) University of Warsaw(华沙大学) Rice University(莱斯大学) University of Oxford(牛津大学)

AI总结 研究深度线性编码器-only变压器推理时行为,通过相互作用粒子系统视角,在二维嵌入维度揭示其动力学可表述为广义Kuramoto型模型,还发现多种长期行为及相关特性,高维数值实验表明这些行为在更高维度持续存在。

详情

展开后加载摘要…

URL PDF HTML 收藏