University of Cambridge（剑桥大学）

LOFT: Low-Rank Orthogonal Fine-Tuning via Task-Aware Support Selection

LOFT：基于任务感知支持选择的低秩正交微调

Lanxin Zhao, Bamdev Mishra, Pratik Jawanpuria, Lequan Lin, Dai Shi, Junbin Gao, Andi Han

机构 * The University of Sydney（悉尼大学） ； Microsoft India（微软印度） ； Indian Institute of Technology Bombay（印度班加罗尔理工学院） ； University of Cambridge（剑桥大学） 纠错

AI总结 LOFT通过明确分离适应子空间和变换操作，改进正交参数高效微调方法，提出任务感知支持选择策略，提升效率与性能平衡。

Muon is Not That Special: Random or Inverted Spectra Work Just as Well

Muon 并不那么特殊：随机或倒置光谱效果一样好

Zakhar Shumaylov, Nathaël Da Costa, Peter Zaika, Bálint Mucsányi, Alex Massucco, Yoav Gelberg, Carola-Bibiane Schönlieb, Yarin Gal, Philipp Hennig

机构 * University of Cambridge（剑桥大学） ； University of Tübingen（图宾根大学） ； University of Oxford（牛津大学） 纠错

AI总结 本文挑战了非欧几里得优化中几何结构的重要性，通过Freon和Kaon等优化器展示，证明精确几何并非关键，而局部对齐和下降潜力控制性能。

Comments 45 pages

Streaming of rendered content with adaptive frame rate and resolution

流式传输渲染内容与自适应帧率和分辨率

Yaru Liu, Joseph G. March, Rafal K. Mantiuk

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 本文提出一种基于人类视觉系统时空限制的自适应流式传输方法，通过动态调整帧率和分辨率提升视觉质量并降低计算成本。

How far can bias go? Tracing bias from pretraining data to alignment

偏见能走多远？从预训练数据到对齐的偏见追溯

Marion Thaler, Abdullatif Köksal, Alina Leidinger, Anna Korhonen, Hinrich Schütze

机构 * CIS, LMU Munich（慕尼黑大学语言信息学研究所） ； ILLC, University of Amsterdam（阿姆斯特丹大学语言研究所） ； Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室） 纠错

AI总结 研究探讨预训练数据中的性别职业偏见如何在LLM中表现，通过零样本提示和词元共现分析，发现训练数据中的偏见被放大，指令微调部分缓解了代表性偏见，但整体性别刻板印象仍存在。