Lodestar: An Online-Learning LLM Inference Router
Lodestar: 一种在线学习的大语言模型推理路由器
机构 * UIUC(伊利诺伊大学香槟分校) ; Bytedance(字节跳动) ; University of Edinburgh(爱丁堡大学)
AI总结 提出Lodestar,一种基于在线学习的请求路由系统,通过实时收集集群状态并训练奖励预测器,以最小化TTFT为目标分配推理请求,在异构GPU集群上显著降低延迟。
高校专区
Lodestar: 一种在线学习的大语言模型推理路由器
机构 * UIUC(伊利诺伊大学香槟分校) ; Bytedance(字节跳动) ; University of Edinburgh(爱丁堡大学)
AI总结 提出Lodestar,一种基于在线学习的请求路由系统,通过实时收集集群状态并训练奖励预测器,以最小化TTFT为目标分配推理请求,在异构GPU集群上显著降低延迟。
用于求解J2摄动兰伯特问题的小型递归模型
机构 * Department of Aerospace Engineering, University of Illinois Urbana-Champaign(航空航天工程系,伊利诺伊大学厄巴纳-香槟分校) ; Te Pūnaha Ātea – Space Institute, University of Auckland(太空研究所,奥克兰大学)
AI总结 提出基于小型递归模型(TRM)的快速递归神经求解器TRM-PL,通过迭代深度而非参数数量实现有效容量,统一初始猜测生成与迭代校正,在多种轨道转移场景中显著降低终端位置误差。
SALSA: 通过学习的引导激活向量实现语音感知的LLM适配
机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; Korea Advanced Institute of Science and Technology(韩国科学技术院)
AI总结 提出SALSA方法,通过监督学习优化逐层引导向量,在儿童语音、多语种语音和普通话-英语代码切换基准上显著提升零样本推理和语音上下文学习性能,最高相对提升46.8%。
掩盖过时观察帮助搜索智能体——直到适得其反:一个机制图谱及其机制
机构 * UC San Diego(加州大学圣地亚哥分校) ; UC Berkeley(加州大学伯克利分校) ; Texas A&M University(德克萨斯大学) ; UIUC(伊利诺伊大学厄巴纳-香槟分校)
AI总结 本文通过系统实验发现,在长时域搜索智能体中掩盖过时观察的效果呈现非对称倒U型曲线,取决于检索器召回率与模型隐式过滤能力的交互,并揭示了其背后的令牌-轮次权衡机制。
Comments 47 pages, 7 figures
超越种姓类别:审视文本到图像AI模型中的种姓偏见与道德
机构 * University of Colorado Boulder(科罗拉多大学波得尔分校) ; University of Toronto(多伦多大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
AI总结 通过算法审计与批判性话语分析,揭示文本到图像模型如何超越上下种姓二元对立而延续种姓偏见,并提出反种姓方法应对AI系统中的公平问题。
驱动空间缩减以促进新型可重构腱驱动连续体机器人的形状匹配洞察
机构 * Department of Industrial and Enterprise Systems Engineering, University of Illinois Urbana-Champaign(工业与企业系统工程系,伊利诺伊大学厄巴纳-香槟分校) ; Department of Mechanical Science and Engineering, University of Illinois, Urbana-Champaign(机械科学与工程系,伊利诺伊大学厄巴纳-香槟分校)
AI总结 提出一种通过旋转间隔盘重构腱路径的连续体机器人设计,利用曲率-扭转中间空间简化从期望骨架曲线到驱动器输入的映射,实现无模型的分步形状匹配策略。
通过边缘可部署的硬件可移植图神经算子实时感知不可及的物理场
机构 * Grainger College of Engineering, Nuclear, Plasma & Radiological Engineering Department, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校格拉inger工程学院、核物理与等离子体工程系) ; Yardi School of Artificial Intelligence, Indian Institute of Technology Delhi(印度理工学院德里分校人工智能学院) ; Department of Applied Mechanics, Indian Institute of Technology Delhi(印度理工学院德里分校应用力学系) ; National Center for Supercomputing Applications(国家超级计算应用中心)
AI总结 提出VIRSO,一种具有独特时空架构的神经算子,通过硬件协同设计实现边缘设备上从稀疏边界观测到内部多物理场的实时推理,在降低能耗的同时保持高精度。
Comments 36 pages, 5 figures, 16 tables
大语言模型中通过神经元级编辑的可控价值对齐
机构 * National University of Singapore(新加坡国立大学) ; Hefei University of Technology(合肥工业大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; ST Engineering Ltd.(ST工程有限公司)
AI总结 提出NeVA框架,通过识别稀疏价值相关神经元并进行推理时激活编辑,实现细粒度可控价值对齐,减少价值泄漏并保持通用能力。