Contextual Linear Activation Steering of Language Models
上下文线性激活引导的语言模型
机构 * UC San Diego(加州大学圣地亚哥分校) ; MIT(麻省理工学院) ; Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学Broad研究所)
AI总结 本文提出CLAS方法,通过动态调整线性激活引导强度,在有限标注数据下提升语言模型的专精能力,优于传统方法和ReFT、LoRA。
高校专区
上下文线性激活引导的语言模型
机构 * UC San Diego(加州大学圣地亚哥分校) ; MIT(麻省理工学院) ; Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学Broad研究所)
AI总结 本文提出CLAS方法,通过动态调整线性激活引导强度,在有限标注数据下提升语言模型的专精能力,优于传统方法和ReFT、LoRA。
GeoEdit:用于扩散模型中无训练快速在流形上编辑的局部框架
机构 * University of California San Diego, La Jolla, CA, USA(加州大学圣迭戈分校) ; University of Washington, Seattle, WA, USA(华盛顿大学) ; Xidian University, Xi'an, China(西电大学)
AI总结 本文提出GeoEdit,通过局部流形切线空间实现无需训练的快速在流形上编辑,利用小扰动构建切线框架,实现精细编辑。
IRIS:交错强化与增量阶段课程用于跨语言数学推理
机构 * Singapore Institute of Technology(新加坡理工学院) ; IIIT Delhi(德里印度理工学院) ; University of California, San Diego(加州大学圣地亚哥分校) ; Nanyang Technological University(南洋理工大学) ; NVIDIA
AI总结 IRIS通过结合逐步增加难度的监督微调与逆课程强化学习,提升多语言数学推理能力,尤其在低资源和双语环境下表现突出。
Comments Accepted in ACL main
JigsawRL:构建高效的LLM后训练强化学习流水线
机构 * University of California, San Diego(加州大学圣地亚哥分校)
AI总结 JigsawRL通过动态资源分配和图调度策略,提升强化学习流水线效率,实现异步和同步任务的性能提升。
CFDLLMBench: 一个用于评估大型语言模型在计算流体力学中的性能的基准套件
机构 * Rensselaer Polytechnic Institute(拉特格斯理工学院) ; University of California, San Diego(加州大学圣地亚哥分校) ; National Laboratory of the Rockies(落基山国家实验室) ; Pacific Northwest National Laboratory(太平洋西北国家实验室)
AI总结 本文提出CFDLLMBench,通过三个互补组件评估LLM在计算流体力学中的能力,包括CFDQuery、CFDCodeBench和FoamBench,旨在测试LLM在流体力学知识、数值与物理推理以及上下文依赖的实现能力。
Comments 40 pages
Journal ref Journal of Data-Centric Machine Learning Research, 2026
EEG基础模型的通道适应:跨架构、任务和训练模式的系统性基准测试
机构 * Swartz Center for Computational Neuroscience, Institute for Neural Computation, University of California San Diego(斯瓦茨计算神经科学中心,神经计算研究所,加州大学圣地亚哥分校) ; Yneuro ; Centre de Recherche Cerveau et Cognition, CNRS, Université Paul Sabatier(脑与认知研究中心,法国国家科学研究中心,保罗·萨巴蒂埃大学)
AI总结 本文系统比较了四种通道适应方法在不同EEG基础模型、任务和训练模式中的表现,发现灵活模型在微调时需外部方法辅助,且5M参数CBraMod在4/5数据集上超越更大模型。
在混合专家调谐中保持长尾专家信息
机构 * Carnegie Mellon University(卡内基梅隆大学) ; MIT(麻省理工学院) ; UCSD(加州大学圣地亚哥分校) ; Johns Hopkins University(约翰霍普金斯大学)
AI总结 本文提出一种无需辅助损失的MoE SFT框架,通过偏置驱动稀疏化与始终活跃的门控凝结专家,有效保留长尾专家信息,实验显示在数学推理和常识问答基准上优于现有方法。
Comments 36 pages
RCSB PDB AI Help Desk:基于检索增强生成的蛋白质结构沉积支持
机构 * RCSB Protein Data Bank, Rutgers, The State University of New Jersey(RCSB蛋白质数据银行,新泽西州立大学拉特格斯分校) ; RCSB Protein Data Bank, San Diego Supercomputer Center, University of California San Diego(RCSB蛋白质数据银行,圣地亚哥超级计算机中心,加州大学圣地亚哥分校)
AI总结 本文提出基于检索增强生成的AI帮助台系统,用于支持蛋白质结构沉积的验证与生物整理,通过RAG技术提升帮助台效率,实现全天候的存款人支持。
Comments 13 pages, 0 figures
TokenTrace: 通过水印标记令牌恢复实现多概念归因
机构 * Adobe Research(Adobe研究院) ; University of California, San Diego(加州大学圣地亚哥分校) ; DECaDE, University of Surrey(Surrey大学DECaDE实验室)
AI总结 本文提出TokenTrace框架,通过在语义域中嵌入秘密签名,实现对生成图像中多个概念的鲁棒归因,实验表明其在单概念和多概念归因任务中均优于现有方法。
测试时适应用于无监督组合优化
机构 * UC San Diego(加州大学圣地亚哥分校)
AI总结 本文提出TACO框架,通过结合通用模型与实例特定模型,解决无监督组合优化中通用性与实例适应性的矛盾,提升求解质量与效率。
Comments TMLR 2026
RefTon:参考人物辅助虚拟试穿
机构 * The University of Tokyo(东京大学) ; AI Research(360AI研究院) ; University of California, San Diego(加州大学圣地亚哥分校) ; The Hong Kong University of Science and Technology(香港科学与技术大学)
AI总结 RefTon提出一种基于流的人到人的虚拟试穿框架,通过无配对视觉参考提升服装真实感,无需复杂辅助输入或结构引导,利用额外参考图像优化纹理对齐和服装细节。
Comments Accepted by CVPR 2026
用稀疏径向基函数网络求解非线性偏微分方程
机构 * University of California, San Diego(加州大学圣迭戈分校) ; Oak Ridge National Laboratory(橡树岭国家实验室)
AI总结 本文提出一种利用稀疏径向基函数网络求解非线性偏微分方程的新框架,通过稀疏正则化防止过参数化并减少冗余特征,结合传统RBF方法和物理信息神经网络的优劣,建立统一的理论基础和高效算法。
Comments 57 pages, 8 figures
MINT: 多向量搜索索引调优
机构 * University of California, San Diego(加州大学圣地亚哥分校) ; Microsoft Research(微软研究院)
AI总结 本文提出MINT框架,针对多向量搜索场景,通过算法优化实现低延迟和存储召回约束下的索引调优,相比基线提升2.1至8.3倍。
NVILA:高效的前沿视觉语言模型
机构 * NVIDIA ; MIT(麻省理工学院) ; UC Berkeley(加州大学伯克利分校) ; UC San Diego(加州大学圣地亚哥分校) ; University of Washington(华盛顿大学) ; Tsinghua University(清华大学)
AI总结 NVILA通过'缩放后再压缩'方法提升效率与准确性,降低训练和推理成本,适用于高分辨率图像和长视频处理。
Comments CVPR 2025. Project page: https://z-lab.ai/projects/nvila/