arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-28 至 2026-04-28 共收录 37 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 37 篇

2604.23747 2026-04-28 cs.LG cs.AI cs.CL 94%

SFT-then-RL Outperforms Mixed-Policy Methods for LLM Reasoning

在LLM推理中,SFT-然后-RL优于混合策略方法

Alexis Limozin, Eduard Durech, Torsten Hoefler, Imanol Schlag, Valentina Pyatkin

机构 * ETH AI Center, ETH Zürich(苏黎世联邦理工学院人工智能中心) EPFL(瑞士联邦理工学院) Allen Institute for AI(人工智能研究所)

专题命中 指令微调 :SFT(title,title_cn);LLM(title,title_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 本文指出,混合策略方法的性能提升源于两个错误:DeepSpeed优化器在梯度累积中丢失中间微批次,以及OpenRLHF损失聚合错误加权。修正后,标准SFT-然后-RL流程在数学基准上超越了所有混合策略方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11831 2026-04-28 cs.CV 93%

Towards High-Fidelity CAD Generation via LLM-Driven Program Generation and Text-Based B-Rep Primitive Grounding

通过LLM驱动的程序生成和基于文本的B-Rep基础构建实现高保真的CAD生成

Jiahao Li, Qingwang Zhang, Qiuyu Chen, Guozhan Qiu, Yunzhong Lou, Xiangdong Zhou

机构 * Fudan University(复旦大学) Shanghai Jiao Tong University(上海交通大学)

专题命中 指令微调 :LLM(title,title_cn);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出FutureCAD框架,利用LLM和BRepGround变压器生成高保真的CAD模型,通过自然语言指定几何选择并训练数据集提升生成性能。

Comments preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.08484 2026-04-28 cs.AI 92%

Patching LLM Like Software: A Lightweight Method for Improving Safety Policy in Large Language Models

像软件一样修补大语言模型:一种轻量级方法用于改进大语言模型的安全策略

Huzaifa Arif, Keerthiram Murugesan, Ching-Yun Ko, Pin-Yu Chen, Payel Das, Alex Gittens

机构 * Rensselaer Polytechnic Institute(拉特格斯理工学院) IBM Research(IBM研究院)

专题命中 指令微调 :LLM(title,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 本文提出了一种轻量级方法,通过在现有模型前添加可学习的前缀来快速修复大语言模型的安全漏洞,该方法在毒性缓解、偏见减少和有害性拒绝等关键领域实现了与新一代安全对齐模型相当的安全提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.24468 2026-04-28 cs.CR cs.CL cs.DC cs.LG 92%

A Survey on Split Learning for LLM Fine-Tuning: Models, Systems, and Privacy Optimizations

关于用于LLM微调的分裂学习的综述:模型、系统和隐私优化

Zihan Liu, Yizhen Wang, Rui Wang, Xiu Tang, Sai Wu

机构 * Zhejiang University(浙江大学)

专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文综述了分裂学习在LLM微调中的应用,探讨了模型、系统和隐私优化方法,旨在为该领域提供清晰的方向和系统的分类比较。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.08377 2026-04-28 cs.LG cs.AI cs.CL 91%

Reinforcement Learning with Backtracking Feedback

具有回溯反馈的强化学习

Bilgehan Sel, Vaishakh Keshava, Phillip Wallis, Lukas Rutishauser, Ming Jin, Dingcheng Li

机构 * Google(谷歌) Google DeepMind(谷歌DeepMind) Virginia Tech(弗吉尼亚理工大学)

专题命中 指令微调 :SFT(summary_cn,abstract);LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出RLBF框架,通过强化学习阶段使模型动态纠正生成错误,结合改进的SFT数据生成策略,提升LLM在对抗攻击和内在错误中的安全性。

Comments NeurIPS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22783 2026-04-28 cs.LG cs.AI 90%

Parameter Efficiency Is Not Memory Efficiency: Rethinking Fine-Tuning for On-Device LLM Adaptation

参数效率不等于内存效率:重新思考设备端LLM适应的微调

Irene Tenison, Stella Ahn, Miriam Kim, Ebtisam Alshehri, Lalana Kagal

机构 * MIT CSAIL(MIT计算机科学与人工智能实验室) Harvard SEAS(哈佛大学科学、工程与应用数学系)

专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文挑战参数效率等同于内存效率的假设,提出LARS框架通过约束激活子空间降低内存消耗,实验证明在不同设备上均能提升内存效率和性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.02556 2026-04-28 cs.LG cs.AI 90%

Beyond Experience Retrieval: Learning to Generate Utility-Optimized Structured Experience for Frozen LLMs

超越经验检索:学习生成优化的结构化经验以冻结LLM

Xuancheng Li, Haitao Li, Yujia Zhou, Yiqun Liu, Qingyao Ai

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China(清华大学计算机科学与技术系,北京,中国) Quancheng Laboratory(千晨实验室)

专题命中 指令微调 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出SEAM模块,通过单次前向传递生成实例定制的经验条目,优化冻结LLM的执行效率,实验显示在数学推理基准上准确率提升显著。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.24429 2026-04-28 cs.CL 89%

A Multi-Dimensional Audit of Politically Aligned Large Language Models

对政治倾向大型语言模型的多维审计

Lisa Korver, Mohamed Mostagir, Sherief Reda

机构 * Brown University(布朗大学) University of Michigan(密歇根大学) Ross School of Business(罗斯商学院)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract_cn);分类 cs.CL

AI总结 本文提出基于哈贝马斯沟通行动理论的多维框架,评估政治倾向语言模型在有效性、公平性、真实性及说服力四方面的表现,揭示大模型在政治角色扮演中更有效但更偏颇的权衡问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.25414 2026-04-28 cs.LG cs.AI cs.CL 88%

Rethinking Parameter Sharing for LLM Fine-Tuning with Multiple LoRAs

重新思考多LoRAs的参数共享用于LLM微调

Hao Ban, Kaiyi Ji

机构 * Department of Computer Science and Engineering, University at Buffalo(计算机科学与工程系,布法罗大学)

专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出ALoRA和Fed-ALoRA,通过异构矩阵分解策略,在多任务和联邦微调中实现更平衡的性能,优于现有多LoRA方法。

Comments Accepted to ACL 2026 Findings

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.24320 2026-04-28 cs.CL 87%

DPEPO: Diverse Parallel Exploration Policy Optimization for LLM-based Agents

DPEPO:基于大语言模型代理的多样化并行探索策略优化

Junshuo Zhang, Chengrui Huang, Feng Guo, Zihan Li, Ke Shi, Menghua Jiang, Jiguo Yu, Shuo Shang, Shen Gao

机构 * University of Electronic Science and Technology of China(电子科技大学) DiDi(滴滴)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);SFT(abstract)

AI总结 本文提出DPEPO算法,通过并行探索提升大语言模型代理在复杂任务中的性能,实验表明其在ALFWorld和ScienceWorld上达到最先进的成功率。

Comments Accepted by ACL 2026 main conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23987 2026-04-28 cs.LG 87%

Continual Calibration: Coverage Can Collapse Before Accuracy in Lifelong LLM Fine-Tuning

持续校准:在终身LLM微调中,覆盖度可能在准确性之前崩溃

Ibne Farabi Shihab, Sanjeda Akter, Anuj Sharma

机构 * Department of Computer Science, Iowa State University(艾奥瓦州立大学计算机科学系) Department of Civil, Construction & Environmental Engineering, Iowa State University(艾奥瓦州立大学土木、建设与环境工程系)

专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文研究了在连续学习中,覆盖度可能早于准确性下降的问题,提出校准回放方法以恢复覆盖度,通过实验和理论分析验证其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23557 2026-04-28 cs.MA cs.AI 87%

DLM: Unified Decision Language Models for Offline Multi-Agent Sequential Decision Making

DLM:统一的决策语言模型用于离线多智能体顺序决策制定

Zhuohui Zhang, Bin Cheng, Bin He

机构 * Department of Control Science and Engineering, Tongji University, Shanghai 201804, China(同济大学控制科学与工程学院) Shanghai Institute of Intelligent Science and Technology(上海智能科学研究院) Shanghai Research Institute for Intelligent Autonomous Systems(上海智能自主系统研究院) State Key Laboratory of Autonomous Intelligent Unmanned Systems, Shanghai 200120, China(自主智能无人系统国家重点实验室)

专题命中 指令微调 :language model(title,abstract);LLM(abstract,abstract_cn);large language model(abstract);分类 cs.AI

AI总结 本文提出DLM,通过统一决策语言模型解决离线多智能体强化学习中的决策问题,采用集中训练分散执行框架,提升泛化能力。

Comments 22 pages, 11 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23091 2026-04-28 cs.LG 87%

Channel Adaptation for EEG Foundation Models: A Systematic Benchmark Across Architectures, Tasks, and Training Regimes

EEG基础模型的通道适应:跨架构、任务和训练模式的系统性基准测试

Kuntal Kokate, Bruno Aristimunha, Dung Truong, Arnaud Delorme

机构 * Swartz Center for Computational Neuroscience, Institute for Neural Computation, University of California San Diego(斯瓦茨计算神经科学中心,神经计算研究所,加州大学圣地亚哥分校) Yneuro Centre de Recherche Cerveau et Cognition, CNRS, Université Paul Sabatier(脑与认知研究中心,法国国家科学研究中心,保罗·萨巴蒂埃大学)

专题命中 指令微调 :foundation model(title,abstract);SFT(abstract,abstract_cn);pretraining(abstract);分类 cs.LG

AI总结 本文系统比较了四种通道适应方法在不同EEG基础模型、任务和训练模式中的表现,发现灵活模型在微调时需外部方法辅助,且5M参数CBraMod在4/5数据集上超越更大模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23121 2026-04-28 cs.RO cs.CV 87%

Breaking Lock-In: Preserving Steerability under Low-Data VLA Post-Training

打破锁定:在低数据VLA后训练中保持可引导性

Suning Huang, Jiaqi Shao, Ke Wang, Qianzhong Chen, Jiankai Sun, Yanjiang Guo, Mac Schwager, Jeannette Bohg

机构 * Stanford University(斯坦福大学)

专题命中 指令微调 :post-training(title,abstract);SFT(abstract,abstract_cn);foundation model(abstract)

AI总结 本文提出DeLock方法,通过保留视觉 grounding 和测试时对比提示指导,解决VLA策略在低数据后训练中因过度专业化导致的概念和空间锁定问题,实验证明其优于现有基线方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22893 2026-04-28 cs.LG cs.AI 85%

Utility-Aware Data Pricing: Token-Level Quality and Empirical Training Gain for LLMs

面向效用的数据定价:LLMs的令牌级质量与经验训练增益

Minghui Xu, Qi Luo, Kun Li

机构 * Shandong University(山东大学)

专题命中 指令微调 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出动态数据估值框架,通过令牌级信息密度、经验训练增益测量和加密可验证性三层方法,实现LLM能力的效用定价,优于传统行数和令牌数基准。

Comments 23 pages, 1 figure, 6 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.20164 2026-04-28 cs.CL cs.AI 84%

AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications

超越核心领域的人工智能安全:简历筛选作为专门大语言模型应用中对抗性漏洞的案例研究

Honglin Mu, Jinghao Liu, Kaiyang Wan, Rui Xing, Xiuying Chen, Timothy Baldwin, Wanxiang Che

机构 * Research Center for Social Computing and Interactive Robotics(社会计算与交互机器人研究中心) Harbin Institute of Technology(哈尔滨工业大学) Natural Language Processing Research Department(自然语言处理研究部) MBZUAI Paul G. Allen School of Computer Science and Engineering(保罗·G·阿伦计算机科学与工程学院) University of Washington(华盛顿大学) School of Computing and Information Systems(计算与信息系统学院) The University of Melbourne(墨尔本大学)

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 研究探讨了大语言模型在简历筛选中的对抗性漏洞,提出FIDS防御机制,通过实验显示训练时防御优于推理时缓解,有效降低攻击成功率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.24693 2026-04-28 cs.CL 83%

Contextual Linear Activation Steering of Language Models

上下文线性激活引导的语言模型

Brandon Hsu, Daniel Beaglehole, Adityanarayanan Radhakrishnan, Mikhail Belkin

机构 * UC San Diego(加州大学圣地亚哥分校) MIT(麻省理工学院) Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学Broad研究所)

专题命中 指令微调 :language model(title,abstract);large language model(abstract);分类 cs.CL

AI总结 本文提出CLAS方法,通过动态调整线性激活引导强度,在有限标注数据下提升语言模型的专精能力,优于传统方法和ReFT、LoRA。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22825 2026-04-28 cs.CV cs.AI 83%

SGP-SAM: Self-Gated Prompting for Transferring 3D Segment Anything Models to Lesion Segmentation

SGP-SAM:用于将3D分割任何模型转移到病变分割的自门控提示

Zixuan Tang, Shen Zhao

机构 * School of Intelligent Systems Engineering, Sun Yat-sen University, Shenzhen China(智能系统工程学院,中山大学,深圳中国)

专题命中 指令微调 :prompting(title,abstract);foundation model(abstract);分类 cs.AI

AI总结 本文提出SGP-SAM,通过自门控提示模块提升3D病变分割的转移效果,设计Zoom损失增强小病变学习,实验显示在肝肿瘤和脑肿瘤数据集上优于基线模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.04745 2026-04-28 cs.CL 83%

Can LLMs Interpret and Leverage Structured Linguistic Representations? A Case Study with AMRs

大型语言模型能否解释并利用结构化的语言表示?一项基于AMR的案例研究

Ankush Raut, Xiaofeng Zhu, Maria Leonor Pacheco

机构 * University of Colorado Boulder(科罗拉多大学博尔德分校) Northwestern University(西北大学)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract,journal_ref);language model(abstract,journal_ref);分类 cs.CL

AI总结 本文研究了大型语言模型在结构化语言表示下的表现,发现短文任务中添加AMR会降低性能,但长文任务如对话摘要能提升模型表现,尤其在大模型中效果更显著。

Comments 13 pages, 23 figures. Accepted to XLLM Workshop at ACL 2025

Journal ref Proceedings of the 1st Joint Workshop on Large Language Models and Structure Modeling (XLLM 2025), page 173, Vienna, Austria. Association for Computational Linguistics

详情

展开后加载摘要…

URL PDF HTML 收藏
2404.10141 2026-04-28 cs.CV cs.CL cs.MM 83%

ANCHOR: LLM-driven Subject Conditioning for Text-to-Image Synthesis

ANCHOR:基于大语言模型的文本到图像合成中的主体条件化

Aashish Anantha Ramakrishnan, Sharon X. Huang, Dongwon Lee

机构 * Optum AI The Pennsylvania State University(宾夕法尼亚州立大学)

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 ANCHOR通过大规模抽象式标题数据集研究文本到图像合成中多主体理解与上下文推理的缺陷,提出基于大语言模型的主体感知微调方法,提升图像-标题一致性与人类偏好对齐。

Comments Accepted to The 64th Annual Meeting of the Association for Computational Linguistics (ACL) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23036 2026-04-28 cs.LG cs.CL 82%

Preserving Long-Tailed Expert Information in Mixture-of-Experts Tuning

在混合专家调谐中保持长尾专家信息

Haoze He, Xingyuan Ding, Xuan Jiang, Xinkai Zou, Alex Cheng, Yibo Zhao, Juncheng Billy Li, Heather Miller

机构 * Carnegie Mellon University(卡内基梅隆大学) MIT(麻省理工学院) UCSD(加州大学圣地亚哥分校) Johns Hopkins University(约翰霍普金斯大学)

专题命中 指令微调 :SFT(summary_cn,abstract);分类 cs.CL、cs.LG

AI总结 本文提出一种无需辅助损失的MoE SFT框架,通过偏置驱动稀疏化与始终活跃的门控凝结专家,有效保留长尾专家信息,实验显示在数学推理和常识问答基准上优于现有方法。

Comments 36 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22125 2026-04-28 cs.CV 82%

GA2-CLIP: Generic Attribute Anchor for Efficient Prompt Tuningin Video-Language Models

GA2-CLIP:通用属性锚点用于视频-语言模型高效提示微调

Bin Wang, Ruotong Hu, Wentong Li, Wenqian Wang, Mingliang Gao, Runmin Cong, Wei Zhang, Xudong Jiang

机构 * Shandong Provincial Key Laboratory of New Power Distribution & Utilization Technology and Equipment, School of Electrical and Electronic Engineering, Shandong University of Technology(山东省新型电力分布与利用技术及设备重点实验室,山东理工大学电气与电子工程学院) School of Computer Science and Technology, Shandong University of Technology(山东理工大学计算机科学与技术学院) School of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics(南京航空航天大学人工智能学院) Pillar of Information Systems Technology and Design, Singapore University of Technology and Design(新加坡科技设计大学信息系统技术与设计 pillar) School of Control Science and Engineering, Shandong University(山东大学控制科学与工程学院)

专题命中 指令微调 :language model(title,abstract);prompting(abstract)

AI总结 GA2-CLIP通过引入外部监督提示和无关视频集,优化视频任务中V-L模型的泛化性能,防止语义空间过拟合,提升模型在新类别预测上的表现。

Comments Technical Report

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.19482 2026-04-28 cs.CV 82%

Instruction-Free Tuning of Large Vision Language Models for Medical Instruction Following

无需指令的大型视觉语言模型在医疗指令遵循中的调优

Myeongkyun Kang, Soopil Kim, Xiaoxiao Li, Sang Hyun Park

机构 * Department of Electrical and Computer Engineering, The University of British Columbia(英属哥伦比亚大学电气与计算机工程系) Department of Robotics and Mechatronics Engineering, Daegu Gyeongbuk Institute of Science and Technology (DGIST)(大邱庆北科学技术院机器人与机电工程系) Division of Intelligent Robot, Daegu Gyeongbuk Institute of Science and Technology (DGIST)(大邱庆北科学技术院智能机器人系) Vector Institute(向量研究所) Department of Computer Science and Engineering, Pohang University of Science and Technology (POSTECH)(釜山科学技术大学计算机科学与工程系)

专题命中 指令微调 :language model(title,abstract);instruction tuning(abstract)

AI总结 本文提出无需指令的调优方法,利用图像描述对训练模型,提升医疗领域视觉语言模型的指令遵循能力,实现多选视觉问答任务的最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.15050 2026-04-28 cs.CV 80%

DRIFT: Transferring Reasoning Priors for Efficient MLLM Fine-Tuning

DRIFT:用于高效MLLM微调的推理先验转移

Chao Huang, Zeliang Zhang, Jiang Liu, Ximeng Sun, Jialian Wu, Xiaodong Yu, Ze Wang, Chenliang Xu, Emad Barsoum, Zicheng Liu

机构 * University of Rochester(罗切斯特大学) AMD

专题命中 指令微调 :SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 DRIFT通过在梯度空间中转移推理知识,实现高效稳定的多模态推理迁移,优于传统方法并在数据和计算上更高效。

Comments ACL 2026 camera-ready; Project Page: https://wikichao.github.io/DRIFT/

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.14295 2026-04-28 cs.RO cs.MA 80%

Aegis: Automated Error Generation and Attribution for Multi-Agent Systems

Aegis:多智能体系统的自动化错误生成与归因

Fanqi Kong, Ruijie Zhang, Huaxiao Yin, Guibin Zhang, Xiaofei Zhang, Ziang Chen, Zhaowei Zhang, Xiaoyuan Zhang, Song-Chun Zhu, Xue Feng

机构 * Peking University Beijing Institute of General Artificial Intelligence(北京大学北京通用人工智能研究院) Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院) Tsinghua University(清华大学) National University of Singapore(新加坡国立大学)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出Aegis框架,通过自动化生成大规模多智能体系统错误数据,提升错误归因能力,实验表明其模型性能可与专有模型媲美。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23385 2026-04-28 cs.LG 79%

Domain-Adapted Fine-Tuning of ECG Foundation Models for Multi-Label Structural Heart Disease Screening

领域适应的ECG基础模型微调用于多标签结构性心脏病筛查

Duc N. Do, Minh N. Do, Dang Nguyen, Khanh T. Q. Le, Khoa D. Pham, Hung N. Huynh, Phi Pham-Van-Hoang, Quan K. Huynh, Ramez M. Odat, Perisa Ashar, Ethan Philip Lowder, Minh H. N. Le, Hoang Le, Phat V. H. Nguyen, Quan Le, Jacques Kpodonu, Phat K. Huynh

机构 * PASSIO Laboratory, North Carolina A&T State University(北卡罗来纳阿塔州立大学PASSIO实验室) Department of Computer Science, University of Manitoba(曼尼托巴大学计算机科学系) Harvard T.H. Chan School of Public Health, Harvard University(哈佛大学T.H. Chan公共卫生学院) Department of Medicine, Jordan University of Science and Technology(约旦科学与技术大学医学院) Department of Biomedical Engineering, Duke University(达特茅斯大学生物医学工程系) Harvard Medical School(哈佛医学院) Beth Israel Deaconess Medical Center, Harvard Medical School(哈佛医学院贝塞斯达以色列德acons医疗中心)

专题命中 指令微调 :foundation model(title,abstract);分类 cs.LG

AI总结 本文探讨了使用公开的EchoNext Mini-Model基准评估开放预训练的ECG基础模型在多标签结构性心脏病检测中的应用,通过领域适应和选择性监督微调提升性能。

Comments Accepted to Canadian AI 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.24070 2026-04-28 cs.CL cs.AI 79%

Distilling Self-Consistency into Verbal Confidence: A Pre-Registered Negative Result and Post-Hoc Rescue on Gemma 3 4B

将自我一致性融入言语自信:Gemma 3 4B上的预注册负结果及事后补救

Jon-Paul Cacioli

机构 * Independent Researcher, Melbourne, Australia(墨尔本独立研究者)

专题命中 指令微调 :LLM(summary_cn,abstract_cn);分类 cs.CL、cs.AI

AI总结 研究发现,小规模指令微调LLM在最小激发下产生退化言语自信,通过自我一致性衍生目标的自信条件监督微调未能缩小内部信息与言语输出间的差距,但事后去除过滤器后在TriviaQA上提升了AUROC2至0.774,支持目标依赖性解释。

Comments 12 pages, 3 figures, 4 tables. Pre-registered on OSF (https://osf.io/mpcr5). Code and data: https://github.com/synthiumjp/metacog-engineering

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23166 2026-04-28 cs.CY cs.CV 78%

A satellite foundation model for improved wealth monitoring

一种用于改进财富监测的卫星基础模型

Zhuo Zheng, Iván Higuera-Mendieta, Richard Lee, David Newhouse, Talip Kilic, Stefano Ermon, Marshall Burke, David B. Lobell

机构 * Department of Computer Science, Stanford University(斯坦福大学计算机科学系) Department of Earth System Science, Stanford University(斯坦福大学地球系统科学系) Center on Food Security and the Environment, Stanford University(斯坦福大学食品安全与环境中心) Development Economics Data Group, World Bank Group(世界银行发展经济学数据组) Department of Environmental Social Science, Stanford University(斯坦福大学环境社会科学系)

专题命中 指令微调 :foundation model(title,abstract)

AI总结 本文提出Tempov模型,通过自监督学习预训练并高效微调,实现大规模高精度财富映射与动态监测,减少对昂贵标签的依赖,并在非洲大陆层面取得良好性能。

Comments 22 pages, 10 figures, technical report

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.17411 2026-04-28 cs.RO cs.LG 70%

SPEAR-1: Scaling Beyond Robot Demonstrations via 3D Understanding

SPEAR-1:通过3D理解超越机器人演示

Nikolay Nikolov, Giuliano Albanese, Sombit Dey, Aleksandar Yanev, Luc Van Gool, Jan-Nico Zaech, Danda Pani Paudel

机构 * INSAIT

专题命中 指令微调 :language model(abstract);foundation model(abstract);分类 cs.LG

AI总结 本文提出SPEAR-1,通过融合3D感知与语言指导的具身控制,提升机器人基础模型的泛化能力,使用20倍少的机器人演示数据在24个Open X-Embodiment数据集上训练,超越现有最佳模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.06352 2026-04-28 cs.AI 70%

CARD: Cluster-level Adaptation with Reward-guided Decoding for Personalized Text Generation

CARD: 基于奖励引导解码的集群级适应用于个性化文本生成

Yutong Song, Jiang Wu, Weijia Zhang, Chengze Shen, Shaofan Yuan, Weitao Lu, Jian Wang, Yu Wang, Nikil Dutt, Amir M. Rahmani

机构 * University of California, Irvine(加州大学尔湾分校) University of Amsterdam(阿姆斯特丹大学) TikTok Inc.(TikTok公司)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 CARD通过分层框架实现有效个性化,通过集群用户风格模式聚类和LoRA适配器学习,结合隐式偏好学习机制和解码时的轻量级偏好向量注入,提升个性化文本生成的效率和可扩展性。

详情

展开后加载摘要…

URL PDF HTML 收藏