arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Tsinghua University(清华大学)

共收录 4547
2604.03004 2026-04-06 cs.CL cs.AI

R2-Write: Reflection and Revision for Open-Ended Writing with Deep Reasoning

R2-Write:基于深度推理的开放性写作反思与修订

Wanlong Liu, Bo Zhang, Chenliang Li, Shaopeng Lai, Yuning Wu, Xuanyu Lei, Ming Yan

机构 * Tongyi Lab, Alibaba Group(阿里巴巴集团通义实验室) Tsinghua University, Beijing, China(清华大学(中国北京))

AI总结 本文提出R2-Write框架,通过迭代作家-评判者交互生成高质量思考轨迹,增强开放性写作的深度推理能力,实验表明显式引入反思与修订模式显著提升了写作任务性能。

Comments 31 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02828 2026-04-06 cs.CV cs.AI

NavCrafter: Exploring 3D Scenes from a Single Image

NavCrafter:从单张图像探索3D场景

Hongbo Duan, Peiyu Zhuang, Yi Liu, Zhengyang Zhang, Yuxin Zhang, Pengting Luo, Fangming Liu, Xueqian Wang

机构 * Center for Artificial Intelligence and Robotics, Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院人工智能与机器人中心) Peng Cheng Laboratory(鹏城实验室) School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区网络空间安全学院) Central Media Technology Institute, Huawei Incorporated Company(华为技术有限公司中央媒体技术研究院)

AI总结 NavCrafter通过合成新颖视角视频序列,实现从单张图像生成灵活的3D场景,采用视频扩散模型和几何感知扩展策略,提升可控多视角合成与3D重建精度。

Comments 8 pages accepted by ICRA 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02819 2026-04-06 cs.CL

Student-in-the-Loop Chain-of-Thought Distillation via Generation-Time Selection

通过生成时间选择的学生在环链式思维蒸馏

Chaoqun He, Yingfa Chen, Chaojun Xiao, Xu Han, Lijie Wen

机构 * Tsinghua University(清华大学)

AI总结 本文提出Gen-SSD框架,通过生成时间选择提升链式思维蒸馏效果,实验显示其在数学推理基准上优于传统知识蒸馏和其他基线方法。

Comments 17 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02729 2026-04-06 cs.SE cs.AI cs.CL

IndustryCode: A Benchmark for Industry Code Generation

IndustryCode: 一个用于行业代码生成的基准

Puyu Zeng, Zhaoxi Wang, Zhixu Duan, Liang Feng, Shaobo Wang, Cunxiang Wang, Jinghang Wang, Bing Zhao, Hu Wei, Linfeng Zhang

机构 * Shanghai Jiao Tong University(上海交通大学) Alibaba Group(阿里巴巴集团) Tsinghua University(清华大学)

AI总结 本文提出IndustryCode基准,涵盖125个工业挑战和579个子问题,支持多种编程语言,评估大模型在工业场景中的代码生成能力。

Comments 37 pages, 28 figures, 4 tables. Includes appendix

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02639 2026-04-06 cs.CV cs.AI

Cross-Vehicle 3D Geometric Consistency for Self-Supervised Surround Depth Estimation on Articulated Vehicles

跨车辆3D几何一致性用于机械臂车辆上的自监督周围深度估计

Weimin Liu, Jiyuan Qiu, Wenjun Wang, Joshua H. Meng

机构 * School of Vehicle and Mobility, Tsinghua University(清华大学车辆与运载学院) Remote Sensing and Earth Observation Laboratory, University of Copenhagen(哥本哈根大学遥感与地球观测实验室) California PATH, University of California, Berkeley(加州大学伯克利分校加州PATH)

AI总结 本文提出ArticuSurDepth框架,通过跨视图和跨车辆几何一致性提升机械臂车辆周围深度估计的结构一致性与精度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02567 2026-04-06 cs.CY cs.AI cs.ET cs.HC

Generative AI Use in Entrepreneurship: An Integrative Review and an Empowerment-Entrapment Framework

生成式人工智能在创业中的应用:整合性综述与赋能-陷阱框架

Jackson G. Lu, Gerui Gloria Zhao, Anna Manyi Zheng

机构 * MIT Sloan School of Management, Massachusetts Institute of Technology(麻省理工学院斯隆管理学院) School of Economics and Management, Tsinghua University(清华大学经济管理学院)

AI总结 本文整合研究生成式人工智能对创业各阶段的影响,提出赋能-陷阱框架,揭示其双刃剑作用,探讨核心特征及边界条件,为创业实践提供指导。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02392 2026-04-06 cs.CV

Beyond Fixed Inference: Quantitative Flow Matching for Adaptive Image Denoising

超越固定推断:用于自适应图像去噪的定量流匹配

Jigang Duan, Genwei Ma, Xu Jiang, Wenfeng Xu, Ping Yang, Xing Zhao

机构 * School of Mathematical Sciences, Capital Normal University(首都师范大学数学科学学院) National Center for Applied Mathematics Beijing, Capital Normal University(首都师范大学北京国家应用数学中心) Academy for Multidisciplinary Studies, Capital Normal University(首都师范大学交叉科学研究院) Institute of Nuclear and New Energy Technology, Tsinghua University(清华大学核能与新能源技术研究院)

AI总结 本文提出定量流匹配框架,通过估计噪声水平并自适应调整推断轨迹,提升图像去噪的准确性和效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02356 2026-04-06 cs.NI cs.LG

MLFCIL: A Multi-Level Forgetting Mitigation Framework for Federated Class-Incremental Learning in LEO Satellites

MLFCIL:一种多级遗忘缓解框架,用于低轨卫星的联邦类增量学习

Heng Zhang, Xiaohong Deng, Sijing Duan, Wu Ouyang, KM Mahfujul, Yiqin Deng, Zhigang Chen

机构 * Gannan University of Science and Technology(赣南科技学院) Tsinghua University(清华大学) Queen University(女王大学) Lingnan University(岭南大学) Central South University(中南大学)

AI总结 本文提出MLFCIL框架,通过多级方法缓解低轨卫星联邦类增量学习中的遗忘问题,提升模型稳定性和可塑性,实验表明其在准确性和遗忘缓解方面优于基线方法。

Comments Submitted to IEEE Internet of Things Journal

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02349 2026-04-06 cs.LG cs.AI

OPRIDE: Offline Preference-based Reinforcement Learning via In-Dataset Exploration

OPRIDE: 通过数据集内探索实现离线偏好驱动强化学习

Yiqin Yang, Hao Hu, Yihuan Mao, Jin Zhang, Chengjie Wu, Yuhua Jiang, Xu Yang, Runpeng Xie, Yi Fan, Bo Liu, Yang Gao, Bo Xu, Chongjie Zhang

机构 * The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所复杂系统认知与决策智能重点实验室) Tsinghua University(清华大学) Moonshot AI(月之暗面) Amazon(亚马逊) University of Arizona(亚利桑那大学) Washington University in St. Louis(圣路易斯华盛顿大学)

AI总结 本文提出OPRIDE算法,通过改进探索策略和折扣调度机制提升离线偏好驱动强化学习的查询效率,实验表明其在多种任务中表现优异。

Journal ref ICLR-2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.13633 2026-04-06 cs.CV

EGM: Efficient Visual Grounding Language Models

EGM: 高效视觉语义语言模型

Guanqi Zhan, Changye Li, Zhijian Liu, Yao Lu, Yi Wu, Song Han, Ligeng Zhu

机构 * NVIDIA(英伟达) MIT(麻省理工学院) University of Oxford(牛津大学) Tsinghua University(清华大学)

AI总结 本文提出EGM,通过生成大量中等质量token来提升小模型的视觉语义能力,实验证明其在效率和性能上优于大模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.16858 2026-04-06 cs.SE cs.LG

Investigating Test Overfitting on SWE-bench

对SWE-bench上测试过拟合的调查

Toufique Ahmed, Jatin Ganhotra, Avraham Shinnar, Martin Hirzel

机构 * IBM Institute for Clarity in Documentation(文献清晰研究所) Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗康库尔) Rajiv Gandhi University(拉吉夫·甘地大学) Tsinghua University(清华大学) Palmer Research Laboratories(帕默研究实验室)

AI总结 本文研究了在代码仓库问题解决中过度依赖测试导致的测试过拟合问题,分析了自动测试生成系统可能存在的缺陷及改进方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.14617 2026-04-06 cs.DC cs.LG

Seer: Online Context Learning for Fast Synchronous LLM Reinforcement Learning

Seer:在线上下文学习用于快速同步LLM强化学习

Ruoyu Qin, Weiran He, Weixiao Huang, Yangkun Zhang, Yikai Zhao, Bo Pang, Xinran Xu, Yingdi Shan, Yongwei Wu, Mingxing Zhang

机构 * Moonshot AI(月之暗面) Tsinghua University(清华大学)

AI总结 Seer通过动态负载均衡、上下文感知调度和自适应分组推测解码技术,显著降低长尾延迟并提升资源利用率,实现2.04倍的端到端效率提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.17421 2026-04-06 cs.LG

Diffusion Models as Dataset Distillation Priors

扩散模型作为数据集蒸馏先验

Duo Su, Huyu Wu, Huanran Chen, Yiming Shi, Yuzhu Wang, Xi Ye, Jun Zhu

机构 * Dept. of Comp. Sci. & Tech., BNRist Center, THU-Bosch ML Center, Tsinghua University(清华大学计算机科学与技术系、北京信息科学与技术国家研究中心、清华-博世机器学习中心) Institute of Computing Technology, CAS(中国科学院计算技术研究所) University of Electronic Science and Technology of China(电子科技大学) South China University of Technology(华南理工大学)

AI总结 本文提出Diffusion As Priors方法,通过量化合成与真实数据在特征空间的相似性提升数据集蒸馏的代表性,无需重新训练即可生成高质量数据集。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.12643 2026-04-06 cs.AI

Learn to Relax with Large Language Models: Solving Constraint Optimization Problems via Bidirectional Coevolution

通过大语言模型学习放松:通过双向共进化解决约束优化问题

Beidan Liu, Zhengqiu Zhu, Chen Gao, Tianle Pu, Yong Zhao, Wei Qi, Quanjun Yin

机构 * State Key Laboratory of Digital Intelligent Modeling and Simulation, National University of Defense Technology(国防科技大学数字智能建模与仿真国家重点实验室) BNRist, Tsinghua University(清华大学北京信息科学与技术国家研究中心) Department of Industrial Engineering, Tsinghua University(清华大学工业工程系) College of Systems Engineering, National University of Defense Technology(国防科技大学系统工程学院)

AI总结 本文提出AutoCO方法,结合运筹学约束放松原理与LLM推理,通过双向共进化机制提升复杂约束优化问题的求解能力,实验验证其在硬问题中的优越性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.15656 2026-04-06 cs.CL

Be Careful When Fine-tuning On Open-Source LLMs: Your Fine-tuning Data Could Be Secretly Stolen!

在对开源大语言模型进行微调时要小心:你的微调数据可能被偷偷窃取!

Zhexin Zhang, Yuhao Sun, Junxiao Yang, Shiyao Cui, Yuanchao Zhang, Hongning Wang, Minlie Huang

机构 * The Conversational AI (CoAI) group, DCST, Tsinghua University(清华大学计算机科学与技术系对话式人工智能组) The University of Melbourne(墨尔本大学) MYbank, Ant Group(蚂蚁集团网商银行)

AI总结 研究揭示了在开源大语言模型上微调时,通过简单后门训练可能窃取私有微调数据的风险,实验表明提取成功率高达76.3%,并提出检测防御策略但发现其易被绕过。

Comments Accepted to ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02322 2026-04-03 cs.LG cs.AI cs.CL

Batched Contextual Reinforcement: A Task-Scaling Law for Efficient Reasoning

批量上下文强化:一种任务扩展定律以实现高效推理

Bangji Yang, Hongbo Ma, Jiajun Fan, Ge Liu

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) Tsinghua University(清华大学)

AI总结 本文提出批量上下文强化方法,通过在共享上下文窗口中同时解决多个问题,实现高效推理,减少token消耗并提升准确性。

Comments 43 pages, 5 figures, 24 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02200 2026-04-03 cs.CL

Towards Position-Robust Talent Recommendation via Large Language Models

基于大语言模型的鲁棒人才推荐方法

Silin Du, Hongyan Liu

机构 * Department of Management Science and Engineering, Tsinghua University(清华大学管理科学与工程系)

AI总结 本文提出L3TR框架,通过块注意力机制和局部位置编码缓解位置偏差,结合ID采样方法解决训练与推理阶段候选集大小不一致问题,提升人才推荐效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02155 2026-04-03 cs.CL

Brief Is Better: Non-Monotonic Chain-of-Thought Budget Effects in Function-Calling Language Agents

简洁即更好:函数调用语言代理中的非单调链式思维预算效应

Xuan Qi

机构 * IIIS, Tsinghua University(清华大学交叉信息研究院)

AI总结 研究探讨了链式思维预算对函数调用代理性能的影响,发现简短的链式思维显著提升准确性,而延长的链式思维反而降低性能,提出Function-Routing CoT方法提升可靠性。

Comments 21 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02097 2026-04-03 cs.CV cs.LG

LatentUM: Unleashing the Potential of Interleaved Cross-Modal Reasoning via a Latent-Space Unified Model

LatentUM:通过潜在空间统一模型释放交错跨模态推理的潜力

Jiachun Jin, Zetong Zhou, Xiao Yang, Hao Zhang, Pengfei Liu, Jun Zhu, Zhijie Deng

机构 * Shanghai Jiao Tong University(上海交通大学) Tsinghua University(清华大学)

AI总结 本文提出LatentUM,通过共享语义潜在空间实现跨模态推理与生成,提升计算效率并减少编码器偏差,取得视觉空间规划基准的最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22193 2026-04-03 cs.CV

PAM: A Pose-Appearance-Motion Engine for Sim-to-Real HOI Video Generation

PAM:一种用于仿真到现实手-物体互动视频生成的姿态-外观-运动引擎

Mingju Gao, Kaisen Yang, Huan-ang Gao, Bohan Li, Ao Ding, Wenyi Li, Yangcheng Yu, Jinkun Liu, Shaocong Xu, Yike Niu, Haohan Chi, Hao Chen, Hao Tang, Yu Zhang, Li Yi, Hao Zhao

机构 * Peking University(北京大学) Tsinghua University(清华大学) BAAI(北京智源人工智能研究院) SJTU(上海交通大学) Eastern Institute of Technology(东方理工高等研究院) University of Cambridge(剑桥大学)

AI总结 本文提出PAM引擎,整合姿态、外观和运动生成可控的HOI视频,通过实验验证其在DexYCB和OAKINK2数据集上的性能优势。

Comments Accepted to CVPR 2026 Code: https://github.com/GasaiYU/PAM

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02006 2026-04-03 cs.AI

ProCeedRL: Process Critic with Exploratory Demonstration Reinforcement Learning for LLM Agentic Reasoning

ProCeedRL: 带探索演示的强化学习过程批评用于LLM代理推理

Jingyue Gao, Yanjiang Guo, Xiaoshuai Chen, Jianyu Chen

机构 * Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院) Independent Researcher(独立研究者) Shanghai Qizhi Institute(上海期智研究院)

AI总结 本文提出ProCeedRL,通过过程批评和探索性演示提升LLM在多轮代理任务中的推理能力,解决探索过程中错误累积问题,提高探索效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01889 2026-04-03 cs.LG

LI-DSN: A Layer-wise Interactive Dual-Stream Network for EEG Decoding

LI-DSN:一种分层交互双流网络用于EEG解码

Chenghao Yue, Zhiyuan Ma, Zhongye Xia, Xinche Zhang, Yisi Zhang, Xinke Shen, Sen Song

机构 * School of Biomedical Engineering, Tsinghua Laboratory of Brain and Intelligence, and IDG/McGovern Institute for Brain Research, Tsinghua University(清华大学生物医学工程学院、清华脑与智能实验室、IDG/麦戈文脑科学研究院) School of Life Sciences, Tsinghua University(清华大学生命科学学院) Department of Biomedical Engineering, Southern University of Science and Technology(南方科技大学生物医学工程系) Department of Psychological and Cognitive Sciences, Tsinghua University(清华大学心理与认知科学系)

AI总结 本文提出LI-DSN,通过分层交互机制解决双流网络中信息孤岛问题,引入TSIA机制和自适应融合策略,在八个EEG数据集上验证其优越的解码性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01618 2026-04-03 cs.CV cs.AI

Tex3D: Objects as Attack Surfaces via Adversarial 3D Textures for Vision-Language-Action Models

Tex3D: 通过对抗性3D纹理将物体作为攻击面用于视觉-语言-动作模型

Jiawei Chen, Simin Huang, Jiawei Du, Shuaihang Chen, Yu Tian, Mingjie Wei, Chao Yu, Zhaoxia Yin

机构 * East China Normal University(华东师范大学) Zhongguancun Academy(中关村学院) CFAR, A*STAR, Singapore(新加坡科技研究局CFAR) Tsinghua University(清华大学) Harbin Institute of Technology(哈尔滨工业大学)

AI总结 本文提出Tex3D框架,通过对抗性3D纹理攻击视觉-语言-动作模型,揭示其在物理环境中面临的关键漏洞,展示了在仿真和真实机器人任务中显著降低模型性能的实验结果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01553 2026-04-03 cs.CV

Cross-Domain Vessel Segmentation via Latent Similarity Mining and Iterative Co-Optimization

跨域血管分割:通过潜在相似性挖掘和迭代联合优化

Zhanqiang Guo, Jianjiang Feng, Jie Zhou

机构 * Department of Automation, Tsinghua University(清华大学自动化系) Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)

AI总结 本文提出一种跨域血管分割框架,通过挖掘潜在血管相似性并迭代联合优化生成与分割网络,提升跨域图像合成质量和分割精度,实验显示在临床场景中表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12372 2026-04-03 cs.AI cs.CL cs.LG

Efficient Reasoning with Balanced Thinking

高效平衡思考推理

Yulin Li, Tengyao Tu, Li Ding, Junjie Wang, Huiling Zhen, Yixin Chen, Yong Li, Zhuotao Tian

机构 * Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳)) Huawei Noah’s Ark Lab(华为诺亚方舟实验室) Tsinghua University(清华大学) The Chinese University of Hong Kong(香港中文大学) Zhongguancun Academy(中关村学院) Shenzhen Loop Area Institute(深圳河套学院)

AI总结 本文提出ReBalance框架,通过平衡思考提升推理效率,减少冗余并提高准确性,适用于多种推理任务。

Comments Accepted by ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.03396 2026-04-03 cs.CL

Towards Distillation-Resistant Large Language Models: An Information-Theoretic Perspective

迈向抗蒸馏的大语言模型:信息论视角

Hao Fang, Tianyi Zhang, Tianqu Zhuang, Jiawei Kong, Kuofeng Gao, Bin Chen, Leqi Liang, Shu-Tao Xia, Ke Xu

机构 * Tsinghua University(清华大学) Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))

AI总结 本文从信息论角度分析蒸馏防御问题,提出通过最小化条件互信息来提升模型抗蒸馏能力,设计变换矩阵净化输出以增强安全性,实验表明方法有效降低蒸馏性能并保持任务准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.03380 2026-04-03 cs.CV

Seeing Through the Chain: Mitigate Hallucination in Multimodal Reasoning Models via CoT Compression and Contrastive Preference Optimization

通过链看穿:通过CoT压缩和对比偏好优化缓解多模态推理模型的幻觉

Hao Fang, Jinyu Li, Jiawei Kong, Tianqu Zhuang, Kuofeng Gao, Bin Chen, Shu-Tao Xia

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院) Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))

AI总结 本文提出C3PO框架,通过CoT压缩和对比偏好优化缓解多模态推理模型的幻觉问题,通过过滤冗余思考 token 提升信号效率,并利用高质量反馈和定制诱导器增强对比学习效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.16515 2026-04-03 cs.CV

SALAD: Achieve High-Sparsity Attention via Efficient Linear Attention Tuning for Video Diffusion Transformer

SALAD: 通过高效的线性注意微调实现高稀疏性注意

Tongcheng Fang, Hanling Zhang, Ruiqi Xie, Zhuo Han, Xin Tao, Tianchen Zhao, Pengfei Wan, Wenbo Ding, Wanli Ouyang, Xuefei Ning, Yu Wang

机构 * Tsinghua University(清华大学) Kling Team, Kuaishou Technology(快手科技 Kling 团队) The Chinese University of Hong Kong(香港中文大学)

AI总结 本文提出SALAD,通过并行的稀疏注意与轻量线性注意分支,结合多级静态-动态缩放策略,实现高达90%的稀疏性和1.52-2.03倍的推理加速,同时保持生成质量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.10779 2026-04-03 cs.LG cs.AI

Unified Optimization of Source Weights and Transfer Quantities in Multi-Source Transfer Learning: An Asymptotic Framework

多源迁移学习中源权重和转移量的统一优化:一种渐近框架

Qingyue Zhang, Chang Chu, Haohao Fu, Tianren Peng, Yanru Wu, Guanbo Huang, Yang Li, Shao-Lun Huang

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院) School of Artificial Intelligence, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)人工智能学院)

AI总结 本文提出UOWQ框架,通过渐近分析将多源迁移学习建模为参数估计问题,理论证明了合理调整权重时使用全部源样本最优,并通过实验验证了框架的有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.04823 2026-04-03 cs.AI cs.CL

DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models

DR-LoRA:动态秩LoRA用于混合专家模型的微调

Guanzhi Deng, Bo Li, Ronghao Chen, Xiujin Liu, Zhuo Han, Huacan Wang, Lijie Wen, Linqi Song

机构 * City University of Hong Kong(香港城市大学) Tsinghua University(清华大学) Peking University(北京大学) University of Michigan(密歇根大学) University of Chinese Academy of Sciences(中国科学院大学)

AI总结 DR-LoRA通过动态分配不同秩的LoRA模块,提升混合专家模型微调效果,实验表明其优于传统方法。

详情

展开后加载摘要…

URL PDF HTML 收藏