arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-15 至 2026-04-15 共收录 328 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 54 篇

2510.19239 2026-04-15 eess.IV 78%

TinyUSFM: Towards Compact and Efficient Ultrasound Foundation Models

TinyUSFM:迈向紧凑且高效的超声基础模型

Chen Ma, Jing Jiao, Shuyu Liang, Junhu Fu, Qin Wang, Zeju Li, Yuanyuan Wang, Yi Guo

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 本文提出TinyUSFM,通过知识蒸馏和精心挑选的小数据集,在保持性能的同时显著提升计算效率,展示了在超声图像任务中的优越表现。

Comments 14 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12359 2026-04-15 cs.CR cs.CL 77%

Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors

通过空空间约束将激活转向编译为权重以实现隐蔽后门

Rui Yin, Tianxu Han, Naen Xu, Changjiang Li, Ping He, Chunyi Zhou, Jun Wang, Zhihui Fu, Tianyu Du, Jinbao Li, Shouling Ji

机构 * Zhejiang University(浙江大学) Palo Alto Networks(帕洛阿尔托网络) Ningbo Global Innovation Center, Zhejiang University(宁波全球创新中心,浙江大学) OPPO Research Institute(OPPO研究院) Qilu University of Technology(齐鲁大学)

专题命中 效率与部署 :LLM(abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文通过将后门目标从表面标记转向内部表示,提出一种高效方法,利用空空间约束在触发时激活后门,同时保持隐蔽性和安全性。

Comments ACL 2026 Main Conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15876 2026-04-15 cs.CY cs.AI 77%

Should There be a Teacher In-the-Loop? A Study of Generative AI Personalized Tasks Middle School

应该有教师在循环中吗?生成式AI个性化任务中学中学的探讨

Candace Walkington, Mingyu Feng, Itffini Pruitt-Britton, Theodora Beauchamp, Andrew Lan

机构 * Department of Teaching and Learning(教学与学习系) Southern Methodist University(南方 Methodist 大学) WestEd(西斯特教育) American Institutes for Research(美国研究机构) University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校)

专题命中 效率与部署 :large language model(abstract);language model(abstract);prompting(abstract);分类 cs.AI

AI总结 研究探讨生成式AI在中学个性化任务中的应用,分析教师与AI协作的效率及学生对不同粒度个性化任务的偏好。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.23061 2026-04-15 cs.IR cs.AI cs.CL cs.DB cs.LG 75%

MoDora: Tree-Based Semi-Structured Document Analysis System

MoDora:基于树的半结构化文档分析系统

Bangrui Xu, Qihang Yao, Zirui Tang, Xuanhe Zhou, Yeye He, Shihan Yu, Qianqian Xu, Bin Wang, Guoliang Li, Conghui He, Fan Wu

机构 * Shanghai Jiao Tong University(上海交通大学) Microsoft Research(微软研究院) Beihang University(北航) Shanghai AI Lab(上海人工智能实验室) Tsinghua University(清华大学) Institute for Clarity in Documentation(文档清晰性研究所) Inria Paris-Rocquencourt(Inria巴黎-罗quentcourt研究中心) East China Normal University(华东师范大学) Scientific Writing Academy(科学写作学院)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 MoDora通过局部对齐聚合策略和组件相关树结构,提升半结构化文档的分析能力,实验表明其在准确性上优于基线方法。

Comments Extension of our SIGMOD 2026 paper. Please refer to source code available at https://github.com/weAIDB/MoDora

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.11236 2026-04-15 cs.CV cs.CL cs.RO 74%

ABot-M0: VLA Foundation Model for Robotic Manipulation with Action Manifold Learning

ABot-M0:基于动作流形学习的机器人操控VLA基础模型

Yandan Yang, Shuang Zeng, Tong Lin, Xinyuan Chang, Dekang Qi, Junjin Xiao, Haoyun Liu, Ronghan Chen, Yuzhi Chen, Dongjie Huo, Feng Xiong, Xing Wei, Zhiheng Ma, Mu Xu

机构 * AMAP CV Lab(AMAP视觉实验室)

专题命中 效率与部署 :foundation model(title);分类 cs.CL

AI总结 ABot-M0通过统一预训练和动作流形学习,提升机器人操控的泛化能力与效率,构建了大规模数据集并支持模块化感知。

Comments Project website: https://amap-cvlab.github.io/ABot-Manipulation/ . Code: https://github.com/amap-cvlab/ABot-Manipulation . 22 pages, 10 figures, 10 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12782 2026-04-15 cs.LG cs.AI 73%

OSC: Hardware Efficient W4A4 Quantization via Outlier Separation in Channel Dimension

OSC: 通过通道维度的异常值分离实现硬件高效的W4A4量化

Zhiyuan Zhang, Yanzhao Li, Zhiqiang Zou, Bai Du, Yupeng Sun, Hui Dong, Hui Wang

机构 * Huawei Technology(华为技术)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出OSC框架,通过分析异常值的空间分布,利用低精度4位GEMM和高精度16位GEMM双路径计算,有效抑制异常值,提升模型精度并实现硬件高效计算。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12599 2026-04-15 cs.DC 71%

Beyond Pre-Training: The Full Lifecycle of Foundation Models on HPC Systems

超越预训练:面向HPC系统的基础模型全生命周期

Dino Conciatore, Elia Oggian, Federico Da Forno, Stefano Schuppli, Jerome Tissieres, Joost VandeVondele, Maxime Martinasso

专题命中 效率与部署 :foundation model(title)

AI总结 本文探讨了在HPC系统中实现基础模型全生命周期的挑战,提出了一种混合云原生平台,结合GPU和虚拟化基础设施,支持微调和推理服务,提升用户生产力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12365 2026-04-15 cs.NE 71%

Adaptive Spiking Neurons for Vision and Language Modeling

适应性脉冲神经元用于视觉和语言建模

Chenlin Zhou, Sihang Guo, Jiaqi Wang, Dongyang Ma, Jin Cheng, Qingyan Meng, Zhengyu Ma, Yonghong Tian

专题命中 效率与部署 :language model(title)

AI总结 本文提出适应性脉冲神经元(ASN)及其变种NASN,通过可训练参数学习膜电位动态,提升SNN的性能与训练效率,验证了其在视觉和语言任务中的有效性与通用性。

Comments 10 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09784 2026-04-15 stat.ML cs.LG 70%

Discrete Flow Maps

离散流映射

Peter Potaptchik, Jason Yim, Adhi Saravanan, Peter Holderrieth, Eric Vanden-Eijnden, Michael S. Albergo

机构 * Harvard University(哈佛大学) University of Oxford(牛津大学) MIT(麻省理工学院) Kempner Institute(凯普纳研究所)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出离散流映射,通过在概率单纯形几何上实现轨迹压缩,解决离散数据生成中的几何不匹配问题,提升离散流模型性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12321 2026-04-15 cs.CL 70%

ToxiTrace: Gradient-Aligned Training for Explainable Chinese Toxicity Detection

ToxiTrace:用于可解释性中文毒性检测的梯度对齐训练

Boyang Li, Hongzhe Shou, Yuanyuan Liang, Jingbin Zhang, Fang Zhou

机构 * School of Data Science and Engineering, East China Normal University(数据科学与工程学院,东华大学) School of International Chinese Studies, East China Normal University(国际中文学院,东华大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.CL

AI总结 本文提出ToxiTrace方法,通过CuSA、GCLoss和ARCL三个组件提升中文毒性检测的解释性,提高分类准确率和毒性跨度提取能力,同时保持高效推理和更清晰的人可读解释。

Comments Accepted to ACL 2026 Findings

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12129 2026-04-15 cs.AI cs.AR cs.DC cs.MA 70%

Aethon: A Reference-Based Replication Primitive for Constant-Time Instantiation of Stateful AI Agents

Aethon:一种基于引用的复制原语,用于常数时间实例化状态性AI代理

Swanand Rao, Kiran Kashalkar, Parvathi Somashekar, Priya Krishnan

机构 * Next Moca Global, Inc.(Next Moca全球公司)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出Aethon,一种基于引用的复制原语,用于常数时间实例化状态性AI代理,通过改变实例化方式,降低创建成本并提升多代理协作效率。

Comments 12 pages. Systems paper introducing a novel agent instantiation primitive for scalable multi-agent infrastructure

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11948 2026-04-15 cs.LG cs.AR 70%

Active Imitation Learning for Thermal- and Kernel-Aware LFM Inference on 3D S-NUCA Many-Cores

主动模仿学习用于热感知和核意识的LFM推理在3D S-NUCA多核系统

Yixian Shen, Chaoyao Shen, Jan Deen, George Floros, Andy Pimentel, Anuj Pathania

机构 * University of Amsterdam, Netherlands(阿姆斯特丹大学) Southeast University, China(东南大学) University of Thessaly, Greece(塞萨洛尼基大学)

专题命中 效率与部署 :foundation model(abstract,abstract_cn);分类 cs.LG

AI总结 本文提出AILFM框架,通过主动模仿学习实现热感知调度,考虑核心性能异质性和LFM核行为,提升性能并保障热安全。

Comments Accepted for publication at the 63rd ACM/IEEE Design Automation Conference (DAC 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01236 2026-04-15 cs.NE cs.AI cs.DC cs.MA cs.NI 70%

DarwinNet: An Evolutionary Network Architecture for Agent-Driven Protocol Synthesis

DarwinNet: 一种基于进化算法的网络架构用于智能体驱动的协议合成

Jinliang Xu, Bingqi Li

机构 * China Academy of Information and Communications Technology(信息与通信技术研究院)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.AI

AI总结 DarwinNet通过生物启发的自进化架构,将通信协议从设计时静态模式转向运行时增长模式,利用三层次框架和双循环机制合成业务意图,通过协议固结指数量化系统进化成熟度,实验表明其具备抗脆弱性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.24168 2026-04-15 cs.AI 70%

MGA: Memory-Driven GUI Agent for Observation-Centric Interaction

MGA:基于记忆的GUI代理用于以观察为中心的交互

Weihua Cheng, Junming Liu, Yifei Sun, Botian Shi, Yirong Chen, Ding Wang

机构 * Shanghai Tech University(上海科技大学) Tongji University(同济大学) East China University of Science and Technology(东华大学) Shanghai AI Laboratory(上海人工智能实验室)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 MGA通过解耦长周期轨迹和结构化状态记忆机制,减少认知负担和系统复杂度,实现高效的GUI自动化。

Comments Submitted to ACM MM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.01979 2026-04-15 cs.DC cs.AI 70%

SpecBranch: Speculative Decoding via Hybrid Drafting and Rollback-Aware Branch Parallelism

SpecBranch:通过混合草稿和回滚感知分支并行性进行推测解码

Yuhao Shen, Junyi Shen, Quan Kong, Tianyu Liu, Yao Lu, Cong Wang

机构 * Zhejiang University(浙江大学) National University of Singapore(新加坡国立大学) University of Science and Technology of China(中国科学技术大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.AI

AI总结 SpecBranch通过混合草稿和回滚感知分支并行性,提升大语言模型推理速度,减少回滚令牌,实现实际应用。

Comments The paper has been accepted by ICLR2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.10387 2026-04-15 cs.DC 67%

Leveraging Mathematical Reasoning of LLMs for Efficient GPU Thread Mapping

利用大语言模型的数学推理实现高效的GPU线程映射

Jose Maureira, Cristóbal A. Navarro, Hector Ferrada, Luis Veas-Castillo

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 本文提出利用大语言模型的符号推理自动化GPU非矩形域线程映射,通过上下文学习推导出精确的O(1)和O(log N)映射方程,显著优于传统符号回归方法,实现高效能资源优化。

Comments 11 pages, 5 figures, 8 tables. Submitted to IEEE Transactions on Parallel and Distributed Systems (TPDS)

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11836 2026-04-15 cs.CY cs.SE 67%

Design and Deployment of a Course-Aware AI Tutor in an Introductory Programming Course

面向入门编程课程的课程感知AI助教的设计与部署

Iris Groher, Patrick Heissenberger, Michael Vierhauser

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 本文设计了一款面向入门编程课程的AI助教,通过检索增强的课程对齐指导帮助学生提升问题解决能力,研究发现学生主要利用助教进行概念理解、实现指导和调试。

Comments accepted for publication at CSEDU 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12989 2026-04-15 cs.CL 57%

Accelerating Speculative Decoding with Block Diffusion Draft Trees

通过块扩散草案树加速推测解码

Liran Ringel, Yaniv Romano

机构 * Department of Computer Science, Technion – Israel Institute of Technology(计算机科学系,技术离子理工学院 – 以色列理工学院) Department of Electrical and Computer Engineering, Technion – Israel Institute of Technology(电气与计算机工程系,技术离子理工学院 – 以色列理工学院)

专题命中 效率与部署 :language model(abstract);分类 cs.CL

AI总结 DDTree基于块扩散草案模型构建草案树,利用最佳优先堆算法选择最可能匹配目标模型的延续,提升推测解码效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12931 2026-04-15 eess.SP cs.LG 57%

Token Encoding for Semantic Recovery

用于语义恢复的标记编码

Jingzhi Hu, Geoffrey Ye Li

机构 * Department of Electrical and Electronic Engineering(电子工程系) Imperial College London, London, UK(伦敦帝国学院)

专题命中 效率与部署 :foundation model(abstract);分类 cs.LG

AI总结 本文提出TokCode框架,通过句子语义引导的模型适应算法优化标记编码,有效缓解语义失真,即使在40%-60%标记丢失的恶劣信道中也能接近性能上限。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.09803 2026-04-15 cs.CL 57%

Retrieval as a Decision: Training-Free Adaptive Gating for Efficient RAG

检索作为决策:无需训练的自适应检索门控以实现高效的RAG

Yufeng Wang, Lu wei, Haibin Ling

机构 * Department of Computer Science(计算机科学系) Stony Brook University(石溪大学) Department of Artificial Intelligence(人工智能系) Westlake University(西湖大学)

专题命中 效率与部署 :LLM(abstract_cn);分类 cs.CL

AI总结 本文提出TARG,一种无需训练的自适应检索门控方法,通过短稿前缀logits计算不确定性评分,仅在评分超过阈值时触发检索,提升RAG的效率与准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.19644 2026-04-15 cs.CL 57%

CoRoVA: Compressed Representations for Vector-Augmented Code Completion

CoRoVA:用于向量增强代码补全的压缩表示

Daria Cherniuk, Nikita Sukhorukov, Danil Gusak, Nikita Sushko, Danil Sivtsov, Elena Tutubalina, Evgeny Frolov

机构 * HSE University(俄罗斯莫斯科高等教育学院)

专题命中 效率与部署 :LLM(abstract_cn);分类 cs.CL

AI总结 CoRoVA通过压缩上下文提升代码补全效率,减少提示扩展并降低延迟,提升生成质量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12933 2026-04-15 cs.RO cs.CV 50%

DINO-Explorer: Active Underwater Discovery via Ego-Motion Compensated Semantic Predictive Coding

DINO-Explorer: 通过补偿自体运动的语义预测编码实现主动水下发现

Yuhan Jin, Nayari Marie Lessa, Mariela De Lucas Alvarez, Melvin Laux, Lucas Amparo Barbosa, Frank Kirchner, Rebecca Adam

机构 * Robotics Innovation Center, German Research Center for Artificial Intelligence(德国人工智能研究中心机器人创新中心) Robotics Research Group, University of Bremen(不莱梅大学机器人研究组) Computing Department, SENAI CIMATEC(SENAI CIMATEC计算部门)

专题命中 效率与部署 :foundation model(abstract)

AI总结 本文提出DINO-Explorer框架,通过持续语义惊讶信号实现主动感知,有效抑制自体运动引起的视觉变化,提升水下任务相关现象的发现效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12346 2026-04-15 cs.CV 50%

Unlocking the Potential of Grounding DINO in Videos: Parameter-Efficient Adaptation for Limited-Data Spatial-Temporal Localization

解锁 grounding dino 在视频中的潜力:针对小数据空间-时间定位的参数高效适应

Zanyi Wang, Fan Li, Dengyang Jiang, Liuzhuozheng Li, Yunhua Zhong, Guang Dai, Mengmeng Wang

机构 * SGIT AI Lab, State Grid Corporation of China(国网SGIT人工智能实验室,国家电网公司) University of HongKong(香港大学) Zhejiang University of Technology(浙江工业大学)

专题命中 效率与部署 :language model(abstract)

AI总结 本文提出ST-GD框架,通过冻结基础模型并注入轻量适配器,有效解决小数据下的视频空间时间定位问题,在HC-STVG v1/v2基准和VidSTG数据集上表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12145 2026-04-15 eess.AS cs.SD 50%

Why Your Tokenizer Fails in Information Fusion: A Timing-Aware Pre-Quantization Fusion for Video-Enhanced Audio Tokenization

为何您的分词器在信息融合中失败:一种面向时间的预量化融合用于视频增强的音频分词

Xiangyu Zhang, Benjamin John Southwell, Siqi Pan, Xinlei Niu, Beena Ahmed, Julien Epps

机构 * School of Electrical Engineering and Telecommunications, University of New South Wales(新南威尔士大学电气工程与电信学院) Dolby Laboratories(杜比实验室)

专题命中 效率与部署 :language model(abstract)

AI总结 本文研究了视频增强音频分词中重建质量下降的根本原因,提出了一种面向时间的预量化融合方法,通过在分词器架构中合理定位融合位置,结合时间轴上的特征融合,实现了高保真重建和下游任务的优越性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.10950 2026-04-15 cs.CV 50%

Bootstrapping Video Semantic Segmentation Model via Distillation-assisted Test-Time Adaptation

通过蒸馏辅助测试时适应提升视频语义分割模型

Jihun Kim, Hoyong Kwon, Hyeokjun Kweon, Kuk-Jin Yoon

机构 * KAIST(韩国科学技术院) Chung-Ang University(Chung-Ang 大学)

专题命中 效率与部署 :foundation model(abstract)

AI总结 本文提出DiTTA框架,通过高效测试时适应将图像分割模型转化为时间感知的视频分割模型,无需标注视频,实验表明其在VSPW和Cityscapes上表现优异。

Comments accepted at CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.04705 2026-04-15 cs.CV 50%

Label-Efficient Cross-Modality Generalization for Liver Segmentation in Multi-Phase MRI

多模态MRI肝脏分割中的高效标注方法

Quang-Khai Bui-Tran, Minh-Toan Dinh, Thanh-Huy Nguyen, Ba-Thinh Lam, Mai-Anh Vu, Ulas Bagci

机构 * Ho Chi Minh University of Science(胡志明科技大学) National Central University(国立中央大学) Carnegie Mellon University(卡内基梅隆大学) University of Houston(休斯顿大学) Northwestern University(西北大学)

专题命中 效率与部署 :foundation model(abstract)

AI总结 本文提出一种高效标注的分割方法,通过基础模型适应和协同伪监督,实现多模态和多厂商MRI下的肝脏分割,克服标注数据稀缺和分布不均的问题。

Comments Accepted at MICCAI 2025 Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 领域大模型 16 篇

2603.21011 2026-04-15 cs.CE cs.AI cs.LG cs.MS cs.NA math.NA 92%

ALL-FEM: Agentic Large Language models Fine-tuned for Finite Element Methods

ALL-FEM:面向有限元方法的代理式大语言模型

Rushikesh Deotale, Adithya Srinivasan, Yuan Tian, Tianyi Zhang, Pavlos Vlachos, Hector Gomez

专题命中 领域大模型 :LLM(summary_cn,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.AI、cs.LG

AI总结 ALL-FEM通过代理式AI与领域专用微调LLM结合,实现固体力学、流体力学及多物理场问题的自动有限元分析,其微调模型在39个基准测试中达到71.79%的代码级成功率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.19693 2026-04-15 cs.IR 91%

Beyong Tokens: Item-aware Attention for LLM-based Recommendation

超越标记:面向LLM推荐的项感知注意力

Xiaokun Zhang, Bowei He, Jiamin Chen, Ziqiang Cui, Chen Ma

专题命中 领域大模型 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文提出项感知注意力机制,通过区分项内和项间标记关系,提升LLM在推荐中的表现,实验证明其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.12385 2026-04-15 cs.CL 90%

From Myopic Selection to Long-Horizon Awareness: Sequential LLM Routing for Multi-Turn Dialogue

从短视选择到长周期意识:面向多轮对话的序列LLM路由

Jiarui Zhang, Xiangyu Liu, Yong Hu, Chaoyue Niu, Hang Zeng, Shaojie Tang, Fan Wu, Guihai Chen

机构 * School of Computer Science, Shanghai Jiao Tong University, Shanghai, China(上海交通大学计算机科学学院) WeChat, Tencent Inc, Beijing, China(腾讯北京研发中心) University at Buffalo, New York, United States(布法罗大学)

专题命中 领域大模型 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出DialRouter,通过MCTS探索对话分支并学习轻量路由策略,实现多轮对话的高效路由,提升任务成功率并优化性能成本比。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.08209 2026-04-15 cs.CL 89%

Generation-Augmented Generation: A Plug-and-Play Framework for Private Knowledge Injection in Large Language Models

生成增强生成:一种用于大语言模型私有知识注入的即插即用框架

Rongji Li, Jian Xu, Yi Chen, Xueqing Chen, Yisheng Yang, Jiayi Wang, Xingyu Chen, Chunyu Xie, Dawei Leng, Xu-Yao Zhang

机构 * MAIS, Institute of Automation, Chinese Academy of Sciences(自动化研究所,中国科学院) School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院) Zhongguancun Academy(中关村学院) School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences(中国科学院大学先进交叉学科学院) AI Research(360人工智能研究院)

专题命中 领域大模型 :large language model(title,abstract);language model(title,abstract);pretraining(abstract);分类 cs.CL

AI总结 本文提出GAG框架,通过将私有专业知识作为辅助模态注入冻结的基础模型,解决私有知识注入中的效率与效果平衡问题,在科学和通用领域问答中均表现出色。

详情

展开后加载摘要…

URL PDF HTML 收藏