arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

RAG / 检索增强生成

检索增强生成、向量检索、知识库问答和面向大模型的搜索系统。

共收录 163 信号源:cs.IR, cs.CL, cs.AI, cs.DB

1. 检索器与排序 163 篇

2607.18785 2026-08-17 cs.AI 版本更新 57%

SkillSight: Calibrating Generic Content Bias for Skill Retrieval

SkillSight:通过共享描述实现准确技能检索

Jinying Xiao, Bin Li, Xiaopeng Li, Jianling Li, Jiacheng Jie, Xiaodong Liu, Ma Jun, Chao Wang, Nyima Tashi, Jie Yu

专题命中 检索器与排序 :retriever(abstract);分类 cs.AI

AI总结 研究针对大语言模型智能体技能检索问题,提出SkillSight框架,通过语义和词汇空间校准共享背景,减少偏差,实验证明该方法能提升检索指标,在端到端评估中表现出色且速度快,实现准确高效的技能选择。

Comments 9 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06417 2026-08-14 cs.LG cs.CL 版本更新 57%

Latent Fact-Checking: Detecting Misinformation through Activation Engineering

潜在事实核查:通过激活工程检测虚假信息

Pedro T. Barcelos, Otávio Parraga, Marcelo M. Mussi, Lucas M. Fraga, Lucas S. Kupssinskü, Rodrigo C. Barros

机构 * PUCRS(巴西天主教大学(里约格兰德 do 苏里)) Kunumi Institute(库纳米研究所)

专题命中 检索器与排序 :knowledge retrieval(abstract);分类 cs.CL

AI总结 本研究提出基于激活工程的虚假信息检测框架,通过对比激活引出潜在空间的虚假信息方向,在多类模型和基准上实现了优于部分基线的检测性能,为可解释性驱动的虚假信息检测提供了新方向。

Comments 13 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.03799 2026-08-14 cs.CL 版本更新 57%

Natural Language Processing: A Comprehensive Practical Guide from Tokenisation to RLHF

自然语言处理:从分词到RLHF的全面实用指南

Mullosharaf K. Arabov

机构 * KAZAN (VOLGA REGION) FEDERAL UNIVERSITY INSTITUTE OF COMPUTATIONAL MATHEMATICS AND INFORMATION TECHNOLOGIES(卡赞(伏尔加地区)联邦大学计算数学与信息科技学院)

专题命中 检索器与排序 :retrieval augmented generation(abstract);分类 cs.CL

AI总结 本文系统指导现代NLP全流程,涵盖分词、向量化、大语言模型微调、检索增强生成及人类反馈强化学习,强调低资源语言处理与开源模型应用。

Comments 136 pages, 12 practical works, preprint. Textbook for senior undergraduates and graduate students. Original contributions on low-resource languages (Tajik, Tatar and other). Companion repository available

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.04997 2026-08-14 cs.AI cs.MA 版本更新 57%

Foam-Agent: A Large Language Model-Based Multi-Agent Framework for Automating Computational Fluid Dynamics Workflows

Foam-Agent:迈向自动化智能CFD工作流程

Ling Yue, Nithin Somasekharan, Tingwen Zhang, Yadi Cao, Zhangze Chen, Shimin Di, Shaowu Pan

机构 * Department of Computer Science, Rensselaer Polytechnic Institute(里士满理工学院计算机科学系) Department of Mechanical, Aerospace, and Nuclear Engineering, Rensselaer Polytechnic Institute(里士满理工学院机械、航空航天与核工程系) Department of Computer Science and Engineering, University of California San Diego(加州大学圣地亚哥分校计算机科学与工程系) College of Education, Zhejiang Normal University(浙江师范大学教育学院) School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.AI

AI总结 Foam-Agent通过多智能体框架和大型语言模型,实现自动化CFD工作流程,显著提升模拟效率和成功率。

Comments 34 pages, 9 figures, 9 tables

Journal ref Computer Methods in Applied Mechanics and Engineering, Vol. 461, 119271 (2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28876 2026-08-13 cs.CL cs.LG 版本更新 57%

MMLA: How Memory Lets the Past Shape the Future

内存管理的长上下文注意力:可编辑请求局部记忆的初步研究

Junyi Zou, Avrova Donz

机构 * Zjydiary(智纪日记)

专题命中 检索器与排序 :dense retrieval(abstract);分类 cs.CL

AI总结 提出一种混合架构,将快速循环或稀疏骨干与可编辑的请求局部记忆槽和查询时稀疏回退相结合,以解决长上下文模型中的记忆写入、覆盖和抗污染问题。

Comments 16 pages, 11 figures, 5 tables. Substantially rewritten v3: retitled and reframed as MMLA; adds an eventized architecture, trusted row assembly, hard atomic overwrite/NULL, claim-evidence mapping, PM-I2 negative results, stop rules, and a conditional roadmap. Preserves the original Llama budget-gate failure. Project: https://github.com/MMLA-org/mmla-memory

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.27143 2026-08-13 cs.CR cs.AI 版本更新 57%

Enhancing Linux Privilege Escalation Attack Capabilities of Local LLM Agents

增强本地大语言模型代理的Linux提权攻击能力

Benjamin Probst, Andreas Happe, Jürgen Cito

机构 * TU Wien(维也纳技术大学)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.AI

AI总结 本文研究通过系统性实验验证针对性干预能否提升本地开源模型在Linux提权中的性能,发现开源模型可匹配甚至超越云模型,且反思类干预效果最佳,但漏洞发现仍是本地模型的瓶颈。

Comments Accepted at RAISE workshop (https://raise-workshop.github.io/)

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.23426 2026-08-11 cs.AI cs.LG 版本更新 57%

ToolUniverse: An open platform for democratizing AI scientists

ToolUniverse:一个让AI科学家开发民主化的开放平台

Shanghua Gao, Richard Zhu, Pengwei Sui, Zhenglun Kong, Sufian Aldogom, Yepeng Huang, Ayush Noori, Reza Shamji, Krishna Parvataneni, Theodoros Tsiligkaridis, Marinka Zitnik

机构 * Department of Biomedical Informatics, Harvard Medical School(哈佛医学院生物医学信息学系) Harvard College, Harvard University(哈佛大学哈佛学院) Massachusetts Institute of Technology(麻省理工学院) MIT Lincoln Laboratory(MIT林肯实验室) Kempner Institute for the Study of Natural and Artificial Intelligence, Harvard University(哈佛大学自然与人工智能研究学院) Broad Institute of MIT and Harvard(MIT与哈佛联合广谱研究所) Harvard Data Science Initiative(哈佛数据科学计划)

专题命中 检索器与排序 :knowledge retrieval(abstract);分类 cs.AI

AI总结 ToolUniverse是支持从各类模型构建AI科学家的开放平台,通过AI-工具交互标准规范工具调用,已应用于大量科学工具,案例中可完成多领域端到端分析。

Comments https://aiscientist.tools

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.00065 2026-08-10 cs.AI cs.LG 版本更新 57%

H+ Embedding: Harmonizing Global and Token-Level Retrieval with Context-Dependent Phrases

H+嵌入:利用上下文相关短语协调全局与词元级检索

Shusen Zhang, Junyi Hu, Ye Feng, Ziteng Wang, Zhaoyuan Pan, Xiaojun Yuan, Jiangshou Hong, Guosheng Dong, Xiangzhi Wang

专题命中 检索器与排序 :retriever(abstract);分类 cs.AI

AI总结 该研究提出H+嵌入多粒度检索器,以上下文相关短语为中间检索单元,在16项任务中提升检索效果,且降低了向量使用成本,为实用检索系统提供了质量与成本的平衡方案。

Comments 14 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.02880 2026-08-07 cs.IR cs.LG 版本更新 57%

Field Aware Agent Skill Retrieval

领域感知智能体技能检索

Paimon Goulart, Liang Wu, Kelly Wan, Evangelos E. Papalexakis, Liangjie Hong

专题命中 检索器与排序 :hybrid retrieval(abstract);分类 cs.IR

AI总结 本研究针对终身学习智能体技能检索瓶颈,提出领域感知的技能表示方法,通过保留技能的多字段结构计算相似度,在 SkillRet 和 SRA-Bench 基准上取得优于拼接基线的检索效果,且优势随技能库规模增大而提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.26352 2026-08-07 cs.CL 版本更新 57%

RICE-PO: Turning Retrieval Interactions into Credit Signals for Reasoning Agents

RICE-PO:将检索交互转化为推理智能体的信用信号

Mingchen Li, Hansi Zeng, Zhuo Qian, Jiatan Huang, Sunjae Kwon, Hamed Zamani, Hong Yu

机构 * University of Massachusetts, Amherst(马萨诸塞大学阿姆赫斯特分校) Texas Tech University(得克萨斯科技大学) University of Connecticut(康涅狄格大学)

专题命中 检索器与排序 :retriever(abstract);分类 cs.CL

AI总结 提出RICE-PO框架,通过将检索交互转化为局部学习信号,解决推理型检索智能体在训练中推理步骤的信用分配问题,在BRIGHT和BEIR上优于基线。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.07885 2026-08-06 cs.AI cs.LG 版本更新 57%

MemFly: On-the-Fly Memory Optimization via Information Bottleneck

MemFly: 通过信息瓶颈实现飞地内存优化

Zhenyuan Zhang, Xianzhang Jia, Zhiqin Yang, Zhenbo Song, Wei Xue, Sirui Han, Yike Guo

机构 * The Hong Kong University of Science(香港科学与技术大学) Nanjing University of Science(南京理工大学)

专题命中 检索器与排序 :hybrid retrieval(abstract);分类 cs.AI

AI总结 MemFly通过信息瓶颈原理实现LLM的飞地内存优化,采用梯度自由优化器和混合检索机制提升内存效率和多跳查询能力。

Comments Accepted by ICLR 2026 MemAgents Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.28942 2026-08-05 cs.AI 版本更新 57%

NeSyFS: A Neuro-symbolic Fast-Slow Thinking Framework for LLM Agent under Partial Observability

NeSyFS:部分可观测场景下LLM智能体的神经符号快慢思考框架

Duo Xu, Faramarz Fekri

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.AI

AI总结 该研究针对部分可观测场景下LLM智能体的决策挑战,提出NeSyFS神经符号快慢思考框架,结合知识图谱、TSMC算法与反思模块,在三个基准测试中表现优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.15428 2026-08-05 cs.IR 版本更新 57%

Fault Cause Identification across Manufacturing Lines through Ontology-Guided and Process-Aware FMEA Graph Learning with LLMs

基于本体引导和流程感知FMEA图学习结合大语言模型的跨生产线故障原因识别

Sho Okazaki, Kohei Kaminishi, Takuma Fujiu, Yusheng Wang, Manu Sasidharan, Jun Ota

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.IR

AI总结 该研究针对跨生产线故障原因识别难题,提出OGPAL框架,结合LLM与RGCN实现FMEA知识复用,在汽车压力传感器装配线案例中性能优于基线方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.08645 2026-08-04 cs.CL 版本更新 57%

Quick on the Uptake: Eliciting Implicit Intents from Human Demonstrations for Personalized Mobile-Use Agents

快速响应:从人类演示中提取隐含意图以构建个性化移动使用代理

Zheng Wu, Heyuan Huang, Yanjia Yang, Yuanyi Song, Xingyu Lou, Weiwen Liu, Weinan Zhang, Jun Wang, Zhuosheng Zhang

机构 * School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学与工程学院) OPPO Research Institute(OPPO研究院)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.CL

AI总结 本文提出IFRAgent框架,通过分析显式和隐式意图流,提升移动代理对人类意图的对齐率和任务完成率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.01893 2026-08-04 cs.AI cs.LG 版本更新 57%

Geometric Analysis of Token Selection in Multi-Head Attention

多头注意机制中令牌选择的几何分析

Timur Mudarisov, Mikhal Burtsev, Tatiana Petrova, Radu State

机构 * University of Luxembourg(卢森堡大学) London Institute for Mathematical Sciences(伦敦数学科学研究所)

专题命中 检索器与排序 :retriever(abstract);分类 cs.AI

AI总结 本研究通过几何分析揭示了多头注意力机制中令牌选择的结构特性,提出了精度、召回率和F分数等指标,并展示了头部在不同制度下的几何特征。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11872 2026-08-03 q-bio.GN cs.AI 版本更新 57%

ELISA: An Interpretable Hybrid Generative AI Agent for Expression-Grounded Discovery in Single-Cell Genomics

ELISA:一种可解释的混合生成式AI代理,用于单细胞组学中的表达基础发现

Omar Coser

专题命中 检索器与排序 :retriever(abstract);分类 cs.AI

AI总结 ELISA结合表达嵌入、语义检索和LLM解释,提供交互式单细胞发现,优于CellWhisperer,尤其在基因签名查询中表现突出。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.22042 2026-07-29 cs.IR 版本更新 57%

LAMAR: An Open Language-Aware Multilingual Alignment Reranker

LAMAR:一种开放的语言感知多语言对齐重排器

Seongtae Hong, Youngjoon Jang, Jungseob Lee, Seungyoon Lee, Heuiseok Lim

专题命中 检索器与排序 :retrieval augmented generation(abstract);分类 cs.IR

AI总结 研究多语言检索增强生成中重排器对文档语言的考量问题,提出语言感知多语言交叉编码器LAMAR,它通过英语锚定相关性蒸馏和偏好对齐实现语言连贯,在控制实验及实际检索中表现出色,证明其兼顾语言连贯与重排性能。

Comments preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.01862 2026-07-29 cs.MA cs.AI cs.NI 版本更新 57%

RadioMaster: Multi-Agent System for Autonomous Radio Signal Generation

RadioMaster: 自主无线电信号生成的多智能体系统

Jiazhen Lei, Yuxin Sha, Tianze Cao, Sihan Wang, Bingbing Wang, Zeming Yang, Fengyuan Zhu, Xiaohua Tian

机构 * University of Science and Technology of China(中国科学技术大学)

专题命中 检索器与排序 :knowledge retrieval(abstract);分类 cs.AI

AI总结 提出RadioMaster,一个全自主的多智能体框架,通过RadioWiki、RadioAgent和RadioEmulator三大支柱,将用户意图转化为真实无线信号,解决现有模型因领域知识和硬件约束敏感性不足而无法生成无线电信号的问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.14558 2026-07-29 cs.AI 版本更新 57%

JobMatchAI-An Intelligent Job Matching Platform Using Knowledge Graphs, Semantic Search and Explainable AI

JobMatchAI:基于知识图谱、语义搜索和可解释AI的智能岗位匹配平台

Mayank Vyas, Abhijit Chakraborty, Vivek Gupta

机构 * Arizona State University(亚利桑那州立大学)

专题命中 检索器与排序 :hybrid retrieval(abstract);分类 cs.AI

AI总结 本文提出JobMatchAI平台,整合Transformer嵌入、技能知识图谱和可解释重排序技术,优化技能匹配、经验、地点、薪资和公司偏好,提供 resume 驱动的搜索工作流解释,发布JobSearch-XS基准和混合检索栈评估技能泛化能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.14178 2026-07-28 cs.AI cs.MA 版本更新 57%

ReasFlow: Assisting Reasoning-Centric Scientific Discovery in Applied Mathematics via a Knowledge-Based Multi-Agent System

ReasFlow:通过基于知识的多智能体系统助力应用数学中以推理为中心的科学发现

Yutong He, Daibo Li, Guohong Li, Jiahe Geng, Zhengyang Huang, Can Ren, Zekun Zhang, Yifan Liu, Shuchen Zhu, Hengrui Zhang, Boao Kong, Ming Sun, Shu Li, Chenyi Li, Jiang Hu, Kun Yuan, Zaiwen Wen, Pingwen Zhang

专题命中 检索器与排序 :knowledge retrieval(abstract);分类 cs.AI

AI总结 针对理论驱动科学发现探索不足的问题,ReasFlow引入以推理为中心的自主智能体系统,通过内部验证循环和知识检索机制减少专家干预,能统一多项科研任务,从最少提示生成高质量论文,在开源基线中表现出色。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.02818 2026-07-28 cs.IR 版本更新 57%

Session-Level Optimization for Large-Scale Retrieval using REINFORCE with Multi-Step Off-Policy Correction

基于离策略强化学习的大规模生成式检索长期优化

Artem Matveev, Sergei Makeev, Aleksei Krasilnikov, Vladimir Baikalov, Sergei Liamaev, Kirill Khrylchenko

专题命中 检索器与排序 :retriever(abstract);分类 cs.IR

AI总结 将推荐视为会话级序贯决策问题,用离策略REINFORCE在预收集数据上训练生成式检索器,提出多步重要性权重近似,训练用户反馈模型用于离线评估,引入测试时缩放程序,实验表明方法能改进离线估计。

Comments Accepted at the 5th Workshop on End-End Customer Journey Optimization at KDD 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18796 2026-07-23 cs.IR 版本更新 57%

TSGR: Taobao Search Generative Retrieval

TSGR:淘宝搜索生成式检索

Tianyu Zhan, Gui Ling, Tong Xiong, Kunhai Lin, Yang Wang, Kaixuan Zhang, Zhihong Chen, Yuliang Yan, Dan Ou, Shengyu Zhang, Haihong Tang, Bo Zheng

专题命中 检索器与排序 :retriever(abstract);分类 cs.IR

AI总结 淘宝搜索生成式检索(TSGR)旨在解决现有生成式检索系统对商品业务价值不敏感的问题。它通过引入查询感知并行SID和价值感知排名模块,将价值感知融入商品表示与候选排名。实验证明该框架有效提升了检索性能及业务指标。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.25693 2026-07-21 cs.AI 版本更新 57%

RADD: Retrieval-Augmented Discrete Diffusion for Multi-Modal Knowledge Graph Completion

RADD:基于检索的离散扩散用于多模态知识图谱补全

Guanglin Niu, Bo Li

机构 * School of Artificial Intelligence, Beihang University(北航人工智能学院)

专题命中 检索器与排序 :retriever(abstract);分类 cs.AI

AI总结 本文提出RADD框架,通过分离检索与重排序过程,提升多模态知识图谱补全的性能,实验表明其在多个基准上表现最佳。

Comments 13 pages, 3 figures, 8 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.10239 2026-07-15 cs.IR 版本更新 57%

Multilingual Semantic Retrieval for Apple Music Search

苹果音乐搜索的多语言语义检索

Vishalaksh Aggarwal, Kevin Sebastian, Vivek Kanojiya, Leo Le, Nick Tucey, Santosh Shankar

专题命中 检索器与排序 :hybrid retrieval(abstract);分类 cs.IR

AI总结 研究苹果音乐多语言搜索问题,提出基于暹罗双编码器并微调的多语言语义检索系统,经混合检索架构集成。该系统离线和在线测试效果良好,提升了搜索召回率,尤其改善了难查询的表现,是平台较大的搜索质量改进。

Comments Accepted to the Industry Track of the 20th ACM Conference on Recommender Systems (RecSys 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.07285 2026-07-07 cs.CL cs.CY 版本更新 57%

Why teaching resists automation in an AI-inundated era: Human judgment, non-modular work, and the limits of delegation

为何在人工智能泛滥的时代教学抵抗自动化:人类判断、非模块化工作与委托的局限

Songhee Han

机构 * Florida State University(佛罗里达州立大学)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.CL

AI总结 本文探讨了在人工智能普及背景下,教学工作难以自动化的原因,指出教学本质上具有解释性、关联性和专业判断,无法被完全自动化或委托给技术。

Comments Revised version; accepted for publication in TechTrends

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20179 2026-06-23 hep-ex cs.AI cs.LG 版本更新 57%

AI Agents Can Already Autonomously Perform Experimental High Energy Physics

AI智能体已能自主执行实验高能物理研究

Eric A. Moreno, Samuel Bright-Thonney, Andrzej Novak, Dolores Garcia, Philip Harris

机构 * Massachusetts Institute of Technology(麻省理工学院) NSF AI Institute for Artificial Intelligence and Fundamental Interactions(国家科学基金会人工智能与基本相互作用研究所) CERN(欧洲核子研究中心)

专题命中 检索器与排序 :knowledge retrieval(abstract);分类 cs.AI

AI总结 基于大语言模型的AI智能体自主执行高能物理分析全流程,提出JFC框架整合文献检索与多智能体审查,在ALEPH、DELPHI和CMS开放数据上验证,首次由AI自主产生新颖物理结果,旨在减轻技术负担而非取代物理学家。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.08305 2026-06-23 cs.CV cs.AI 版本更新 57%

Retrieval-Augmented Anatomical Guidance for Text-to-CT Generation

检索增强的解剖引导用于文本到CT生成

Daniele Molino, Camillo Maria Caruso, Paolo Soda, Valerio Guarrasi

机构 * Unit of Artificial Intelligence and Computer Systems, Department of Engineering, Università Campus Bio-Medico di Roma, Rome, Italy(人工智能与计算机系统单位,工程系,罗马生物医学大学,意大利罗马) Department of Diagnostics and Intervention, Biomedical Engineering and Radiation Physics, Umeå University, Umeå, Sweden(诊断与介入系,生物医学工程与放射物理,乌梅大学,瑞典乌梅)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.AI

AI总结 提出检索增强方法,通过检索相关临床案例的解剖标注作为结构代理,注入文本条件潜在扩散模型,实现文本到CT生成中语义与解剖信息的融合,提升图像保真度和临床一致性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.26891 2026-06-19 cs.CL 版本更新 57%

Telenor Nordics Customer Service self-help corpus

Telenor Nordics 客户服务自助语料库

Mike Riess

机构 * Research and Innovation, Telenor Group(Telenor集团研究与创新)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.CL

AI总结 本文构建了一个包含芬兰语、丹麦语、挪威语和瑞典语的多语言客户服务自助语料库,共1122篇文档,用于支持北欧NLP和信息检索研究。

Comments 8 pages, 2 figures, 5 tables. Submitted to Nordic Machine Intelligence. Dataset: https://zenodo.org/records/19493152

Journal ref Nordic Machine Intelligence 6(1), 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.29517 2026-06-18 cs.IR 版本更新 57%

FLASH-MAXSIM: IO-Aware Fused Kernels for Late-Interaction Retrieval

FLASH-MAXSIM: 面向IO感知的融合内核用于晚期交互评分

Roi Pony, Daniel Ezer, Adi Raz Goldfarb, Idan Friedman, Oshri Naparstek, Udi Barzelay

专题命中 检索器与排序 :RAG(abstract);分类 cs.IR

AI总结 提出Flash-MaxSim,一种IO感知的融合GPU内核,通过流式分块和片上SRAM折叠行最大规约,避免物化完整相似度张量,显著降低内存占用并加速晚期交互检索(如ColBERT、ColPali)的MaxSim评分。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.26557 2026-06-18 cs.CL 版本更新 57%

MemBoost: A Memory-Boosted Framework for Cost-Aware LLM Inference

MemBoost:一种面向成本感知的LLM推理的内存增强框架

Joris Köster, Zixuan Liu, Siavash Khajavi, Zizhan Zheng

机构 * University of Cambridge(剑桥大学) ETH Zurich(苏黎世联邦理工学院)

专题命中 检索器与排序 :retrieval-augmented generation(abstract);分类 cs.CL

AI总结 提出MemBoost框架,通过轻量模型重用历史答案和检索支持信息,并选择性将困难查询路由到强模型,以降低LLM推理成本,同时保持回答质量。

Comments ICML MemFM 2026 Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏