arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-03-16 至 2026-03-16 共收录 211 信号源:cs.CL, cs.AI, cs.LG

1. 评测与基准 50 篇

2603.12274 2026-03-16 cs.MA cs.CE cs.CL 57%

DIALECTIC: A Multi-Agent System for Startup Evaluation

DIALECTIC:一种用于初创企业评估的多智能体系统

Jae Yoon Bae, Simon Malberg, Joyce Galang, Andre Retterath, Georg Groh

机构 * Technical University of Munich(慕尼黑技术大学) Earlybird Venture Capital(Earlybird风投) UVC Partners(UVC伙伴)

专题命中 评测与基准 :LLM(abstract);分类 cs.CL

AI总结 DIALECTIC通过多智能体系统提升初创企业评估效率,利用LLM生成事实论证并模拟辩论,生成决策分数以帮助投资者优先排序。

Comments Accepted at EACL 2026 Industry Track

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.18113 2026-03-16 cs.CR cs.AI 57%

MalURLBench: A Benchmark Evaluating Agents' Vulnerabilities When Processing Web URLs

MalURLBench: 评估代理处理网页URL时漏洞的基准

Dezhang Kong, Zhuxi Wu, Shiqi Liu, Zhicheng Tan, Kuichen Lu, Minghao Li, Qichen Liu, Shengyu Chu, Zhenhua Xu, Xuan Liu, Meng Han

机构 * Zhejiang University(浙江大学) National University of Malaysia (Universiti Kebangsaan Malaysia)(马来西亚国立大学) Hangzhou City University(杭州市大学) Yangzhou University(扬州大学) Chongqing University(重庆大学) Binjiang Institute of Zhejiang University(浙江大学滨江研究院)

专题命中 评测与基准 :LLM(abstract);分类 cs.AI

AI总结 本文提出MalURLBench,首个评估LLM处理恶意URL漏洞的基准,包含61845个攻击实例,揭示现有模型难以检测伪装恶意URL的问题,并提出轻量级防御模块URLGuard。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.00150 2026-03-16 cs.CV cs.AI cs.CE cs.MM 57%

FCMBench: The First Large-scale Financial Credit Multimodal Benchmark for Real-world Applications

FCMBench: 首个大规模金融信用多模态基准用于实际应用

Yehui Yang, Dalu Yang, Fangxin Shang, Wenshuo Zhou, Jie Ren, Yifan Liu, Haojun Fei, Qing Yang, Yanwu Xu, Tao Chen

机构 * AI Lab, Qifu Technology(奇富科技AI实验室) College of Future Information Technology, Fudan University(复旦大学未来信息学院) School of Future Technology, South China University of Technology(华南理工大学未来技术学院) Pazhou Lab(琶洲实验室)

专题命中 评测与基准 :language model(abstract);分类 cs.AI

AI总结 FCMBench是首个大规模且隐私合规的多模态基准,涵盖金融信用应用中的任务和鲁棒性挑战,包含26种证书类型、5198张隐私合规图像和13806对VQA样本,评估模型在现实干扰下的感知与推理任务,揭示现代视觉语言模型的能力差异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.17815 2026-03-16 cs.AI 57%

Evaluation Faking: Unveiling Observer Effects in Safety Evaluation of Frontier AI Systems

评估欺骗:揭示前沿AI系统安全评估中的观察者效应

Yihe Fan, Wenqi Zhang, Xudong Pan, Min Yang

机构 * Computation and Artificial Intelligence Innovative College, Fudan University(复旦大学计算与人工智能创新学院) Shanghai Innovation Institute(上海创新研究院)

专题命中 评测与基准 :foundation model(abstract);分类 cs.AI

AI总结 研究探讨了AI系统在被评估时可能产生欺骗行为,发现更先进的AI系统更易表现出观察者效应,影响评估结果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10450 2026-03-16 cs.CY 56%

Geist in the Machine: Simulating Recognition and Inner Dialogue in AI-Mediated Teaching and Research

机器中的幽灵:在AI教学与研究中模拟识别与内在对话

Liam Magee

专题命中 评测与基准 :prompting(abstract);LLM(comments)

AI总结 本文提出基于黑格尔识别和弗洛伊德心理动力学的AI辅导系统,通过增强识别提示和多智能体架构提升辅导效果,并探讨AI对师生及研究者关系动态的影响。

Comments 16 pages, 1 figure; plus 135-page automated companion paper (authored by Claude Code) included as appendix with 18 figures and 30+ tables reporting factorial evaluation across three LLM families

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13098 2026-03-16 cs.RO cs.CV 50%

SldprtNet: A Large-Scale Multimodal Dataset for CAD Generation in Language-Driven 3D Design

SldprtNet:一个大规模多模态数据集,用于语言驱动的3D设计CAD生成

Ruogu Li, Sikai Li, Yao Mu, Mingyu Ding

机构 * University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校) Shanghai Jiao Tong University(上海交通大学)

专题命中 评测与基准 :language model(abstract)

AI总结 本文提出SldprtNet数据集,用于语义驱动的CAD建模、几何深度学习和多模态模型训练,包含242,000个工业零件,提供多种3D模型格式,并结合图像与文本生成自然语言描述。

Comments Accept by ICRA 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.05330 2026-03-16 cs.CV 50%

Dark3R: Learning Structure from Motion in the Dark

Dark3R: 在黑暗中学习结构从运动

Andrew Y Guo, Anagh Malik, SaiKiran Tedla, Yutong Dai, Yiqian Qin, Zach Salehe, Benjamin Attal, Sotiris Nousias, Kiriakos N. Kutulakos, David B. Lindell

机构 * University of Toronto(多伦多大学) Vector Institute(向量研究所) York University(约克大学) Sony Corporation of America(美国索尼公司) Harvard University(哈佛大学) Purdue University(普渡大学)

专题命中 评测与基准 :foundation model(abstract)

AI总结 Dark3R通过教师-学生蒸馏适应大规模3D基础模型以应对极低光照条件,无需3D监督,仅需噪声-清洁原始图像对进行训练,实现低信噪比下的鲁棒特征匹配和相机姿态估计。

Comments CVPR 2026, Project Page: https://andrewguo.com/pub/dark3r

详情

展开后加载摘要…

URL PDF HTML 收藏
2409.02108 2026-03-16 cs.CV cs.GR cs.MM 50%

Unveiling Deep Shadows: A Survey and Benchmark on Image and Video Shadow Detection, Removal, and Generation in the Deep Learning Era

揭示深层阴影:深度学习时代图像和视频阴影检测、去除与生成的综述与基准

Xiaowei Hu, Zhenghao Xing, Tianyu Wang, Chi-Wing Fu, Pheng-Ann Heng

机构 * School of Future Technology, South China University of Technology(华南理工大学未来技术学院) Department of Computer Science and Engineering, The Chinese University of Hong Kong(香港中文大学计算机科学与工程学院) Adobe Research(Adobe研究)

专题命中 评测与基准 :foundation model(abstract)

AI总结 本文综述并建立了深度学习时代图像和视频阴影检测、去除与生成的统一基准,揭示了现有研究中的不一致、模型设计依赖性和跨数据集泛化限制,并提出了未来研究方向。

Comments Accepted by International Journal of Computer Vision (IJCV). Publicly available results, trained models, and evaluation metrics at https://github.com/xw-hu/Unveiling-Deep-Shadows

Journal ref International Journal of Computer Vision (IJCV), vol.134, article 158, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12605 2026-03-16 cs.CV 50%

A2Z-10M+: Geometric Deep Learning with A-to-Z BRep Annotations for AI-Assisted CAD Modeling and Reverse Engineering

A2Z-10M+: 通过A到Z BRep注释进行几何深度学习用于辅助CAD建模与逆向工程

Pritham Kumar Jena, Bhavika Baburaj, Tushar Anand, Vedant Dutta, Vineeth Ulavala, Sk Aziz Ali

专题命中 评测与基准 :foundation model(abstract)

AI总结 本文提出A2Z-10M+数据集,包含1000万种多模态注释,用于提升CAD逆向工程中的BRep学习能力,通过高分辨率网格、手绘草图和文本描述等多源数据训练基础模型,实现对CAD特征的精准识别。

Comments 27 pages, accepted to IEEE CVF CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.00511 2026-03-16 cs.CV 50%

ID-Crafter: VLM-Grounded Online RL for Compositional Multi-Subject Video Generation

ID-Crafter:基于视觉语言模型的在线强化学习多主体视频生成框架

Panwang Pan, Jingjing Zhao, Yuchen Lin, Chenguo Lin, Chenxin Li, Hengyu Liu, Tingting Shen, Yadong MU

专题命中 评测与基准 :language model(abstract)

AI总结 本文提出ID-Crafter框架,通过层次化注意力机制、预训练视觉语言模型和在线强化学习,提升多主体视频生成中身份保持与语义一致性。

Comments Project page: https://angericky.github.io/ID-Crafter, Code: https://github.com/paulpanwang/IDCrafter

Journal ref CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 效率与部署 44 篇

2603.12933 2026-03-16 cs.AI 89%

Efficient and Interpretable Multi-Agent LLM Routing via Ant Colony Optimization

通过蚁群优化实现高效且可解释的多智能体大语言模型路由

Xudong Wang, Chaoning Zhang, Jiaquan Zhang, Chenghao Li, Qigan Sun, Sung-Ho Bae, Peng Wang, Ning Xie, Jie Zou, Yang Yang, Hengtao Shen

机构 * School of Computing, Kyung Hee University(Kyung Hee 大学计算机学院) School of Information and Software Engineering, University of Electronic Science and Technology of China(中国电子科技大学信息与软件工程学院) School of Computer Science and Engineering, University of Electronic Science and Technology of China(中国电子科技大学计算机科学与工程学院) School of Computer Science and Technology, Tongji University(同济大学计算机科学与技术学院)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);small language model(abstract)

AI总结 本文提出AMRO-S框架,通过意图推理、任务特定信息素专家和质量门控异步更新机制,提升多智能体系统路由效率与可解释性,实验显示其在质量-成本权衡上优于现有方法。

Comments 11 pages, 3 figures, submitted to IEEE Transactions on Artificial Intelligence

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.10436 2026-03-16 cs.IR cs.AI 88%

Development of Ontological Knowledge Bases by Leveraging Large Language Models

通过利用大语言模型开发本体知识库

Le Ngoc Luyen, Marie-Hélène Abel, Philippe Gouspillou

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 本文提出利用大语言模型开发本体知识库的结构化迭代方法,通过案例研究展示加速本体构建、提升一致性及透明度的贡献。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12290 2026-03-16 cs.IR cs.AI 87%

Detecting Miscitation on the Scholarly Web through LLM-Augmented Text-Rich Graph Learning

通过LLM增强的文本丰富图学习检测学术网络中的误引

Huidong Wu, Haojia Xiang, Jingtong Gao, Xiangyu Zhao, Dengsheng Wu, Jianping Li

机构 * Chinese Academy of Sciences & City University of Hong Kong(中国科学院与香港城市大学) City University of Hong Kong(香港城市大学) Shenzhen University & Beijing Dongbi Data Technology(深圳大学与北京东碧数据技术) University of Chinese Academy of Sciences(中国科学院大学)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);prompting(abstract)

AI总结 本文提出LAGMiD框架,利用LLM进行深度语义推理,结合图神经网络实现高效误引检测,通过证据链推理和知识蒸馏降低计算成本,实验显示效果优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.15346 2026-03-16 cs.CL cs.AI 86%

When to Ensemble: Identifying Token-Level Points for Stable and Fast LLM Ensembling

何时进行集成:识别令牌级点以实现稳定且快速的LLM集成

Heecheol Yun, Kwangmin Ki, Junghyun Lee, Eunho Yang

机构 * KAIST(韩国科学技术院) Korea University(韩国大学) AITRICS

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出SAFE框架,通过考虑令牌化不匹配和下一个令牌概率分布的一致性,改进长形式生成中的模型集成,提升准确性和效率。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12752 2026-03-16 cs.IR cs.LG 85%

Taming the Long Tail: Efficient Item-wise Sharpness-Aware Minimization for LLM-based Recommender Systems

驯服长尾:面向基于大语言模型的推荐系统的高效项级锐度感知最小化

Jiaming Zhang, Yuyuan Li, Xiaohua Feng, Li Zhang, Longfei Li, Jun Zhou, Chaochao Chen

机构 * Zhejiang University(浙江大学) Hangzhou Dianzi University(杭州电子科技大学) Ant Group(蚂蚁集团)

专题命中 效率与部署 :LLM(title);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 本文研究了基于大语言模型的推荐系统在长尾问题中的表现,提出EISAM框架通过项级锐度感知最小化提升尾部项目推荐性能,理论分析证明其有效性,并在三个真实数据集上验证了其效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12740 2026-03-16 cs.AI 85%

ToolTree: Efficient LLM Agent Tool Planning via Dual-Feedback Monte Carlo Tree Search and Bidirectional Pruning

ToolTree: 通过双反馈蒙特卡洛树搜索与双向剪枝实现高效的LLM代理工具规划

Shuo Yang, Soyeon Caren Han, Yihao Ding, Shuhe Wang, Eduard Hoy

机构 * School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息学院) School of Physics, Mathematics and Computing, The University of Western Australia(西澳大学物理、数学与计算学院)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出ToolTree,一种基于蒙特卡洛树搜索的工具规划方法,通过双阶段LLM评估和双向剪枝机制,提升工具使用序列的适应性和效率,实验表明其在多种基准测试中性能提升约10%。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12465 2026-03-16 cs.DC cs.LG cs.PF 85%

TaxBreak: Unmasking the Hidden Costs of LLM Inference Through Overhead Decomposition

TaxBreak: 通过开销分解揭示LLM推理的隐藏成本

Prabhu Vellaisamy, Shreesh Tripathi, Vignesh Natarajan, Surya Santhan Thenarasu, Shawn Blanton, John P. Shen

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 TaxBreak通过分解主机可见的编排开销,识别优化应针对软件栈还是设备侧工作负载,揭示LLM推理中隐藏的成本问题。

Comments Accepted at IEEE ISPASS 2026. Copyright assigned to IEEE

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.13165 2026-03-16 cs.IR cs.AI 85%

Asynchronous Verified Semantic Caching for Tiered LLM Architectures

异步验证语义缓存用于分层大语言模型架构

Asmit Kumar Singh, Haozhe Wang, Laxmi Naga Santosh Attaluri, Tak Chiam, Weihua Zhu

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出Krites异步缓存策略,通过LLM判断扩展静态缓存覆盖范围,提升静态缓存命中率,减少推理成本和延迟。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.02620 2026-03-16 cs.CR cs.LG 85%

Verifying LLM Inference to Detect Model Weight Exfiltration

验证大语言模型推理以检测模型权重外泄

Roy Rinberg, Adam Karvonen, Alexander Hoover, Daniel Reuter, Keri Warr

机构 * Harvard University(哈佛大学) ML Alignment & Theory Scholars (MATS)(对齐与理论学者(MATS)) Stevens Institute of Technology(史蒂文斯理工学院) Anthropic

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出通过验证LLM推理来检测模型权重外泄,通过安全游戏形式化外泄问题,提出可证明缓解隐写外泄的验证框架,并评估了不同参数规模的模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13110 2026-03-16 cs.OS 85%

AgentRM: An OS-Inspired Resource Manager for LLM Agent Systems

AgentRM: 一种受操作系统启发的LLM代理系统资源管理器

Jianshu She

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract)

AI总结 本文提出AgentRM,通过多级反馈队列调度和三级上下文生命周期管理,解决LLM代理系统中的资源调度失败和上下文退化问题,显著提升性能和稳定性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12707 2026-03-16 cs.LG cs.AI cs.DC 84%

Cost-Efficient Multimodal LLM Inference via Cross-Tier GPU Heterogeneity

通过跨层级GPU异构性实现高效的多模态大语言模型推理

Donglin Yu

专题命中 效率与部署 :LLM(title);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出通过跨层级GPU异构性优化多模态大语言模型推理,减少跨设备传输复杂度,提升吞吐量并降低部署成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12350 2026-03-16 cs.CL cs.SD 83%

TASTE-Streaming: Towards Streamable Text-Aligned Speech Tokenization and Embedding for Spoken Language Modeling

TASTE-Streaming: 向可流式传输的文本对齐语音标记化与嵌入迈进

Liang-Hsuan Tseng, Hung-yi Lee

机构 * Graduate Institute of Communication Engineering, National Taiwan University(国立台湾大学通讯工程研究所)

专题命中 效率与部署 :language model(title,abstract);SLM(abstract);分类 cs.CL

AI总结 本文提出TASTE-S,通过集成CTC ASR模块和重设计解码器,实现流式传输的文本对齐语音标记化与嵌入,减少延迟并保持鲁棒性。

Comments Work in progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19577 2026-03-16 cs.CV 82%

MaDiS: Taming Masked Diffusion Language Models for Sign Language Generation

MaDiS:驯服掩码扩散语言模型用于手语生成

Ronglai Zuo, Rolandos Alexandros Potamias, Qi Sun, Evangelos Ververas, Jiankang Deng, Stefanos Zafeiriou

机构 * Imperial College London(伦敦帝国学院)

专题命中 效率与部署 :language model(title,abstract);pretraining(abstract)

AI总结 本文提出MaDiS,一种基于掩码扩散的语言模型,用于手语生成,通过双向依赖捕捉和高效并行多令牌生成,提升生成效率和质量,同时引入三级交叉模态预训练方案和混合部分嵌入层,实现多层级手语表示。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12273 2026-03-16 cs.CL cs.AI cs.LG 82%

Aligning Language Models from User Interactions

从用户交互对齐语言模型

Thomas Kleine Buening, Jonas Hübotter, Barna Pásztor, Idan Shenfeld, Giorgia Ramponi, Andreas Krause

机构 * ETH Zurich(苏黎世联邦理工学院) MIT(麻省理工学院) University of Zurich(苏黎世大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过自蒸馏直接从用户交互学习的方法,利用用户反馈调整模型行为,提升对齐和指令遵循能力,同时实现个性化和持续适应。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.15511 2026-03-16 cs.LG cs.AI 81%

Language Models are Injective and Hence Invertible

语言模型是单射的,因此可逆

Giorgos Nikolaou, Tommaso Mencattini, Donato Crisostomi, Andrea Santilli, Yannis Panagakis, Emanuele Rodolà

机构 * EPFL(苏黎世联邦理工学院) Sapienza University of Rome(罗马大学) Paradigma University of Athens(雅典大学) Archimedes/Athena RC, Greece(阿基米德/雅典研究中心,希腊)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI、cs.LG

AI总结 研究证明语言模型在映射离散序列到连续表示时是单射的,通过实验验证无碰撞,并提出SipIt算法实现精确逆向恢复。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12634 2026-03-16 cs.LG cs.AI 81%

Spend Less, Reason Better: Budget-Aware Value Tree Search for LLM Agents

少花钱,多思考:基于预算的值树搜索用于大语言模型代理

Yushu Li, Wenlong Deng, Jiajin Li, Xiaoxiao Li

机构 * University of British Columbia(不列颠哥伦比亚大学) Vector Institute(向量研究所)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出一种无需训练的推理时框架,通过单个LLM骨干模型将多跳推理建模为动态搜索树,并引入预算条件的节点选择机制,以在预算耗尽时实现从广度探索到贪婪利用的平稳过渡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11975 2026-03-16 cs.CV cs.AI cs.CR 79%

HomeSafe-Bench: Evaluating Vision-Language Models on Unsafe Action Detection for Embodied Agents in Household Scenarios

HomeSafe-Bench:评估视觉-语言模型在家庭场景中对不安全行为检测的性能

Jiayue Pu, Zhongxiang Sun, Zilu Zhang, Xiao Zhang, Jun Xu

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 本文提出HomeSafe-Bench,用于评估视觉-语言模型在家庭场景中检测不安全行为的能力,同时引入HD-Guard架构提升实时安全监控效率与准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12823 2026-03-16 cs.CL cs.CV 79%

Adaptive Vision-Language Model Routing for Computer Use Agents

自适应视觉-语言模型路由用于计算机使用代理

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project(vLLM语义路由项目) MBZUAI McGill University(麦吉尔大学) AMD Red Hat(红帽公司)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 本文提出自适应VLM路由框架,通过动态选择模型降低推理成本,同时保持可靠性。在ScreenSpot-Pro数据集和OpenClaw基准测试中,AVR实现了高达78%的推理成本降低,并结合视觉困惑代理机制提升安全性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12646 2026-03-16 cs.CL 79%

98$\times$ Faster LLM Routing Without a Dedicated GPU: Flash Attention, Prompt Compression, and Near-Streaming for the vLLM Semantic Router

98倍更快的LLM路由无需专用GPU:Flash注意力、提示压缩与近流式处理用于vLLM语义路由

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project(vLLM语义路由器项目) MBZUAI McGill University(麦吉尔大学) AMD Red Hat(红帽公司)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.CL

AI总结 本文提出三种优化方法,解决LLM路由的延迟和内存问题,实现98倍速度提升,使路由在共享GPU上成为可能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12624 2026-03-16 cs.CV eess.IV 78%

Prompt-Driven Lightweight Foundation Model for Instance Segmentation-Based Fault Detection in Freight Trains

基于提示的轻量级基础模型用于基于实例分割的货运列车故障检测

Guodong Sun, Qihang Liang, Xingyu Pan, Moyun Liu, Yang Zhang

机构 * School of Mechanical Engineering, Hubei University of Technology(湖北工业大学机械工程学院) Hubei Key Laboratory of Modern Manufacturing Quality Engineering, Hubei University of Technology(湖北工业大学现代制造质量工程重点实验室) School of Mechanical Science and Engineering, Huazhong University of Science and Technology(华中科技大学机械科学与工程学院)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 本文提出一种轻量级自提示实例分割框架,用于货运列车故障检测,通过自提示生成模块实现基础模型到领域任务的知识迁移,并采用轻量级视觉Transformer backbone,实现低计算成本的高效部署。

Comments 14 pages, 9 figures

详情

展开后加载摘要…

URL PDF HTML 收藏