arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Xi'an Jiaotong University(西安交通大学)

2026-04-23 至 2026-04-23 共收录 3
2601.21503 2026-04-23 cs.AI cs.CL cs.LG cs.NE

MAR: Efficient Large Language Models via Module-aware Architecture Refinement

MAR:通过模块感知架构优化实现高效的大型语言模型

Junhong Cai, Guiqin Wang, Kejie Zhao, Jianxiong Tang, Xiang Wang, Luziwei Leng, Ran Cheng, Yuxin Ma, Qinghai Guo

机构 * Department of CSE, Southern University of Science and Technology(南方科技大学计算机科学与工程系) School of Computer Science and Technology, Xi’an Jiaotong University(西安交通大学计算机科学与技术学院) National Engineering Laboratory for Big Data Analytics, Xi’an Jiaotong University(西安交通大学大数据分析国家工程实验室) Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系) ACS Laboratory, Huawei Technologies Co., Ltd.(华为技术有限公司ACS实验室)

AI总结 本文提出MAR框架,结合状态空间模型和激活稀疏化,降低LLM的能耗并提升性能,同时设计ATMN和SBDS解决SNN与SSM整合问题,实验表明其在受限资源下性能优异且能超越同等或更大规模的高效模型。

Comments Accepted by ICASSP 2026. 5 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.18036 2026-04-23 cs.CL

Harnessing Multiple Large Language Models: A Survey on LLM Ensemble

利用多个大语言模型:关于LLM集成的综述

Zhijun Chen, Xiaodong Lu, Jingzheng Li, Pengpeng Chen, Zhuoran Li, Kai Sun, Yuankai Luo, Qianren Mao, Ming Li, Likang Xiao, Dingqi Yang, Xiao Huang, Yikun Ban, Hailong Sun, Philip S. Yu

机构 * State Key Laboratory of Complex & Critical Software Environment, Beihang University, Beijing, China(复杂与关键软件环境国家重点实验室,北京航空航天大学,北京,中国) Zhongguancun Laboratory, Beijing, China(中关村实验室,北京,中国) Aviation System Engineering Institute of China, Beijing, China(中国航空系统工程研究院,北京,中国) Xi’an Jiaotong University, Xi’an, China(西安交通大学,西安,中国) Nanjing University, Nanjing, China(南京大学,南京,中国) Tsinghua University, Beijing, China(清华大学,北京,中国) University of Macau, Macau SAR, China(澳门大学,澳门特别行政区,中国) The Hong Kong Polytechnic University, Hong Kong, China(香港理工大学,香港,中国) University of Illinois at Chicago, Chicago, USA(伊利诺伊大学香槟分校,芝加哥,美国)

AI总结 本文系统回顾了LLM集成的最新发展,介绍了分类方法,讨论了相关研究问题,并提出了未来研究方向。

Comments 12 pages, 2 figures, codebase: https://github.com/junchenzhi/Awesome-LLM-Ensemble

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.08730 2026-04-23 cs.CV

SegEarth-OV3: Exploring SAM 3 for Open-Vocabulary Semantic Segmentation in Remote Sensing Images

SegEarth-OV3: 探索SAM 3用于遥感图像的开放词汇语义分割

Kaiyu Li, Shengqi Zhang, Yujie Wang, Yupeng Deng, Zhi Wang, Deyu Meng, Xiangyong Cao

机构 * School of Software Engineering, Xi’an Jiaotong University(西安交通大学软件工程学院) School of Computer Science and Technology, Xi’an Jiaotong University(西安交通大学计算机科学与技术学院) School of Information and Communications Engineering, Xi’an Jiaotong University(西安交通大学信息与通信工程学院) Ministry of Education Key Lab of Intelligent Network Security, Xi’an, China(教育部智能网络安全重点实验室) Pazhou Laboratory (Huangpu), Radarweg 29, Guangzhou, China(琶洲实验室(黄埔),雷达路29号,广州,中国)

AI总结 本文提出SegEarth-OV3,通过结合SAM 3的语义分割头和Transformer解码器,提升遥感图像的语义分割性能,并通过实例和像素级验证策略改进变化检测,验证了SAM 3在开放词汇遥感任务中的潜力。

详情

展开后加载摘要…

URL PDF HTML 收藏