P3-LLM: An Integrated NPU-PIM Accelerator for Edge LLM Inference Using Hybrid Numerical Formats
P3-LLM：一种用于边缘LLM推理的NPU-PIM集成加速器，采用混合数值格式
Yuzong Chen, Chao Fang, Xilai Dai, Yuheng Wu, Thierry Tambe, Marian Verhelst, Mohamed S. Abdelfattah
机构
*
Department of Electrical and Computer Engineering, Cornell University（康奈尔大学电气与计算机工程系）
；
EAST-MICAS, KU Leuven（KU莱顿大学EAST-MICAS）
；
Department of Electrical Engineering, Stanford University（斯坦福大学电气工程系）
专题命中
效率与部署
：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG
NeuronMLP: Efficient LLM Inference via Singular Value Decomposition Compression and Tiling on AWS Trainium
NeuronMLP：通过AWS Trainium上的奇异值分解压缩和分块实现高效的LLM推理
Dinghong Song, Jierui Xu, Weichu Yang, Pengfei Su, Dong Li
机构
*
University of California, Merced USA
；
University of Wisconsin, Madison USA
；
Yotta Labs \& University of California, Merced USA
；
University of California, Merced
；
University of Wisconsin, Madison
；
Yotta Labs \& University of California, Merced
专题命中
效率与部署
：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL
机构
*
Center for Basic Research on Materials（材料基础研究中心）
；
National Institute for Materials Science（国家材料科学研究所）
；
Graduate School of Frontier Sciences（前沿科学研究生院）
；
The University of Tokyo（东京大学）
；
RIKEN Center for Advanced Intelligence Project（RIKEN高级智能项目中心）
；
Core Facility Center（核心设施中心）
；
Tohoku University（东北大学）
；
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
；
CNRS（法国国家科学研究中心）
；
Grenoble INP（格勒诺布尔INP）
；
SIMaP
；
Center for Green Research on Energy and Environmental Materials（能源与环境材料绿色研究中心）
；
Nara Institute of Science and Technology（奈良科学技术大学）
；
Research Center for Structural Materials（结构材料研究中心）
；
Graduate School of Medical Life Science（医学生命科学研究生院）
；
Tokyo Institute of Technology（东京技术大学）
专题命中
效率与部署
：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
Disentangle-then-Refine: LLM-Guided Decoupling and Structure-Aware Refinement for Graph Contrastive Learning
解耦后再细化：基于LLM的解耦与结构感知细化用于图对比学习
Zhaoxing Li, Hai-Feng Zhang, Xiaoming Zhang
机构
*
Institute of Physical Science and Information Technology（物理科学与信息技术研究院）
；
School of Mathematical Sciences（数学科学学院）
；
Qinghai Institute of Science and Technology Information（青海科学技术信息研究院）
专题命中
效率与部署
：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
机构
*
Institute for AI Industry Research (AIR), Tsinghua University（人工智能产业研究院（AIR），清华大学）
；
Beijing Jiaotong University（北京交通大学）
；
University of Science and Technology of China（中国科学技术大学）
专题命中
效率与部署
：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
SEPTQ: A Simple and Effective Post-Training Quantization Paradigm for Large Language Models
SEPTQ：一种用于大型语言模型的简单且有效的后训练量化范式
Han Liu, Haotian Gao, Xiaotong Zhang, Changya Li, Feng Zhang, Wei Wang, Fenglong Ma, Hong Yu
机构
*
Dalian University of Technology（大连理工大学）
；
Peking University（北京大学）
；
Shenzhen MSU-BIT University（深圳北理莫斯科大学）
；
The Pennsylvania State University（宾夕法尼亚州立大学）
专题命中
效率与部署
：large language model(title,abstract)；language model(title,abstract)；post-training(title,abstract)；分类 cs.CL
Benford's Law as a Distributional Prior for Post-Training Quantization of Large Language Models
本福特定律作为大语言模型后训练量化中的分布性先验
Arthur Negrão, Pedro Silva, Vander L. S. Freitas, Gladston Moreira, Eduardo Luz
机构
*
Postgraduate Program in Computer Science, Federal University of Ouro Preto（计算机科学硕士课程，联邦大学奥鲁普里托）
；
Computing Department, Federal University of Ouro Preto（计算部门，联邦大学奥鲁普里托）
专题命中
效率与部署
：large language model(title,abstract)；language model(title,abstract)；post-training(title)；small language model(abstract)
机构
*
X-LANCE Lab, School of Computer Science, MoE Key Lab of Artificial Intelligence Shanghai Jiao Tong University（X-LANCE实验室，计算机科学学院，人工智能教育部重点实验室，上海交通大学）
；
Tongyi Lab, Alibaba Group（通义实验室，阿里巴巴集团）
；
Peng Cheng Laboratory（鹏城实验室）
；
University of Texas at Austin（德克萨斯大学奥斯汀分校）
；
Tianjin University（天津大学）
；
Hong Kong University of Science and Technology（香港科学大学）
；
Queen Mary University of London（伦敦玛丽女王大学）
；
Nanyang Technological University（南洋理工大学）
；
Shanghai Innovation Institute（上海创新研究院）
专题命中
效率与部署
：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL
Adaptive Layer-Wise Transformations for Post-Training Quantization of Large Language Models
自适应层级变换用于大语言模型的后训练量化
Cuong Pham, Hoang Anh Dung, Cuong C. Nguyen, Trung Le, Gustavo Carneiro, Jianfei Cai, Thanh-Toan Do
机构
*
Department of Data Science and AI, Monash University, Australia（墨尔本大学数据科学与人工智能系）
；
Centre for Vision, Speech and Signal Processing, University of Surrey, UK（萨里大学视觉、语音和信号处理中心）
专题命中
效率与部署
：large language model(title,abstract)；language model(title,abstract)；post-training(title)；LLM(abstract)
Layer-Wise High-Impact Parameter Ratio Optimization in Post-Training Quantization for Large Language Models
分层高影响参数比率优化在大语言模型后训练量化中的应用
Cuong Pham, Hoang Anh Dung, Cuong C. Nguyen, Trung Le, Gustavo Carneiro, Thanh-Toan Do
机构
*
Department of Data Science and AI, Monash University, Australia（墨尔本大学数据科学与人工智能系）
；
Centre for Vision, Speech and Signal Processing, University of Surrey, UK（萨里大学视觉、语音与信号处理中心）
专题命中
效率与部署
：large language model(title,abstract)；language model(title,abstract)；post-training(title,abstract)；分类 cs.LG
LLM-OREF: An Open Relation Extraction Framework Based on Large Language Models
Hongyao Tu, Liang Zhang, Yujie Lin, Xin Lin, Haibo Zhang, Long Zhang, Jinsong Su
机构
*
School of Informatics, Xiamen University（厦门大学信息学院）
；
LLM Team, Shopee Pte. Ltd.（Shopee Pte. Ltd. 机器学习团队）
；
National Institute for Data Science in Health and Medicine, Xiamen University（厦门大学医学数据科学国家研究院）
专题命中
效率与部署
：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL
专题命中
效率与部署
：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.LG
Comments7 pages, 5 figures. Published in the Proceedings of the 6th ACM International Conference on Multimedia in Asia Workshops (MMAsia '24 Workshops). The final authenticated version is available at https://dl.acm.org/doi/10.1145/3700410.3702126
LLM-attacker: Enhancing Closed-loop Adversarial Scenario Generation for Autonomous Driving with Large Language Models
Yuewen Mei, Tong Nie, Jian Sun, Ye Tian
机构
*
Department of Traffic Engineering and Key Laboratory of Road and Traffic Engineering, Ministry of Education, Tongji University（交通工程系和道路与交通工程重点实验室、教育部长江大学）
；
Department of Civil & Environmental Engineering, The Hong Kong Polytechnic University（土木及环境工程系、香港理工大学）
专题命中
效率与部署
：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.LG
CommentsAccepted as a regular paper at IEEE TITS 2025
Journal refIEEE Transactions on Intelligent Transportation Systems 2025
