语言大模型 / LLM

CHICO-Agent: An LLM Agent for the Cross-layer Optimization of 2.5D and 3D Chiplet-based Systems

CHICO-Agent：一种用于2.5D和3D芯片片上系统的跨层优化LLM代理

Qihang Wu, Aman Arora, Vidya A. Chhabria

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 针对2.5D/3D芯片片上系统设计复杂性问题，提出CHICO-Agent框架，通过LLM驱动优化，降低成本并提供可解释的审计跟踪。

PlanCompiler: A Deterministic Compilation Architecture for Structured Multi-Step LLM Pipelines

PlanCompiler：一种确定性编译架构用于结构化多步骤LLM流水线

Pranav Harikumar

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 PlanCompiler通过类型节点注册表、静态图验证和确定性编译分离规划与执行，提升结构化LLM流水线的可靠性与效率，实现高成功率和成本效益。

Comments 31 pages, 1 figure, 7 tables, includes appendices and reproduction details

TRACE: Evaluating Execution Efficiency of LLM-Based Code Translation

TRACE: 评估基于LLM的代码翻译的执行效率

Zhihao Gong, Zeyu Sun, Dong Huang, Qingyuan Liang, Jie M. Zhang, Dan Hao

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出TRACE基准，评估LLM翻译代码的执行效率，发现正确性不等于效率，23.5%的正确翻译存在显著低效，提示需关注效率意识。

Comments I wrongly uploaded twice the same paper; see arXiv:2508.11468

Failure-Aware Enhancements for Large Language Model (LLM) Code Generation: An Empirical Study on Decision Framework

面向大语言模型（LLM）代码生成的失败意识增强：决策框架的实证研究

Jianru Shen, Zedong Peng, Lucy Owen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(title)；prompting(abstract)

AI总结 本文通过实证研究，提出了一种基于失败特征的决策框架，用于指导大语言模型代码生成中的增强策略选择。

Comments Accepted at SANER 2026

Evaluating the Impact of Post-Training Quantization on Large Language Models for Code Generation

评估后训练量化对代码生成大语言模型的影响

Alessandro Giagnorio, Antonio Mastropaolo, Saima Afrin, Massimiliano Di Penta, Gabriele Bavota

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(title)；LLM(abstract)

AI总结 本文研究了大语言模型在代码生成中的量化影响，通过更大型的模型和最新量化技术，发现4位精度可显著降低内存占用而不影响性能。

TZ-LLM: Protecting On-Device Large Language Models with Arm TrustZone

Xunjie Wang, Jiacheng Shi, Zihan Zhao, Yang Yu, Zhichao Hua, Jinyu Gu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

NAMO-LLM: Efficient Navigation Among Movable Obstacles with Large Language Model Guidance

Yuqing Zhang, Yiannis Kantaros

机构 * Department of Electrical and Systems Engineering, McKelvey School of Engineering, Washington University in St.Louis（电气与系统工程系，麦凯利工程学院，华盛顿大学圣路易斯分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

Comments 9 pages, 6 figures

Large Language Models, and LLM-Based Agents, Should Be Used to Enhance the Digital Public Sphere

Seth Lazar, Luke Thorburn, Tian Jin, Luca Belli

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

Toward Edge General Intelligence with Multiple-Large Language Model (Multi-LLM): Architecture, Trust, and Orchestration

Haoxiang Luo, Yinqiu Liu, Ruichen Zhang, Jiacheng Wang, Gang Sun, Dusit Niyato, Hongfang Yu, Zehui Xiong, Xianbin Wang, Xuemin Shen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

FAS-LLM: Large Language Model-Based Channel Prediction for OTFS-Enabled Satellite-FAS Links

Halvin Yang, Sangarapillai Lambotharan, Mahsa Derakhshani

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

Comments 12 pages, 8 figures, submitted to JSAC

DART-LLM: Dependency-Aware Multi-Robot Task Decomposition and Execution using Large Language Models

Yongdong Wang, Runze Xiao, Jun Younes Louhi Kasahara, Ryosuke Yajima, Keiji Nagatani, Atsushi Yamashita, Hajime Asama

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

Comments The work was first submitted to an IEEE conference on September 15, 2024

Botfip-LLM: An Enhanced Multimodal Scientific Computing Framework Leveraging Knowledge Distillation from Large Language Models

Tianhao Chen, Pengbo Xu, Pengbo Xu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

LLM-Slice: Dedicated Wireless Network Slicing for Large Language Models

Boyi Liu, Jingwen Tong, Jun Zhang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

LLM in a flash: Efficient Large Language Model Inference with Limited Memory

Keivan Alizadeh, Iman Mirzadeh, Dmitry Belenko, Karen Khatamifard, Minsik Cho, Carlo C Del Mundo, Mohammad Rastegari, Mehrdad Farajtabar

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(title)；分类 cs.CL、cs.AI、cs.LG

Comments ACL 2024

Hierarchical Micro-Segmentations for Zero-Trust Services via Large Language Model (LLM)-enhanced Graph Diffusion

Yinqiu Liu, Guangyuan Liu, Hongyang Du, Dusit Niyato, Jiawen Kang, Zehui Xiong, Dong In Kim, Xuemin Shen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

Comments 13 pages

FinGPT-HPC: Efficient Pretraining and Finetuning Large Language Models for Financial Applications with High-Performance Computing

Xiao-Yang Liu, Jie Zhang, Guoxuan Wang, Weiqing Tong, Anwar Walid

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；pretraining(title)；分类 cs.CL、cs.AI、cs.LG

Activation Sparsity Opportunities for Compressing General Large Language Models

Nobel Dhar, Bobin Deng, Md Romyull Islam, Kazi Fahim Ahmad Nasif, Liang Zhao, Kun Suo

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,comments)；small language model(abstract)

Comments pp. 1-9, doi: 10.1109/IPCCC59868.2024.10850382. keywords: {Accuracy;Prefetching;Large language models;Computational modeling;Companies;Transformers;User experience;Time factors;Tuning;Guidelines;Large Language Models (LLMs);AI Compression;Activation Sparsity;Edge LLM},

Journal ref 2024 IEEE International Performance, Computing, and Communications Conference (IPCCC), Orlando, FL, USA, 2024

Toward Federated Large Language Models in Medicine: A Parameter-Efficient Framework for Privacy-Preserving, Multi-Institutional Adaptation

一种联邦学习和参数高效的大型语言模型在医学中的训练框架

Anran Li, Yuanyuan Chen, Wenjun Long, Yu Yin, Yan Hu, Hyunjae Kim, Weipeng Zhou, Yujia Zhou, Hongyi Peng, Yang Ren, Xuguang Ai, Zhenyue Qin, Ming Hu, Xiaoxiao Li, Han Yu, Yih-Chung Tham, Lucila Ohno-Machado, Hua Xu, Qingyu Chen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract)；分类 cs.CL

AI总结 本文提出Fed-MedLoRA框架，通过低秩适配器参数实现医学LLM的联邦学习，提升跨机构异质性下的模型收敛性和泛化能力。

Comments 41 pages, 11 tables, 3 figures; Just accepted

Benchmarking Trustworthiness of SLMs: Pre-trained vs. Compressed

小型语言模型（SLM）的可信性基准测试：预训练模型与压缩模型的对比

Haokun Lin, Kaijie Zhu, Haobo Xu, Yichen Wu, Zhichao Lu, Qingfu Zhang, Zhenan Sun

机构 * Institute of Automation, CAS（中国科学院自动化研究所） ； Tsinghua University（清华大学） ； Harvard Medical School（哈佛医学院） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：SLM(title_cn,summary_cn)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究评估SLM的可信性，发现量化压缩预训练模型比剪枝更能保留可信性，且量化压缩可靠大模型得到的SLM比从头训练的小型模型更优，知识蒸馏可进一步提升其可靠性。

Comments Published in IJCNN 2026

Abstract representational geometry supports inference in large language models

抽象表征几何支持大型语言模型中的推理

Yunan Zeng, Yuwang Wang

机构 * College of Future Information Technology, Fudan University（复旦大学未来信息科技学院） ； Beijing National Research Center for Information Science and Technology, Tsinghua University（北京信息科学与技术国家研究中心，清华大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.AI

AI总结 本研究通过文本版情境反转学习范式，比较人类与LLM的行为和表征，发现LLM内部状态在推理时形成类似海马体的抽象几何结构，且该结构分层组织，高层次表征与推理相关。

Efficient and Stealthy Jailbreak Attacks via Adversarial Prompt Distillation from LLMs to SLMs

通过从大语言模型到小语言模型的对抗性提示蒸馏实现高效且隐蔽的越狱攻击

Xiang Li, Chong Zhang, Jia Wang, Fangyu Wu, Yushi Li, Xiaobo Jin

机构 * Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of Liverpool（利物浦大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；SLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出对抗性提示蒸馏（APD）框架，将LLM的越狱能力迁移到SLM，实现高效低资源攻击，在GPT-4上达到96.4%攻击成功率，速度提升3.7倍，参数减少11.3倍。

Comments 24 pages, 3 figures

Minimizing the Hidden Cost of Scales: Graph-Guided Ultra-Low-Bit Quantization for Large Language Models

最小化缩放因子的隐藏成本：面向大语言模型的图引导超低位量化

Rayyan Abdalla, Amir Hussein, Min Wu, Dinesh Manocha

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；post-training(abstract)

AI总结 提出SAGE-PTQ框架，通过图引导的显著性感知量化分离显著与非显著权重，实现超低位量化并最小化缩放开销，在LLaMA-3-8B上困惑度降至6.74且内存低于BiLLM的50%。

Comments Preprint. 18 pages, 10 figures, 7 tables, including appendix

Chain-based Distillation for Effective Initialization of Variable-Sized Small Language Models

基于链式蒸馏的变量大小小型语言模型有效初始化方法

Boyu Shi, YiCheng Jiang, Chang Liu, Qiufeng Wang, Xu Yang, Xin Geng

机构 * School of Computer Science and Engineering, Southeast University, Nanjing, China（东南大学计算机科学与工程学院，南京，中国） ； Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其交叉应用重点实验室（东南大学），教育部，中国） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；SLM(abstract,abstract_cn)；large language model(abstract)

AI总结 本文提出链式蒸馏方法，通过逐步蒸馏构建中间模型链，实现变量大小语言模型的高效初始化，提升效率和下游性能。

Resource-Efficient Reinforcement for Reasoning Large Language Models via Dynamic One-Shot Policy Refinement

通过动态单次策略细化实现大规模语言模型推理的资源高效强化学习

Yunjian Zhang, Sudong Wang, Yang Li, Peiran Xu, Conghao Zhou, Xiaoyue Ma, Jianing Li, Yao Zhu

机构 * UCAS（中国科学院大学） ； HKUST(GZ)（香港科技大学（广州）） ； Tsinghua University（清华大学） ； Sun Yat-Sen University（中山大学） ； Xidian University（西安电子科技大学） ； George Mason University（乔治·梅森大学） ； Peking University（北京大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；post-training(abstract)

AI总结 本文提出动态单次策略细化方法，通过减少训练样本数量和计算开销，提升大规模语言模型推理效率。

EntroLLM: Entropy Encoded Weight Compression for Efficient Large Language Model Inference on Edge Devices

EntroLLM：基于熵编码的权重压缩用于边缘设备上高效的大语言模型推理

Arnab Sanyal, Gourav Datta, Prithwish Mukherjee, Sandeep P. Chinchali, Michael Orshansky

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Georgia Institute of Technology（佐治亚理工学院） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；post-training(abstract)

AI总结 EntroLLM结合混合量化和熵编码技术，通过提升权重压缩率和编码效率，在边缘设备上实现高效的大语言模型推理，实验显示存储节省达30%-65%，推理速度提升31.9%-146.6%。

Comments 4 pages, 1 reference page

Can Large Language Models Implement Agent-Based Models? An ODD-based Replication Study

大型语言模型能否实现基于主体的模型？基于ODD的复制研究

Nuno Fachada, Daniel Fernandes, Carlos M. Fernandes, João P. Matos-Carvalho

机构 * Lusófona University（卢塞佛纳大学） ； INESC INOV-Lab（INESC INOV实验室） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.AI

AI总结 本文评估17种LLM在ODD到代码转换任务中的表现，探讨LLM能否可靠实现基于主体的模型并支持复制、验证与验证。

Comments The peer-reviewed version of this paper is published in Ecological Modelling at https://doi.org/10.1016/j.ecolmodel.2026.111624. This version is typeset by the author and differs only in pagination and typographical detail

Journal ref Ecological Modelling, 517, 111624, 2026

Evaluating Small Language Models for Agentic On-Farm Decision Support Systems

评估小型语言模型用于农场代理决策支持系统

Enhong Liu, Haiyu Yang, Miel Hostens

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文评估了小型语言模型在乳牛养殖决策支持系统中的可行性，开发了集成多个代理的 AI 系统，并展示了 Qwen-4B 在多数任务中的优异表现。

Large Language Models and Their Applications in Roadway Safety and Mobility Enhancement: A Comprehensive Review

大语言模型及其在道路安全与出行提升中的应用：全面综述

Muhammad Monjurul Karim, Yan Shi, Shucheng Zhang, Bingzhang Wang, Mehrdad Nasri, Yinhai Wang

机构 * Department of Civil and Environmental Engineering, University of Washington（土木与环境工程系，华盛顿大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；foundation model(abstract)

AI总结 本文综述了大语言模型在道路安全与出行提升中的应用，探讨其在交通领域的适应策略及面临的挑战。

Journal ref Artificial Intelligence for Transportation, 1, 100004, 2025

Encoder-Decoder or Decoder-Only? Revisiting Encoder-Decoder Large Language Model

Biao Zhang, Yong Cheng, Siamak Shakeri, Xinyi Wang, Min Ma, Orhan Firat

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；instruction tuning(abstract)

Comments The scaling study inspiring T5Gemma

Small Language Models are the Future of Agentic AI

Peter Belcak, Greg Heinrich, Shizhe Diao, Yonggan Fu, Xin Dong, Saurav Muralidharan, Yingyan Celine Lin, Pavlo Molchanov

机构 * NVIDIA Research（NVIDIA研究） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)