语言大模型 / LLM

Large Language Models for Multi-Lingual Equivalent Mutant Detection: An Extended Empirical Study

大型语言模型用于多语言等价变异检测：一项扩展的实证研究

Honglin Shu, Zhao Tian, Dong Wang, Junji Yu, Jiazhe Zhang, Xuejie Cao, Junjie Chen, Yasutaka Kamei

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 本文首次全面实证研究大型语言模型（LLMs）在等价变异检测（EMD）中的应用，使用Java和C变异对评估其性能，发现基于LLM的方法在F1分数上优于传统方法，且微调后的代码嵌入策略检测精度最高，同时展现出跨语言泛化能力。

Tuning without Peeking: Provable Generalization Bounds and Robust LLM Post-Training

无窥调优：可证明的泛化边界与鲁棒的大语言模型后训练

Ismail Labiad, Mathurin Videau, Matthieu Kowalski, Marc Schoenauer, Alessandro Leite, Julia Kempe, Olivier Teytaud

机构 * Meta FAIR ； LISN, Inria, CNRS（LISN，Inria，CNRS） ； NYU Courant Institute（NYU Courant学院） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；post-training(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出BBoxER黑盒进化方法用于LLM后训练，通过隐式压缩数据诱导信息瓶颈，提供非平凡泛化边界和对数据投毒、提取攻击的鲁棒性理论保证，实验证明其有效性和隐私保护。

Extracting Small Translation Specialists from LLMs by Aggressively Pruning Experts

通过激进剪枝专家从LLM中提取小型翻译专家

Liu O. Martin, Lucas Bandarkar, Nanyun Peng

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出一种从混合专家LLM中激进剪枝与翻译无关的专家，实现大幅压缩MoE块而不显著降低翻译质量的方法。

Grok in the Wild: Characterizing the Roles and Uses of Large Language Models on Social Media

野外Grok：表征社交媒体上大语言模型的角色与用途

Katelyn Xiaoying Mei, Robert Wolfe, Nicholas Weber, Martin Saveski

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 本研究通过分析X平台上三个月的Grok交互数据，系统性地探究了LLM在公共社交空间中的使用模式、角色分类及用户特征，发现Grok主要充当信息提供者，但也承担争议管理角色。

Comments Camera-ready Version for ICWSM 2026

RAG-Enhanced Kernel-Based Heuristic Synthesis (RKHS): A Structured Methodology Using Large Language Models for Hardware Design

基于检索增强的核启发式合成（RKHS）：利用大语言模型的结构化方法用于硬件设计

Shiva Ahir, Alex Doboli

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出RKHS方法，结合检索增强生成、紧凑核启发式模板和LLM驱动的反馈循环，用于硬件设计中的启发式优化，实验证明其在降低延迟的列表调度中有效。

Comments Presented at the NSF Workshop on Agents for Chip Design Automation, UCLA

Network Edge Inference for Large Language Models: Principles, Techniques, and Opportunities

大型语言模型的网络边缘推断：原理、技术与机遇

Zhixiong Chen, Bingjie Zhu, Jiangzhou Wang, Hyundong Shin, Arumugam Nallanathan, Dusit Niyato

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 本文探讨了大型语言模型在边缘网络中的推断挑战，综述了系统架构、模型优化与资源管理等最新进展，旨在提升边缘环境下的LLM性能。

Comments Accepted as a ACM Computing Surveys 2026 paper

Journal ref ACM Computing Surveys, 2026

MAR: Efficient Large Language Models via Module-aware Architecture Refinement

MAR：通过模块感知架构优化实现高效的大型语言模型

Junhong Cai, Guiqin Wang, Kejie Zhao, Jianxiong Tang, Xiang Wang, Luziwei Leng, Ran Cheng, Yuxin Ma, Qinghai Guo

机构 * Department of CSE, Southern University of Science and Technology（南方科技大学计算机科学与工程系） ； School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院） ； National Engineering Laboratory for Big Data Analytics, Xi’an Jiaotong University（西安交通大学大数据分析国家工程实验室） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； ACS Laboratory, Huawei Technologies Co., Ltd.（华为技术有限公司ACS实验室） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MAR框架，结合状态空间模型和激活稀疏化，降低LLM的能耗并提升性能，同时设计ATMN和SBDS解决SNN与SSM整合问题，实验表明其在受限资源下性能优异且能超越同等或更大规模的高效模型。

Comments Accepted by ICASSP 2026. 5 pages, 5 figures

Advancing Tool-Augmented Large Language Models: Integrating Insights from Errors in Inference Trees

Sijia Chen, Yibo Wang, Yi-Feng Wu, Qing-Guo Chen, Zhao Xu, Weihua Luo, Kaifu Zhang, Lijun Zhang

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；SFT(abstract)

Comments Accepted by NeurIPS 2024

Think Big, Generate Quick: LLM-to-SLM for Fast Autoregressive Decoding

Benjamin Bergner, Andrii Skliar, Amelie Royer, Tijmen Blankevoort, Yuki Asano, Babak Ehteshami Bejnordi

专题命中 效率与部署 ：LLM(title,abstract)；SLM(title,abstract)；large language model(abstract)；language model(abstract)

Comments Work presented at the ES-FoMo II Workshop at ICML 2024

A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing

LLM 服务的一年：工作负载演变、缓存与负载均衡

William Nixon, Jon Durbin, Florian Standhartinger, Haryadi S. Gunawi, Juncheng Yang

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究通过分析 Chutes 一年的 LLM 生产请求轨迹，揭示了 LLM 服务工作负载的演变规律与用户-模型结构，并将发布完整轨迹供后续研究使用。

Model Discovery Agent: LLM-assisted Bayesian experiment design for data-efficient discovery of mechanistic world models

模型发现智能体：用于数据高效发现机制世界模型的大语言模型辅助贝叶斯实验设计

Kevin Murphy

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract,abstract_cn)；language model(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究提出模型发现智能体（MDA），结合LLM与贝叶斯机制，在少量干预下发现机制世界模型，在三类基准上实现数据高效模型学习与可靠干预预测的SOTA性能。

Comments v3: further improve app A (algorithm pseudocode), add new app G (further related work) - (main text unchanged)

Benchmarking LLM-Guided Control-Plane Policies for Backend Fault Isolation in HAProxy

对HAProxy中后端故障隔离的LLM引导控制平面策略进行基准测试

Aman Chauhan, Vishnu Pendyala

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文测试了不同规模和架构的LLM在HAProxy后端故障隔离中的策略效果，发现约3B有效参数的能力阈值，达标后可显著降低5xx错误，但会增加延迟与令牌开销，高效方案为阈值以上模型的非推理模式。

Comments 43 pages, 6 figures, 15 tables. Submitted to Journal of Network and Computer Applications (Elsevier)

Closed-Loop LLM Co-Pilots for Digital Agriculture

面向数字农业的闭环大语言模型（LLM）协作副驾驶系统

Serge Kernbach

机构 * CYBRES GmbH（CYBRES有限公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究开发闭环LLM协作副驾驶系统，基于49通道植物传感器网络实现数字农业自主控制，通过三案例验证可缩短生产周期、降低能耗，提升成本价值比。

Measuring and Reducing WebGPU Dispatch Overhead for LLM Inference

测量与降低用于大语言模型（LLM）推理的WebGPU调度开销

Jędrzej Maczan

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究针对WebGPU用于LLM推理时的调度开销问题，提出顺序调度测量方法，发现批大小为1时调度开销是瓶颈，核心贡献为明确该优化方向并指出调度摊销的改进路径。

Comments Accepted to The Fourth UK AI Conference 2026 as a full paper, to be published in Proceedings of Machine Learning Research (PMLR)

Optimizing CUDA like a Human: Micro-Profiling Tools as Expert Surrogates for LLM-Based GPU Kernel Optimization

像人类一样优化CUDA：微剖析工具作为基于LLM的GPU内核优化的专家替代品

Jiading Gai, Shuai Zhang, Kaj Bostrom, Jin Huang, Vihang Patil, Haoyang Fang, Bernie Wang, Huzefa Rangwala, George Karypis

机构 * Amazon（亚马逊） ； Siemens（西门子） ； University of Minnesota（明尼苏达大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出KernelPro闭环多智能体系统，通过LLM代码生成与硬件剖析反馈及可插拔瓶颈检测工具迭代优化GPU内核，在KernelBench上实现2.42x/4.69x/5.30x加速比，并首次兼顾能效优化。

On the Effect of Sampling Diversity in Scaling LLM Inference

在LLM推理扩展中采样多样性的影响

Tianchun Wang, Zichuan Liu, Yuanzhou Chen, Jonathan Light, Weiyang Liu, Haifeng Chen, Xiang Zhang, Wei Cheng

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Rensselaer Polytechnic Institute（罗切斯特理工学院） ； The Chinese University of Hong Kong（香港中文大学） ； Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； NEC Laboratories America（NEC美国实验室） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文研究了在LLM推理扩展中采样多样性对性能的影响，通过理论和实验证明多样化的采样能提升模型表现，并在不同任务中实现了显著的增益。

Comments 31 pages

LLMRouter: Unified Infrastructure for Developing, Evaluating, and Deploying LLM Routers

LLMRouter：用于开发、评估和部署LLM路由器的统一基础设施

Tao Feng, Fangxu Yu, Haozhen Zhang, Zhongjie Dai, Liangqi Yuan, Zijie Lei, Weizhi Zhang, Kunlun Zhu, Haodong Yue, Keyang Xuan, Ge Liu, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Maryland, College Park（马里兰大学帕克分校） ； Nanyang Technological University（南洋理工大学） ； Purdue University（普渡大学） ； University of Illinois Chicago（芝加哥伊利诺伊大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对现有LLM路由器难以公平比较和扩展的问题，研究提出LLMRouter统一基础设施，构建含多类任务的基准xRouteBench，发现学习型路由器等的性能优势。

Cascade: Exploiting SLO-Aware latency budget for fair and high goodput LLM inference serving

Cascade：利用感知SLO的延迟预算实现公平且高吞吐量的LLM推理服务

Muhammad Adnan, Rohan Mahapatra, Prashant J. Nair, Daniel Berger, Pantea Zardoshti, Rodrigo Fonseca, Esha Choukse

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Cascade是一款LLM服务系统，利用单请求延迟预算协同调度与KV缓存管理，在保留异构请求公平性的同时，使LLM推理服务吞吐量最高提升2.4倍，SLO违规率降低40%。

On Seeding Watermarks to Detect Verbatim LLM Copy-Paste Responses

检测作业中的直接LLM复制粘贴

Aizierjiang Aiersilan, Artin Yousefi, Robert Pless

机构 * The George Washington University（乔治·华盛顿大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出SteganoPrompt工具，通过在作业提示中嵌入隐形指令，使LLM在响应时生成特征签名，帮助教师检测学生直接复制粘贴模型回复的行为。

Comments We are pleased to announce that this paper has been accepted by the 9th AAAI/ACM Conference on AI, Ethics, and Society (AIES 2026). We appreciate the valuable feedback from the reviewers and look forward to sharing our findings with the community

SHIELD: A Segmented Hierarchical Memory Architecture for Energy-Efficient LLM Inference on Edge NPUs

SHIELD：一种用于边缘NPUs上高效LLM推断的分段分层内存架构

Jintao Zhang, Xuanyao Fong

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SHIELD通过分段eDRAM架构优化边缘NPUs上LLM推断的能效，减少eDRAM刷新能耗35%同时保持准确性。

Comments Accepted to 2026 IEEE 8th International Conference on Artificial Intelligence Circuits and Systems (AICAS'26)

SparSEEty: Extracting Tokens from Sparsity-Exploiting LLM Serving Systems via Deterministic Side Channels

SparSEEty：通过确定性侧信道从利用稀疏性的大语言模型（LLM）服务系统中提取 token

Yongwan Jo, Jinyoung Park, Euihyun Lee, Dokyung Song

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SparSEEty 是一种针对利用稀疏性的 LLM 服务系统的 token 提取攻击，通过 CVM 侧信道构建预言机、降低监控开销并反转激活轨迹，可高准确率重建 token，监控开销仅 3.7%-7.2%。

Defusing the Trigger: Tail-Risk-Informed Attention Rebalancing for LLM Backdoor Mitigation

解除触发器：通过尾风险内在几何平滑实现的插件式防御方法用于后门LLM

Kaisheng Fan, Yishu Gao, Xunzhu Tang, Tegawendé F. Bissyandé, Weizhe Zhang

机构 * School of Cyber Science and Technology（网络安全科学与技术学院） ； Harbin Institute of Technology（哈尔滨工业大学） ； Peng Cheng Laboratory（鹏城实验室） ； University of Luxembourg（卢森堡大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出TIGS方法，通过在推理时进行内容感知的尾风险筛查和内在几何平滑，有效抑制后门攻击，同时保持推理稳定性和语义一致性，适用于多种架构的LLM。

From Tokens to Watt-hours: Analytical Energy Estimation for LLM Inference on Modern GPUs

从Token到瓦时：现代GPU上大语言模型（LLM）推理的分析式能耗估算

Tina Vartziotis, Rodopi Kosteli, Elli Vartziotis, George Dasoulas, Michael Keckeisen, Konstantinos Skianis, Sotirios Kotsopoulos, Francesca Dominici

机构 * National Technical University of Athens（雅典国家技术大学） ； Harvard University（哈佛大学） ； TWT GmbH Science & Innovation（TWT有限责任公司科学与创新部） ； NIKI Ltd Digital Engineering（尼基数字工程有限公司） ； University of Ioannina（约阿尼纳大学） ； National and Kapodistrian University of Athens（雅典国立卡波迪斯特里亚大学） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究提出一种无需直接测量的GPU级LLM推理能耗分析估算方法，适用于模型比较、绿色编码分析及设计时评估。

Comments 20 pages, 3 figures, 6 tables. Accepted for oral presentation at the GREEN-AI Workshop, co-located with ECML-PKDD 2026

Ensembling LLM-Induced Decision Trees for Explainable and Robust Error Detection

集成LLM诱导决策树用于可解释和鲁棒的错误检测

Mengqi Wang, Jianwei Wang, Qing Liu, Xiwei Xu, Zhenchang Xing, Liming Zhu, Michael Bain, Wenjie Zhang

机构 * UNSW Sydney（新南威尔士大学悉尼分校） ； Data61, CSIRO（Data61, 澳大利亚联邦科学与工业研究组织） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出集成LLM诱导决策树的方法，用于可解释和鲁棒的错误检测，通过多棵树集成提升检测准确性与鲁棒性。

Comments 15 pages, 7 figures. Accepted at KDD 2026

Interpretable and Verifiable Hardware Generation with LLM-Driven Stepwise Refinement

可解释且可验证的硬件生成：基于LLM驱动的逐步细化

You Li, Samuel Mandell, David Z. Pan

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Fudan University（复旦大学） ； USA（美国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出结合LLM创造力与形式化方法可解释性的硬件生成框架，通过迭代应用变换规则将设计规范转换为正确性有保证的RTL程序。

2.5-D Decomposition for LLM-Based Spatial Construction

基于2.5-D分解的LLM空间构建

Paul Whitten, Li-Jen Chen, Sharath Baddam

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于2.5-D分解的神经符号管道，通过让LLM在二维水平面上规划，同时确定性执行器计算垂直放置，从而消除一类错误，提升了空间构建的准确性。

A Low-Latency Fraud Detection Layer for Detecting Adversarial Interaction Patterns in LLM-Powered Agents

面向LLM代理的低延迟欺诈检测层：用于检测对抗性交互模式

Sheldon Yu, Yingcheng Sun, Hanqing Guo, Qianqian Tong

机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Indiana University Bloomington（印第安纳大学布卢明顿分校） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种低延迟欺诈检测机制，通过交互轨迹的结构化运行时特征检测对抗性交互模式，采用轻量模型实现实时部署，实验表明交互层面行为检测应成为LLM代理部署时的核心防护措施。

Rectification Difficulty and Optimal Sample Allocation in LLM-Augmented Surveys

LLM增强调查中的校正难度与最优样本分配

Zikun Ye, Hema Yoganarasimhan

机构 * Michael G. Foster School of Business, University of Washington（华盛顿大学Michael G. Foster商学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究在LLM预测可用时如何分配人类样本以提高估计效率，提出校正难度分析、最优分配规则及元学习方法，通过实验证明其在不同领域和LLM上的有效性。

When Summaries Distort Decisions: Information Fidelity in LLM-Compressed Financial Analysis

当摘要扭曲决策：LLM压缩财务分析中的信息保真度

Hoyoung Lee, Suhwan Park, Seunghan Lee, Jun Seo, Jaehoon Lee, Sungdong Yoo, Minjae Kim, CheolWon Na, Zhangyang Wang, Zach Golkhou, Minkyu Kim, Sotirios Sabanis, Alejandro Lopez-Lira, Dhagash Mehta, Soonyoung Lee, Chanyeol Choi, Wonbin Ahn, Yongjae Lee

机构 * UNIST（全纳科学技术大学） ； LG AI Research（LG人工智能研究） ； Sungkyunkwan University（成均馆大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； J.P. Morgan Chase（摩根大通） ； State Street（州立银行） ； University of Edinburgh（爱丁堡大学） ； University of Florida（佛罗里达大学） ； BlackRock（黑石） ； LinqAlpha 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究LLM压缩财务信息时因丢失决策相关上下文导致投资判断改变的问题，提出通过生成多个候选压缩并审计分歧的代理上下文压缩方法。

Comments Preprint

Leech Lattice Vector Quantization for Efficient LLM Compression

Leech晶格向量量化用于高效的LLM压缩

Tycho F. A. van der Ouderaa, Mart van Baalen, Paul Whatmough, Markus Nagel

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Leech晶格向量量化方法，通过高维晶格结构实现高效LLM压缩，优于现有量化方法。