语言大模型 / LLM

HYPERHEURIST: A Simulated Annealing-Based Control Framework for LLM-Driven Code Generation in Optimized Hardware Design

HYPERHEURIST：一种基于模拟退火的控制框架，用于优化硬件设计中的LLM驱动代码生成

Shiva Ahir, Prajna Bhat, Alex Doboli

机构 * Department of ECE（电子工程系） ； Stony Brook University（石溪大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出HYPERHEURIST框架，通过模拟退火方法提升LLM生成RTL设计的稳定性与重复性，兼顾功能正确性和PPA优化。

Comments 8 pages, 2 figures, 5 tables. Accepted at IJCNN 2026

Cost-Aware Model Orchestration for LLM-based Systems

面向LLM系统的成本感知模型编排

Daria Smirnova, Hamid Nasiri, Marta Adamska, Zhengxin Yu, Peter Garraghan

机构 * Lancaster University（兰卡斯特大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种考虑性能与成本权衡的成本感知模型选择方法，通过整合定量模型性能特征提升任务准确性、能效和编排效率。

Comments 9 pages, 5 figures. Accepted at EuroMLSys '26, Edinburgh, Scotland UK

Beyond Surface Statistics: Robust Conformal Prediction for LLMs via Internal Representations

超越表面统计：通过内部表示实现LLM的鲁棒置信预测

Yanli Wang, Peng Kuang, Xiaoyu Han, Kaidi Xu, Haohan Wang

机构 * Imperial College London（伦敦帝国学院） ； Zhejiang University（浙江大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种基于内部表示的置信预测框架，通过层间信息评分提升LLM在分布偏移下的鲁棒性，优于文本层面基线方法。

FineSteer: A Unified Framework for Fine-Grained Inference-Time Steering in Large Language Models

FineSteer: 一种用于大语言模型推理时细粒度引导的统一框架

Zixuan Weng, Jinghuai Zhang, Kunlin Cai, Ying Li, Peiran Wang, Yuan Tian

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出FineSteer框架，通过条件引导和细粒度向量合成两个阶段实现高效引导，保留模型效用并提升引导效果，实验显示其在安全性和真实性基准上表现优异。

Comments Accepted by ACL 2026 (Main)

Protecting multimodal large language models against misleading visualizations

保护多模态大语言模型免受误导性可视化的影响

Jonathan Tonglet, Tinne Tuytelaars, Marie-Francine Moens, Iryna Gurevych

机构 * Ubiquitous Knowledge Processing Lab (UKP Lab), Department of Computer Science, TU Darmstadt and National Research Center for Applied Cybersecurity ATHENE（普遍知识处理实验室（UKP实验室）、计算机科学系，德累斯顿技术大学及应用网络安全国家研究中心ATHENE） ； Department of Electrical Engineering, KU Leuven（电气工程系，鲁文大学） ； Department of Computer Science, KU Leuven（计算机科学系，鲁文大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究发现多模态大语言模型在面对误导性可视化时回答准确性显著下降，提出两种有效方法提升其处理能力，同时保持非误导性可视化下的准确性。

Comments Preprint. Code and data available at https://github.com/UKPLab/arxiv2025-misleading-visualizations

Ragged Paged Attention: A High-Performance and Flexible LLM Inference Kernel for TPU

不规则分页注意机制：一种高性能且灵活的TPU大语言模型推理内核

Jevin Jiang, Ying Chen, Blake A. Hechtman, Fenghui Zhang, Yarong Mu

机构 * Google（谷歌） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RPA，一种用于TPU的高性能注意力内核，通过细粒度分块、定制软件流水线和分布感知编译策略，提升TPU在动态不规则执行模式下的效率，实现在解码和预填充任务中达到86%和73%的利用率。

Comments 23 pages, 19 figures, 12 tables

KRONE: Scalable LLM-Augmented Log Anomaly Detection via Hierarchical Abstraction

KRONE：通过层次抽象实现可扩展的LLM增强日志异常检测

Lei Ma, Jinyang Liu, Tieying Zhang, Peter M. VanNostrand, Dennis M. Hofmann, Lei Cao, Elke A. Rundensteiner, Jianjun Chen

机构 * Worcester Polytechnic Institute（沃斯特理工学院） ； ByteDance Inc.（字节跳动公司） ； University of Arizona（亚利桑那大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 KRONE通过自动从扁平日志中推导执行层次结构，实现模块化多级异常检测，提升准确率、F1分数和资源效率。

Comments Accepted at ICDE 2026

EVIL: Evolving Interpretable Algorithms for Zero-Shot Inference on Event Sequences and Time Series with LLMs

EVIL：利用LLM引导的进化算法进行事件序列和时间序列的零样本推断

David Berghaus

机构 * Lamarr Institute（拉马尔研究所） ； Fraunhofer IAIS（弗劳恩霍夫人工智能研究所） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；分类 cs.AI、cs.LG

AI总结 EVIL通过LLM引导的进化搜索发现简单可解释的算法，用于动态系统推断，无需训练神经网络，能在多个任务中实现跨数据集泛化。

Faster LLM Inference via Sequential Monte Carlo

通过序列蒙特卡洛方法加速大语言模型推理

Yahya Emara, Mauricio Barba da Costa, Chi-Chih Chang, Cameron Freer, Tim Vieira, Ryan Cotterell, Mohamed S. Abdelfattah

机构 * Cornell University（康奈尔大学） ； Makora（马科拉） ； MIT（麻省理工学院） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SMC-SD方法，通过重要性加权重采样替代传统拒绝采样，提升推理速度，实验证明在多个基准测试中保持高精度的同时，比推测解码和自回归解码分别快2.36倍和5.2倍。

Improving the Throughput of Diffusion-based Large Language Models via a Training-Free Confidence-Aware Calibration

通过训练无关的置信度感知校准提高扩散式大语言模型的吞吐量

Jucheng Shen, Gaurav Sarkar, Yeonju Ro, Sharath Nittur Sridhar, Zhangyang Wang, Aditya Akella, Souvik Kundu

机构 * Rice University（里士大学） ； Intel（英特尔） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.LG

AI总结 本文提出CadLLM，一种无需训练的加速扩散式大语言模型（dLLMs）推理吞吐量的方法。通过动态调整生成块大小、步长和阈值，结合置信度控制，减少softmax开销，提升吞吐量。

Comments 12 pages, 3 figures. Accepted to Findings of ACL 2026

SelfBudgeter: Adaptive Token Allocation for Efficient LLM Reasoning

SelfBudgeter：面向高效大语言模型推理的自适应令牌分配

Zheng Li, Qingxiu Dong, Jingyuan Ma, Di Zhang, Kai Jia, Zhifang Sui

机构 * State Key Laboratory for Multimedia Information Processing, School of Computer Science, Peking University（多媒体信息处理国家重点实验室，计算机学院，北京大学） ； BandAI, Bytedance（字节跳动BandAI） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.CL、cs.AI

AI总结 本文提出SelfBudgeter策略，通过自适应预算分配提升LLM推理效率，实验显示在数学推理任务中平均响应长度压缩61%并保持准确性。

ChemAmp: Amplified Chemistry Tools via Composable Agents

ChemAmp：通过可组合代理增强化学工具

Zhucong Li, Powei Chang, Jin Xiao, Zhijian Zhou, Qianyu He, Jiaqing Liang, Fenglei Cao, Xu Yinghui, Yuan Qi

机构 * Artificial Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与孵化院） ； School of Data Science, Fudan University（复旦大学数据科学学院） ； College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） ； Department of Information and Intelligence Development, Zhongshan Hospital, Fudan University（复旦大学中山医院信息与智能发展部） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ChemAmp通过优化动态协调提升化学工具能力，以有限数据构建任务专用超代理，在分子设计等任务中优于专用模型和通用LLM。

Comments Accepted to ACL 2026 Findings ; Code available at https://github.com/Chang-pw/ChemAmp

Efficient Continual Learning in Language Models via Thalamically Routed Cortical Columns

通过丘脑路由皮层柱实现语言模型的高效持续学习

Afshin Khadangi

机构 * SnT, University of Luxembourg（卢森堡大学SnT学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.LG

AI总结 TRC$^{2}$通过丘脑路由和海马路径实现持续学习，提升任务边界建模质量并减少累积遗忘，优于多种基线模型。

Pruning Unsafe Tickets: A Resource-Efficient Framework for Safer and More Robust LLMs

裁剪不安全的票据：一种资源高效的更安全且更稳健的大语言模型框架

Wai Man Si, Mingjie Li, Michael Backes, Yang Zhang

机构 * CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全中心） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；RLHF(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文提出一种资源高效的剪枝框架，通过识别并移除与不安全行为相关的参数，减少不安全生成并提高对抗鲁棒性，同时保持模型性能。

The Illusion of Equivalence: Systematic FP16 Divergence in KV-Cached Autoregressive Inference

等价幻觉：KV缓存自回归推断中的系统性FP16差异

Ranjith Chodavarapu, Lei Xu

机构 * Department of Computer Science（计算机科学系） ； Kent State University（肯特州立大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 研究揭示KV缓存推断在FP16精度下与无缓存计算存在系统性差异，通过实验验证了浮点数非结合性导致的确定性偏差，并提出机制框架解释现代LLM推理中的数值不稳定性。

Mitigating hallucinations and omissions in LLMs for invertible problems: An application to hardware logic design automation

缓解LLMs在可逆问题中的幻觉和遗漏：应用于硬件逻辑设计自动化

Andrew S. Cassidy, Guillaume Garreau, Jay Sivagnaname, Mike Grassi, Bernard Brezzo, John V. Arthur, Dharmendra S. Modha

机构 * IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出利用LLMs作为无损编码器和解码器处理可逆问题，以减少LLMs的幻觉和遗漏，应用于硬件逻辑设计自动化，提升设计效率并检测错误。

Comments 7 pages, 2 figures, 7 tables

Privacy-Preserving LLMs Routing

隐私保护的大语言模型路由

Xidong Wu, Yukuan Zhang, Yuqiong Ji, Reza Shirkavand, Qian Lou, Shangqian Gao

机构 * Department of Electrical and Computer Engineering, University of Pittsburgh（匹兹堡大学电气与计算机工程系） ； Department of Computer Science, University of Central Florida（中央佛罗里达大学计算机科学系） ； Department of Computer and Information Science, University of Pennsylvania（宾夕法尼亚大学计算机与信息科学系） ； Department of Computer Science, University of Maryland（马里兰大学计算机科学系） ； Department of Computer Science, Florida State University（佛罗里达州立大学计算机科学系） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出PPRoute框架，通过MPC友好的操作加速编码器推理，维护路由质量，并采用无序Top-k算法降低通信延迟，实现高效隐私保护的大语言模型路由。

Taming Asynchronous CPU-GPU Coupling for Frequency-aware Latency Estimation on Mobile Edge

平滑异步CPU-GPU耦合以实现频率感知的延迟估计

Jiesong Chen, Jun You, Zhidan Liu, Zhenjiang Li

机构 * Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； INTR Thrust, System Hub, The Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）系统枢纽INTR团队） 纠错

专题命中 效率与部署 ：SLM(abstract,abstract_cn)；language model(abstract)；small language model(abstract)；分类 cs.AI

AI总结 本文提出FLAME方法，通过分层建模量化并行性重叠，解决异步耦合导致的延迟波动问题，提升移动边缘应用的延迟估计精度和效率。

Self-Aligned Reward: Towards Effective and Efficient Reasoners

自对齐奖励：迈向高效且有效的推理器

Peixuan Han, Adit Krishnan, Gerald Friedland, Jiaxuan You, Chris Kong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出自对齐奖励(SAR)，通过补充可验证奖励以提升推理准确性和效率，实验表明SAR在4个模型7个基准上提升了4%的准确率并降低了30%的计算成本。

Protecting Language Models Against Unauthorized Distillation through Trace Rewriting

通过追踪重写保护语言模型免受未经授权的蒸馏

Xinhang Ma, William Yeoh, Ning Zhang, Yevgeniy Vorobeychik

机构 * Washington University in St. Louis（华盛顿大学圣路易斯分校） 纠错

专题命中 效率与部署 ：language model(title)；LLM(abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出通过追踪重写技术防止未经授权的知识蒸馏，通过反蒸馏和API水印两种方法提升教师模型性能并防止恶意使用。

TestDecision: Sequential Test Suite Generation via Greedy Optimization and Reinforcement Learning

TestDecision: 通过贪婪优化和强化学习进行序列测试套件生成

Guoqing Wang, Chengran Yang, Xiaoxuan Zhou, Zeyu Sun, Bo Wang, David Lo, Dan Hao

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 本文提出TestDecision，通过将LLM转化为神经贪婪专家，利用贪婪策略和强化学习生成高质量测试套件，显著提升分支覆盖率和执行通过率。

Comments 22 pages, 4 figures; corrected metadata; marked corresponding author

AI-assisted Protocol Information Extraction For Improved Accuracy and Efficiency in Clinical Trial Workflows

人工智能辅助的协议信息提取以提高临床试验工作流程的准确性和效率

Ramtin Babaeipour, François Charest, Madison Wright

机构 * Banting Health AI（巴丁健康AI） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了利用AI系统进行临床试验协议信息提取，通过比较RAG方法与传统LLM的准确性，发现AI能显著提升提取效率和准确性，降低工作负担。

Comments Updated to accepted manuscript. Published in Journal of Biomedical Informatics, Volume 179, July 2026, 105036

Journal ref Journal of Biomedical Informatics, Volume 179, July 2026, 105036

Temporal Contrastive Decoding: A Training-Free Method for Large Audio-Language Models

时间对比解码：一种无训练方法用于大型音频-语言模型

Yanda Li, Yuhan Liu, Zirui Song, Yunchao Wei, Martin Takáč, Salem Lahlou

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Beijing Jiaotong University（北京交通大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出时间对比解码方法，通过对比原始和模糊的输入路径来减少时间平滑偏差，提升音频基础输出的精确性。

Comments ACL 2026 Findings

Rethinking the Necessity of Adaptive Retrieval-Augmented Generation through the Lens of Adaptive Listwise Ranking

重新审视通过适应性列表排序视角的适应性检索增强生成的必要性

Jun Feng, Jiahui Tang, Zhicheng He, Hang Lv, Hongchao Gu, Hao Wang, Xuezhi Yang, Shuai Fang

机构 * Hefei University of Technology（合肥工业大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过适应性列表排序视角重新审视适应性检索增强生成的必要性，提出AdaRankLLM框架，通过零样本提示和段落dropout机制验证适应性排序的必要性，并通过两阶段渐进蒸馏提升小模型的精确排序与适应过滤能力。

Comments 7pages, 2figures

Aligning What Vision-Language Models See and Perceive with Adaptive Information Flow

对视觉-语言模型所见所感知进行对齐与适应性信息流

Chengxin Liu, Wonseok Choi, Chenshuang Zhang, Tae-Hyun Oh

机构 * KAIST（韩国科学技术院） ； POSTECH 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出通过调节信息流提升视觉-语言模型的感知能力，通过动态令牌方法确定视觉令牌的重要性，从而提高视觉问答、视觉定位等任务的性能。

Comments CVPR 2026. Project page: https://cxliu0.github.io/AIF/

Accuracy Is Speed: Towards Long-Context-Aware Routing for Distributed LLM Serving

精度即速度：面向分布式大语言模型服务的长上下文感知路由

Takeshi Yoshimura, Valentijn Dymphnus van de Beek, Tatsuhiro Chiba

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 研究提出通过重试动态将精度转化为速度，引入TTCA指标以衡量首次正确响应所需时间，设计轻量级精度感知路由LAAR以降低TTCA，强调在长上下文分布式服务中将精度作为首要系统目标。

Comments Accepted to the 6th Workshop on Machine Learning and Systems (EuroMLSys '26) co-located with EuroSys '26

KV Packet: Recomputation-Free Context-Independent KV Caching for LLMs

KV Packet: 无重新计算的上下文无关KV缓存用于LLMs

Chuangtao Chen, Grace Li Zhang, Xunzhao Yin, Cheng Zhuo, Bing Li, Ulf Schlichtmann

机构 * Technical University of Munich（慕尼黑技术大学） ； Technical University of Darmstadt（达姆施塔特技术大学） ； Zhejiang University（浙江大学） ； Technische Universität Ilmenau（伊尔梅瑙技术大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 KV Packet通过轻量可训练软令牌适配器实现无重新计算的上下文无关KV缓存，实验表明其在FLOPs和TTFT上优于基线方法，同时保持与完整重新计算基线相当的F1分数。

Towards Understanding, Analyzing, and Optimizing Agentic AI Execution: A CPU-Centric Perspective

向理解、分析和优化代理AI执行：一种以CPU为中心的视角

Ritik Raj, Souvik Kundu, Ishita Vohra, Hong Wang, Tushar Krishna

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文从CPU角度分析代理AI工作负载的瓶颈，提出两种优化方法，降低CPU-GPU资源分配偏差，提升执行效率。

Optimizing Korean-Centric LLMs via Token Pruning

通过标记剪枝优化韩语中心化的大语言模型

Hoyeol Kim, Hyeonwoo Kim

机构 * College of Computing Georgia Institute of Technology（计算学院佐治亚理工学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文系统评估了通过标记剪枝优化的多语言大语言模型在韩语自然语言处理任务中的表现，发现该方法能提高生成稳定性并提升机器翻译性能。

Comments 5 pages

Majority Voting for Code Generation

代码生成中的多数投票

Tim Launer, Jonas Hübotter, Marco Bagatella, Ido Hakimi, Andreas Krause

机构 * ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出基于功能共识的多数投票方法，通过测试输入的运行时执行签名选择最优解，提升代码生成性能，并应用于无标签的测试时强化学习。

Comments ICLR 2026 Test-Time Updates (TTU) Workshop