语言大模型 / LLM

NELSSA: A GPU-PNM Heterogeneous System for Mixed-Length LLM Serving via Length-based Request Placement

NELSSA：一种基于GPU-PNM异构系统的LLM混合长度服务框架，通过基于长度的请求放置实现

Sookyung Choi, Seungyong Lee, Kangkyu Park, Yunseo Chun, Junseok Lee, Hyeongseok Gwak, Myunghyun Rhee, Euiseok Kim, Donguk Moon, Kwangsik Shin, Guseul Heo, Youngpyo Joo, Hoshik Kim, Jongse Park

专题命中 效率与部署 ：LLM(title,title_cn)

AI总结 NELSSA是集成GPU与PNM加速器的LLM服务系统，通过基于长度的请求放置处理混合长度工作负载，解码吞吐量最高提升5.5倍，P99延迟最高降低15倍，为LLM基础设施提供新范式。

Comments 14 pages, 19 figures. Accepted to the 59th IEEE/ACM International Symposium on Microarchitecture (MICRO 2026)

DIRECT: Direct Decoding for Efficient and Aligned Sequence Labeling with Large Language Models

DIRECT：基于大语言模型的高效对齐序列标注直接解码方法

Yilei Wang, Jiaxin Gan, Kexuan Zhang, Ling Li, Wentao Zhang, Peichao Lai

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；preference optimization(abstract)；分类 cs.CL

AI总结 针对现有大语言模型序列标注方法的领域对齐不足与推理效率低问题，提出DIRECT框架，结合训练时优化与推理时校正，在8个数据集上实现性能与效率的显著提升。

Beyond Block Boundaries: Multi-Block Editing for Diffusion Large Language Models

超越块边界：扩散大语言模型的多块编辑

Xingyu Mou, Zijin Huang, Tianze Zhang, Yuxin Ma, Lanning Wei, Zengfeng Huang, Da Zheng, Lun Du

机构 * Ant Group（蚂蚁集团） ； Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；SFT(abstract,abstract_cn)；分类 cs.AI

AI总结 研究针对块扩散语言模型的块边界问题，提出多块编辑（MBE）方法。通过无需训练的解码算法编辑前序块令牌，引入监督微调策略，扩展SGLang提升效率。实验表明该方法在保持吞吐量时优于基线，在长程一致性任务上有显著性能提升。

Low-Precision Training of Large Language Models: Methods, Challenges, and Opportunities

大语言模型的低精度训练：方法、挑战与机遇

Zhiwei Hao, Jianyuan Guo, Li Shen, Yong Luo, Han Hu, Guoxia Wang, Dianhai Yu, Yonggang Wen, Dacheng Tao

机构 * School of Information and Electronics, Beijing Institute of Technology（信息与电子学院，北京理工大学） ； Department of Computer Science, City University of Hong Kong（计算机科学系，香港城市大学） ； School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University（网络科学与技术学院，中山大学深圳校区） ； School of Computer Science, Wuhan University（计算机科学学院，武汉大学） ； Baidu Inc.（百度公司） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本综述全面梳理大语言模型低精度训练方法，按数值格式分类并探讨相关挑战、鲁棒性及研究方向，助力统一该领域研究视角。

DualDecoder: Accelerate Long Context LLM Inference by Predictive Prefetch

DualDecoder：通过预测预取加速长上下文大语言模型推理

Zuning Liang, Zhiyi Yao, Qi Chen, Yuedong Xu, Hao Dai, Zhiqiang Ding, Tongkai Yang, Jinlong Hou, Yuan Cheng

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对长上下文LLM推理的内存墙瓶颈，提出轻量级服务系统DualDecoder，通过双token解码流水线预测预取关键KV条目，消除辅助状态开销，使解码吞吐量最高提升2.62倍且保留延迟与模型质量。

SENSE: Efficient EEG-to-Text via Privacy-Preserving Semantic Retrieval

SENSE：通过隐私保护的语义检索实现高效的EEG到文本

Akshaj Murhekar, Christina Liu, Abhijit Mishra, Shounak Roychowdhury, Jacek Gwizdka

机构 * School of Information, The University of Texas at Austin（信息学院，德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SENSE通过本地语义检索和提示语言生成，实现无需微调LLM的EEG到文本转换，提升效率并保护隐私。

Comments Accepted to ACM International Conference on Multimodal Interaction 2026

LLM-based Source Code Compression via Thresholded Symbol Ranking

基于阈值符号排序的基于大语言模型的源代码压缩

Angelo Nardone, Paolo Ferragina

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究基于大语言模型的源代码无损压缩问题，提出两种阈值符号排序变体，将预测限制在前\(T\)个排名，通过通用压缩器联合压缩阈值外符号。实验表明该方法在压缩率和吞吐量上优于此前方法，在压缩速度频谱中提供新权衡点。

Comments This is the version of the paper submitted and then accepted for presentation at the 24th International Conference of the Italian Association for Artificial Intelligence (AIxIA 2026), Perugia, Italy, 6--9 October 2026. The paper will appear in the proceedings, published by Springer Verlag in the Lecture Notes in Artificial Intelligence (LNAI) series

TurboVLA: Real-Time Vision-Language-Action Model at 32 Hz on an RTX 4090 with <1 GB VRAM

TurboVLA：在RTX 4090上以32 Hz运行、显存占用<1 GB的实时视觉-语言-动作模型

Hengyi Xie, Chenfei Yao, Xianjin Wu, Xuanyang Xi, Yiping Tang, Di Xu, Yingying Zhu, Dingkang Liang, Xiang Bai, Han Ding

机构 * Huazhong University of Science and Technology（华中科技大学） ； Huawei Technologies Co. Ltd（华为技术有限公司） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本研究提出TurboVLA，将传统VLA模型的LLM中心路径重构为视觉语言直接映射，仅0.2B参数即可在RTX 4090上实现97.7%LIBERO任务成功率，性能优于更大模型且显存占用极低。

Comments Code is available at https://github.com/H-EmbodVis/TurboVLA

The Ghost Couple: Correlated LLM Name Priors and Their Haunting of the Web and Academic Publishing

幽灵搭档：相关的大语言模型姓名先验及其对网络和学术出版的困扰

Michał Brzozowski, Neo Christopher Chung

机构 * Samsung AI Center（三星人工智能中心） ； University of Warsaw（华沙大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究发现大语言模型生成虚构专家姓名时会产生相关性强的角色组合，这些组合具有模型家族特异性，并在Zenodo等平台造成大量幽灵作者记录，影响学术出版。

FPEdit: Robust LLM Fingerprinting through Localized Parameter Editing

FPEdit：通过局部参数编辑实现鲁棒的大语言模型指纹技术

Shida Wang, Chaohu Liu, Yubo Wang, Linli Xu

机构 * University of Science and Technology of China（中国科学技术大学） ； State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 FPEdit通过局部参数编辑注入语义连贯自然语言指纹，解决现有指纹技术的局限，实现高指纹保留率、抗检测性与模型效用保留，大幅降低资源需求，用于大语言模型来源验证。

Comments Accepted to COLM 2026

MedARC: Training-Free Adaptive Redundancy Compression of Visual Tokens for 3D Medical Vision-Language Models

MedARC：面向3D医学视觉-语言模型的无训练视觉令牌自适应冗余压缩

Yitao Zhu, Mengjun Liu, Yingji Fu, Haowen Pang, Anqi Qiu

专题命中 效率与部署 ：language model(title,abstract)；foundation model(abstract)

AI总结 针对3D医学VLMs的视觉令牌冗余压缩问题，本文提出无训练框架MedARC，整合三类线索估计令牌重要性，通过显著性感知合并策略压缩令牌，在CT-RATE和MR-RATE上实现性能保持的同时降低开销。

Comments 9 pages

RAGuard: A Layered Defense Framework for Retrieval-Augmented Generation Systems Against Data Poisoning

RAGuard：一种针对检索增强生成系统数据中毒的分层防御框架

Pushkal Kumar, Tucker Nielson, Tanish Kolhe, Shubham Zala, Vincent Li

专题命中 效率与部署 ：large language model(abstract,abstract_cn)；language model(abstract,abstract_cn)；分类 cs.LG

AI总结 该研究针对RAG系统的语料库中毒攻击，提出分层防御框架RAGuard，含对抗微调检索器与ZKIP两层，可将攻击成功率降至0，且保持检索性能，相关资源已开源。

Comments Accepted to NeurIPS ResponsibleFM 2025, AAAI FrontierIR 2026

FinCacheServe: Dependency-Consistent Answer Reuse for Cost-Efficient RAG Serving over Mutable Enterprise Documents

FinCacheServe：面向可变企业文档的高性价比RAG服务的依赖一致答案复用

Lingteng Zeng, Yifan Jin

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 FinCacheServe为可变企业文档的RAG服务设计依赖一致的答案复用机制，可跳过大量LLM调用，相比现有方法能降低能耗，提升服务成本效率。

Comments 16 pages, 11 figures, 12 tables; preprint

MRCoder: An Efficient Context Selecting Approach for Repository-Level Code Generation

MRCoder：一种面向仓库级代码生成的高效上下文选择方法

Peiding Wang, Li Zhang, Fang Liu

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 MRCoder是一种基于Map-Reduce范式的仓库级代码生成上下文选择框架，通过SADGS策略和并行验证，在提升代码生成准确率的同时降低了token消耗与推理时间。

Comments Under review in TOSEM

SkillRise: Agentic Reinforcement Learning for Cross-Task Skill Evolution

SkillRise：面向跨任务技能演化的智能体强化学习

Zhiyuan Yao, Yuxin Chen, Zhengxi Lu, Zishan Xu, Yueqing Sun, Yifu Guo, Yuquan Lu, Zhengzhou Cai, Kangning Zhang, Zhuowen Han, Zi-Han Wang, Ziang Ye, Qi Gu, Xunliang Cai, Weiwen Liu, Yongliang Shen

机构 * Zhejiang University（浙江大学） ； National University of Singapore（新加坡国立大学） ； Shanghai Jiao Tong University（上海交通大学） ； Meituan（美团） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 SkillRise是跨任务学习技能的统一强化学习框架，解耦信用分配机制实现任务求解与技能整理，在多基准上Pass@1性能优于基线，还降低了运行开销。

REGEN: Replay-recycling for Expert-to-Generalist distillation with Offline Reinforcement Learning

REGEN：用于从专家到通用模型蒸馏的离线强化学习的重放回收

Yunjie Chen, Xiaoxin Chen, Fang Wang

机构 * vivo AI Lab（vivo人工智能实验室） ； Department of Computer Science, Sun Yat-Sen University（中山大学计算机科学系） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型强化学习扩展的挑战，提出REGEN方法，通过回收重放记忆并运用离线强化学习算法训练通用模型，解耦训练过程，降低成本，在多任务上以低成本达类似准确率，还可能变革在线强化学习及扩展训练阶段。

SpectraDINO: Modality-Conditioned Adaptation of RGB Vision Foundation Models Across Infrared Bands

SpectraDINO：跨红外波段的RGB视觉基础模型的模态条件适配

Yagiz Nalcakan, Hyeongjin Ju, Incheol Park, Sanghyeop Yeo, Youngwan Jin, Shiho Kim

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 SpectraDINO是适配RGB视觉基础模型的跨红外波段统一骨干网络，通过分阶段蒸馏与微调技术，在7个检测和分割基准上性能优于或媲美特定模态方法。

Comments Updated with the revised model results

Knowledge Distillation of a Protein Language Model Yields a Foundational Implicit Solvent Model

基于蛋白质语言模型的知识蒸馏产生一个基础的隐式溶剂模型

Justin Airas, Bin Zhang

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文通过知识蒸馏将蛋白质语言模型ESM3的进化信息转化为高效的图神经网络，构建出可转移的隐式溶剂模型，解决了传统方法在蛋白质折叠和无序蛋白行为模拟中的精度不足问题。

Journal ref Journal of Chemical Theory and Computation 2026 22 (14), 7382-7393

Explicit Kinematic Guidance from Analytic Concepts for Vision-Language-Action Models

面向视觉-语言-动作模型的来自解析概念的显式运动学引导

Mingyang Sun, Jiude Wei, Xiujian Liang, Qichen He, Donglin Wang, Cewu Lu, Jianhua Sun

机构 * Zhejiang University（浙江大学） ； Shanghai Innovation Institute（上海创新研究院） ； Fudan University（复旦大学） ； Westlake University（西湖大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：foundation model(abstract,abstract_cn)；post-training(abstract)

AI总结 该研究针对视觉-语言-动作模型忽略3D物体结构信息的缺陷，构建概念专家模块生成解析概念，通过双阶段机制提供显式引导，提升了模型的操作成功率与学习效率。

Every Time I Hire a Linguist, Inference Costs Go Down: On Linguistic Rules as Effective Prompt Compressors

每次我雇佣一位语言学家，推理成本就会降低：论语言规则作为有效的提示压缩器

Jianfei Ma, Zhaoxin Feng, Emmanuele Chersoni, Si Chen

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 研究探讨仅用语言规则作提示压缩器的可行性，通过离线进化搜索找到有竞争力的规则组合，所产生的语言压缩器仅用CPU端处理，经双路径协议评估性能与先进策略相似，揭示了压缩时规则变化及性能随压缩力度的表现。

Comments 37 pages, 6 figures, under review paper

CausalGate: Causal Importance Distillation for Transformer Module Pruning

因果门控：用于Transformer模块剪枝的因果重要性蒸馏

Kiran Nair, Smriti Regmi, Rodrigue Rizk

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对大语言模型自适应推理方法不足，提出CausalGate框架，在校准阶段隔离子层测量语义损伤，再用特定目标和损失将结构重要性提炼为标量门控，经实验验证其在多模型上优于基线，能降低硬件延迟且无操作开销。

Comments In-Review at a conference

Do LLMs Know What They Know? Measuring Metacognitive Efficiency with Signal Detection Theory

大语言模型知道它们知道什么吗？基于信号检测理论测量元认知效率

Jon-Paul Cacioli

机构 * Independent Researcher（独立研究员） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文基于信号检测理论中的元认知敏感性，提出新的评估框架，发现不同模型的元认知效率差异显著，且受领域影响，温度调整影响置信度策略而非元认知能力，证明AUROC_2和M-ratio指标回答不同评估问题。

Comments 12 pages, 4 figures, 3 tables. v3 corrects a differential length bias in the automated correctness scorer, validated against 1,830 human adjudications; all analyses recomputed. The inverse accuracy-efficiency coupling in v1/v2 does not survive relabelling; see the version note on page 1. Pre-registered. Code and annotations: github.com/synthiumjp/metacognition-audit

The Confounder Trap: Treatment-Encoding Representations in Causal Inference with Text

混淆陷阱：文本因果推断中处理编码表征

Marie Neubrander, Graham Tierney, Alexander Volfovsky

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文针对文本因果推断中因处理状态由文本编码引发的混淆陷阱，提出掩码调整表征方法，经模拟验证可改善重叠诊断、稳定因果效应估计并降低偏差。

Revisiting Lossy Verification in Speculative Decoding: Mechanisms, Trade-offs, and Failure Modes

重新审视推测解码中的有损验证：机制、权衡与失效模式

Tianyu Wang, Yuxuan Zhou, Wenbin Wang, Heng Li, Zikai Xiao, Junyuan Shang

机构 * Independent Researcher（独立研究者） ； Baidu Inc.（百度公司） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究分析有损推测解码的机制与失效模式，将其分为两类并构建评估框架，发现基于截断的有损方法会因分布失真致性能下降，协作类需控制概率超调以保障生成质量。

Steering Instruction Hierarchies at Inference Time

推理时的指令层级调控

Siqi Zeng, Sewoong Lee, Han Zhao, Julia Hockenmaier

专题命中 效率与部署 ：LLM(abstract_cn)；language model(abstract)；分类 cs.CL

AI总结 针对前沿大语言模型常违反指令层级的问题，提出无需训练的V-Steer方法，通过编辑缓存值向量调控指令层级，提升角色冲突基准准确率，性能优于仅提示基线，部分场景达到SoTA训练方法水平。

Comments Published as a conference paper at COLM '26; the first two authors contributed equally to the work. 24 pages, 9 figures

AngelSpec: Towards Real-World High Performance Inference with Speculative Decoding

AngelSpec：通过推测解码实现现实世界中的高性能推理

Hong Liu, Rui Cen, Junhan Shi, Guangshuo Qin, Jiebin Zhang, Tianyu Liu, Runzhi Fan, Guoliang Zhao, Ruobing Xie, Kai Zhang, Song Liu, Guanghua Yu, Jianchen Zhu

机构 * Tencent Inc.（腾讯公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究旨在通过推测解码实现高性能推理，提出AngelSpec统一训练框架，在训练、架构、推理层面解决异质性问题，其DFly框架提升了接受长度和吞吐量。

HiTMS: A High-Throughput Multi-Stream Linguistic Steganography Framework

HiTMS：一个高通量多流语言隐写框架

Ruiyi Yan, Zhongliang Yang, Yugo Murawaki

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 HiTMS针对现有语言隐写术单流方案的局限，提出在多轮交互响应中分配秘密，通过批处理调用提高吞吐量，用自描述框架和密钥派生调度保证可恢复性，实验显示其速度提升且降低隐写分析器AUROC，并发增加时吞吐量持续提高。

Veritas++: Value-aware On-Policy Distillation for Perception-Enhanced AIGI Detection

Veritas++：面向感知增强的AIGI检测的值感知在线策略蒸馏

Hao Tan, Jun Lan, Zichang Tan, Ajian Liu, Zijian Yu, Chuanbiao Song, Huijia Zhu, Weiqiang Wang, Jun Wan, Zhen Lei

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences (UCAS)（中国科学院大学先进交叉科学学院） ； Institute of Automation, Chinese Academy of Sciences (CASIA)（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS)（中国科学院大学人工智能学院） ； Ant Group（蚂蚁集团） ； Sangfor Technologies Inc.（深信服科技股份有限公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 该研究针对现有AIGI检测模型的感知瓶颈，提出Veritas++框架，通过PoRL与VaOPD机制增强感知能力，提升了检测泛化性与效率。

Before Agents Speak: Pre-hoc Failure Risk Inference in Multi-Agent Systems

智能体交流前：多智能体系统中的事前失败风险推断

Shi Lin, Chenpei Wang, Peng Qian, Dezhang Kong, Minghao Li, Yufeng Li, Xun Wang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 本研究针对多智能体系统中幻觉级联失败的问题，提出事前风险推断框架HalluProp，通过建模内在幻觉风险与传播机制实现早期诊断，性能优于事后方法，可提升系统可靠性。

ASARL: Autonomous Social-Aware Relevance Learning for QQ Search

ASARL：面向QQ搜索的自主社交感知相关性学习

Tao Su, Jinjing Hu, Xiao Wang, Xingzhong Cao, Hui Wang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 该研究针对社交搜索的语境差异等挑战，提出ASARL框架，结合多智能体数据整理与三阶段训练，在QQ搜索平台实验中提升了相关性指标、用户参与度及标注效率。