语言大模型 / LLM

Using Large Language Models as Low-Cost Statistical Estimators for Human-Response Data

使用大型语言模型作为人类响应数据的低成本统计估计器

Haobo Yang

机构 * Department of Computer Science and Engineering, SUSTech University（计算机科学与工程系，西南科技大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文证明预训练大型语言模型在平方损失下能实现条件期望的风险等价估计，通过理论分析和校准协议，表明在满足条件时可用LLM替代人类实验进行低成本统计推断。

Comments 37 pages

Toward Secure and Reliable PDDL Formalization of Large Language Models with Planner-in-the-Loop Feedback

面向具有规划器反馈的大型语言模型的安全可靠PDDL形式化

Jiamei Jiang, Jiajing Zhang, Feifei Mo, Linjing Li, Daniel Zeng

机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（多模态人工智能系统国家重点实验室，自动化研究所，中国科学院） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； School of Industry-education Integration, University of Chinese Academy of Sciences（中国科学院大学产教融合学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；preference optimization(abstract)

AI总结 提出NL-PDDL-Bench基准和规划器在环框架，通过验证器诊断和偏好优化提升LLM生成PDDL规范的可执行性与可靠性。

LLM Semantic Signaling Game and Mechanism Design: Systematic Blindness, Awareness Shaping, and Mindset Dynamics

LLM语义信号博弈与机制设计：系统性盲区、意识塑造与心态动力学

Quanyan Zhu

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出语义信号博弈框架，通过意识依赖评分机制建模LLM中介的交互，结合高斯近似与完美贝叶斯纳什均衡分析策略行为，并设计机制塑造意识、惩罚欺骗以诱导良性均衡，实验验证了意识排序效应与对抗心态动力学。

When Can Conformal Risk Control Certify LLM Outputs? Bounds, Impossibility, and Adaptation for Structured Generation

何时共形风险控制能认证LLM输出？界限、不可能性与结构化生成的自适应

Varun Kotte

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文研究共形风险控制（CRC）对结构化LLM输出的认证条件，证明不可能性结果并给出可行性检验，通过Hoeffding、Bernstein和e-CRC界限的层次化认证提升效率，并验证自适应共形推理（ACI）在跨数据集漂移下的有效性。

The Mirage of Optimizing Training Policies: Monotonic Inference Policies as the Real Objective for LLM Reinforcement Learning

优化训练策略的幻象：单调推理策略作为大语言模型强化学习的真正目标

Jing Liang, Hongyao Tang, Yi Ma, Yancheng He, Weixun Wang, Xiaoyang Li, Ju Huang, Wenbo Su, Jinyi Liu, Yan Zheng, Jianye Hao, Bo Zheng

机构 * Tianjin University（天津大学） ； Alibaba（阿里巴巴） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 针对LLM强化学习中训练-推理概率不一致导致的策略不稳定问题，提出单调推理策略改进（MIPI）目标及两阶段框架MIPU，通过推理侧间隙代理选择候选更新，提升推理性能与训练稳定性。

LiftQuant: Continuous Bit-Width LLM via Dimensional Lifting and Projection

LiftQuant: 通过维度提升和投影实现连续位宽的LLM

Liulu He, XuanAng Liu, Juntao Liu, Taolue Feng, Ting Lu, Chunsheng Gan, Zhiyv Peng, Yuan Du, Huanrui Yang, Yijiang Liu, Li Du

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出LiftQuant框架，通过“提升-投影”机制实现准连续位宽控制，以精确适配内存预算，在70B模型上以2.4位压缩超越现有2位模型。

Comments ICML 2026 Spotlight

Arapai: An Offline-First LLM Architecture for Adaptive Learning in Low-Connectivity Environments

面向低连接环境的离线优先LLM架构：用于自适应学习

Joseph Walusimbi, Ann Move Oguti, Joshua Benjamin Ssentongo, Keith Ainebyona

机构 * University of Nairobi（内罗毕大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种离线优先的LLM架构，适用于低连接环境中的自适应学习，通过本地推理和硬件感知模型选择，提供课程对齐的解释和结构化学术支持，适应不同教育阶段的学习者需求。

Comments 8 pages, 6 figures, 2 tables

Energy-Aware Scheduling for Serverless LLM Serving on Shared GPUs

面向共享GPU的无服务器LLM服务的能量感知调度

Tianyu Wang, Gourav Rattihalli, Aditya Dhakal, Longfei Shangguan, Dejan Milojicic

专题命中 效率与部署 ：LLM(title,title_cn)

AI总结 针对无服务器LLM服务中多模型共享GPU带来的能耗优化难题，提出Festina系统，通过协同请求放置、SM分区和GPU工作点调整，在满足TTFT/TBT SLO前提下，实现集群能耗降低高达56%。

Comments 13 pages body and 5 pages appendix, 19 pages total

HBM Is Not All You Need: Efficient Disaggregated LLM Serving across Memory-heterogeneous Accelerators

HBM并非唯一选择：跨内存异构加速器的高效分解式LLM服务

Zhixiang Wei, Yun Wang, James Yen, Mingyuan Xia, Zhengwei Qi

专题命中 效率与部署 ：LLM(title,title_cn)

AI总结 针对LLM推理中预填充阶段HBM带宽闲置问题，提出HMA-Serve系统，通过分阶段量化、计算-传输流水线和延迟反量化，在GDDR加速器上高效执行预填充，实现3.2倍吞吐提升和4.8倍性价比提升。

FlipGuard: Defending Large Language Models Against Quantization-Conditioned Backdoor Attacks

FlipGuard：防御针对大型语言模型的量化条件后门攻击

Aoying Zheng, Anqi Du, Zizhuang Deng, Yuxuan Chen

机构 * School of Cyber Science and Technology（网络安全科学与技术学院） ； Suzhou Research Institute of Shandong University（山东大学苏州研究院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.LG

AI总结 提出FlipGuard防御框架，通过量化前扰动权重打破后门触发条件，有效抑制量化条件后门攻击，并引入DER指标统一评估安全、效用与成本。

Comments Accepted by ICME 2026

AnTenA: Actionable and Explainable Tensor Analysis System with Large Language Models

AnTenA: 基于大语言模型的可操作且可解释的张量分析系统

Dawon Ahn, Auder Der, Evangelos E. Papalexakis

机构 * University of California, Riverside CA 92507, USA（加州大学河滨分校） ； Neuralix AI 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出AnTenA系统，利用大语言模型知识解释张量分解提取的共聚类潜在模式，通过前向和反向推理任务评估解释质量。

Coverage-Driven KV Cache Eviction for Efficient and Improved Inference of LLM

覆盖驱动的KV缓存淘汰策略用于高效且改进的大语言模型推理

Shuvendu Roy, Mengyao Zhai, Hossein Hajimirsadeghi, Golnoosh Samei

机构 * RBC Borealis（RBC 培生） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对大语言模型推理中KV缓存内存开销大、现有淘汰策略导致长上下文任务性能下降的问题，提出覆盖感知的K-VEC策略，通过跨头跨层覆盖模块提升token保留，在LongBench上最高提升10.35点。

Capability Gates Are Not Authorization: Confused-Deputy Failures in LLM Agent Frameworks

能力门控并非授权：LLM 代理框架中的混淆代理失败

David Mellafe Zuvic

机构 * Independent Security Research（独立安全研究） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文审计了 LangChain、LlamaIndex 和 Stripe Agent Toolkit 等框架，发现它们默认仅提供能力门控而非每次调用的值授权，导致混淆代理漏洞。作者提出 ScopeGate，一个五阶段授权框架，实验证明其能有效阻止未经授权的操作。

Comments 7 pages, 3 figures, 3 tables. Artifact: https://github.com/raceksd-source/scopegate-runtime (run_proof.sh)

Depth Exploration for LLM Decoding

LLM解码的深度探索

Weisi Yang, Zipeng Sun, Stephen Xia

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出DEX算法，通过并行探索多个候选深度而非单深度选择，在保持无损解码的同时减少计算开销，优于现有深度选择方法。

DOPD: Dual On-policy Distillation

DOPD：双重在线策略蒸馏

Xinlei Yu, Gen Li, Qingyi Si, Guibin Zhang, Yuqi Xu, Congcong Wang, Shuai Dong, Kaiwen Tuo, Xiangyu Zeng, Kaituo Feng, Qunzhong Wang, Yang Shi, Xiaobin Hu, Xiangyu Yue, Jiaqi Wang, Shuicheng Yan

机构 * NUS（新加坡国立大学） ； MMLab, CUHK（香港中文大学多媒体实验室） ； PKU（北京大学） ； Explore Academy, JD（京东探索研究院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出DOPD方法，通过优势感知的双重蒸馏范式动态分配令牌级监督，缓解特权幻觉，在LLM和VLM上优于传统在线策略蒸馏。

LLM Serving Optimization with Variable Prefill and Decode Lengths

具有可变预填和解码长度的LLM服务优化

Meixuan Wang, Yinyu Ye, Zijie Zhou

机构 * Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） ； Department of Management Science and Engineering, Stanford University（斯坦福大学管理科学与工程系） ； Department of Industrial Engineering and Decision Analytics, HKUST（香港科技大学工业工程与决策分析系） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究在固定KV缓存内存预算下，异构提示和响应长度的离线调度问题，提出Sorted-F算法以平衡批次大小与下游解码成本，实现常数因子近似保证。

Efficient Serving of LLM Applications with Probabilistic Demand Modeling

通过概率需求建模实现LLM应用的高效服务

Yifei Liu, Zuo Gan, Zhenghao Gan, Weiye Wang, Chen Chen, Yizhou Shan, Xusheng Chen, Zhenhua Han, Yifei Zhu, Shixuan Sun, Minyi Guo

机构 * Shanghai Jiao Tong University（上海交通大学） ； Huawei Cloud（华为云） ； Unaffiliated（无隶属机构） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Hermes系统，利用概率需求图建模LLM应用资源需求，采用Gittins策略优化调度顺序，预热冷后台，提升服务效率，减少平均完成时间70%以上，P95完成时间80%以上。

Journal ref ACM Transactions on Architecture and Code Optimization 23, 2, Article (June 2026), 1-25

Scalable Synthesis of distributed LLM workloads through Symbolic Tensor Graphs

通过符号张量图实现分布式大语言模型工作负载的可扩展合成

Changhai Man, Joongun Park, Hanjiang Wu, Huan Xu, Srinivas Sridharan, Tushar Krishna

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出STAGE框架，通过符号张量图高效建模分布式AI工作负载，支持多种并行策略，实现大规模LLM和MoE模型的高保真仿真。

Comments ISCA2026

Geometrically Principled Randomized Optimization for Efficient LLM Training

基于几何原则的随机优化用于高效的LLM训练

Sahar Rajabi, Nayeema Nonta, Sirisha Rambhatla

机构 * CriticalML Lab, University of Waterloo（滑铁卢大学CriticalML实验室） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本文提出GrassWalk和GrassJump算法，通过随机游走和跳跃在Grassmannian流形上导航，结合子空间感知优化器和恢复丢失的梯度信号，实现LLM预训练的最优性能。

You Had One Job: Per-Task Quantization Using LLMs' Hidden Representations

你只有一份工作：利用LLM隐藏表示进行每任务量化

Amit LeVi, Raz Lapid, Rom Himelstein, Chaim Baskin, Ravid Shwartz Ziv, Avi Mendelson

机构 * Technion—Israel Institute of Technology（技术ion—以色列理工学院） ； Zenity（Zenity公司） ； DeepKeep（DeepKeep公司） ； Ben-Gurion University of the Negev（巴伊兰大学） ； New York University（纽约大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,abstract)；post-training(abstract)；分类 cs.CL；foundation model(comments)

AI总结 本文提出TAQ框架，通过任务校准提示分配更高精度给任务相关的transformer层，提升精度-内存比和部署性能。

Comments Accepted at ICML 2026 Workshop on AdaptFM: Resource-Adaptive Foundation Model Inference

Why Struggle with Continuous Latents? Interpretable Discrete Latent Reasoning via Rendered Compression

为何纠结于连续潜变量？通过渲染压缩实现可解释的离散潜变量推理

Shuochen Chang, Qingyang Liu, Shaobo Wang, Bingjie Gao, Qianli Ma, Haonan Zhao, Yibo Miao, Yulin Sun, Zelin Peng, Jiangtong Li, Li Niu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tongji University（同济大学） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 提出离散潜变量推理（DLR）方法，将连续潜状态转化为离散令牌，通过渲染压缩实现高效、可解释的潜空间推理，在五个基准上优于先前方法并达到20倍压缩。

APEX4: Efficient Pure W4A4 LLM Inference via Intra-SM Compute Rebalancing

APEX4: 通过SM内计算重平衡实现高效纯W4A4 LLM推理

Hong Guo, Nianhui Guo, Weixing Wang, Jona Otholt, Christoph Meinel, Haojin Yang

机构 * Hasso Plattner Institute（霍普夫-普拉特纳研究所） ； GreenBit.AI ； German University of Digital Science（德国数字科学大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 针对W4A4量化中CUDA核心反量化瓶颈，提出基于SM内计算平衡的ρ感知粒度自适应方法，设计纯INT4 GEMM内核，在多种GPU上实现最高2.09倍加速。

Online Experiential Learning for Language Models

在线经验学习用于语言模型

Tianzhu Ye, Li Dong, Qingxiu Dong, Xun Wu, Shaohan Huang, Furu Wei

机构 * Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文提出在线经验学习框架OEL，使语言模型能持续从自身部署经验提升，通过经验知识提取与参数固化实现在线学习循环，提升任务准确性和效率。

DuoMem: Towards Capable On-Device Memory Agents via Dual-Space Distillation

DuoMem: 通过双空间蒸馏实现高效的设备端记忆代理

Peyman Hosseini, Ondrej Bohdal, Ahmed Alajrami, Andrea Maracani, Ignacio Castro, Matthew Purver, Mete Ozay, Savas Ozkan, Taha Ceritli

机构 * Samsung R&D Institute UK（三星英国研发中心） ； Queen Mary University of London（伦敦女王大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出DuoMem双空间蒸馏框架，将大型教师模型的过程问题解决能力转移到紧凑学生模型，在ALFWorld基准上将4B参数模型的任务成功率从4.3%提升至77.9%，接近72B教师模型的87.1%，且参数增加少于10M，速度提升3倍以上。

Comments 18 pages, 7 figures, 10 tables

The LLM Mirage: Economic Interests and the Subversion of Weaponization Controls

大语言模型的幻象：经济利益与武器化控制的颠覆

Ritwik Gupta, Andrew W. Reddie

专题命中 效率与部署 ：LLM(title,abstract)；language model(abstract)

AI总结 本文分析大语言模型幻象如何影响AI安全政策，提出基于效果和国际人道法的武器化定义，并构建测量基础设施。

Comments Accepted to the ACM Conference on Fairness, Accountability, and Transparency 2026 in Montreal, Canada

SpectralX: Parameter-efficient Domain Generalization for Spectral Remote Sensing Foundation Models

SpectralX: 为光谱遥感基础模型实现参数高效的领域泛化

Yuxiang Zhang, Wei Li, Mengmeng Zhang, Jiawei Han, Ran Tao, Shunlin Liang

专题命中 效率与部署 ：foundation model(title,abstract)；pretraining(abstract)

AI总结 SpectralX通过两阶段训练方法，利用HyperT和AoMoA实现对多光谱/超光谱数据的高效适应，提升领域泛化性能。

Research Entity Extraction and Topic Detection from UKRI Grant Proposals

从UKRI资助提案中提取研究实体和检测主题

Xingran Ruan, Angelo Salatino, Rosa Filgueira, Kara Moraw, Alexandru Marcoci, Gemma Derrick, Sarah Callaghan

机构 * EPCC, University of Edinburgh, UK（埃克塞特大学埃平中心，英国） ； Knowledge Media Institute, The Open University, UK（开放大学知识媒体研究所，英国） ； Institute for Technology and Humanity, University of Cambridge, UK（剑桥大学技术与人类研究所，英国） ； Centre for Higher Education Transformations, School of Education, University of Bristol, UK（布里斯托大学教育学院高等教育转型中心，英国） ； University of Oxford, UK（牛津大学，英国） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 比较三种LLM方法（GPT-4o、Mistral和定制算法DSIT-Taxonomies）从资助提案中提取和分类研究实体，发现Mistral在主题分类准确率（90.5%）上优于DSIT-Taxonomies（71.4%），且与GPT-4o质量相当。

Comments Accepted at the STI-ENID Conference. Will be presented in September 2026 in Antwerp (Belgium)

Efficient Retrieval-Augmented Generation via Token Co-occurrence Graphs

基于Token共现图的高效检索增强生成

Gianluca Bonifazi, Christopher Buratti, Michele Marchetti, Federica Parlapiano, Giulia Quaglieri, Davide Traini, Domenico Ursino, Luca Virgili

机构 * Università Politecnica delle Marche（波尔蒂纳拉理工大学） ； Università di Modena e Reggio Emilia（摩德纳和雷焦艾米利亚大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出TIGRAG框架，利用滑动窗口共现统计构建Token共现知识图谱，结合图语义扩展和神经重排序实现多跳推理，在三个QA基准上优于稠密检索和图RAG方法，同时降低索引和推理开销。

SpecMind: Cognitively Inspired, Interactive Multi-Turn Framework for Postcondition Inference

SpecMind：基于认知的、交互式多轮框架用于后置条件推断

Cuong Chi Le, Minh V. T Pham, Tung Vu Duy, Cuong Duc Van, Huy N. Phan, Hoang N. Phan, Tien N. Nguyen

机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校） ； FPT Software AI Center（FPT软件AI中心） ； VinUniversity（文大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 SpecMind通过多轮交互式提示方法提升后置条件生成的准确性和完整性，利用反馈驱动模型迭代优化，增强代码理解和程序行为对齐。

Comments Accepted in ACL 2026 Main

GeneMamba: An Efficient and Effective Foundation Model on Single Cell Data

GeneMamba：一种高效且有效的单细胞数据基础模型

Cong Qi, Hanzhang Fang, Siqi Jiang, Xun Song, Tianxing Hu, Wei Zhi

机构 * New Jersey Institute of Technology（新泽西理工学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.CL、cs.LG

AI总结 GeneMamba基于状态空间建模构建，采用Bi-Mamba架构实现线性时间复杂度，通过预训练和生物信息学目标提升单细胞转录组分析的效率与性能。

Journal ref IJCNN 2026