语言大模型 / LLM

PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference

PromptGraph：用于在大语言模型推理中平衡隐私与效用的图引导提示净化

Chen Gu, Hui Wan, Donghui Hu, Hui Wang, Zhuoer Gu

机构 * School of Computer Science and Information Engineering, Hefei University of Technology（计算机科学与信息工程学院，合肥工业大学） ； International College Beijing, China Agricultural University（北京国际学院，中国农业大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型推理中的隐私与效用平衡问题，提出PromptGraph方法，将提示表示为属性图，估计隐私泄露与上下文依赖，通过净化目标平衡两者，实验证明该方法比基线更优。

Workflow as Knowledge: Semantic Persistence for LLM-Mediated Workflows

作为知识的工作流：大语言模型介导的工作流的语义持久性

Emanuele Quinto, Carlo Andrea Rozzi, Francesco Zanitti

机构 * UNHCR København（联合国难民署哥本哈根办事处） ； CNR—Istituto Nanoscienze Modena（意大利国家研究委员会-纳米科学研究所摩德纳分所） ； ZeLe & F ApS København（泽勒与F有限公司哥本哈根分公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型介导的工作流，提出受Lisp启发的概念模型，用符号形式等作解释视角，将工作流相关元素表示为持久知识对象，区分派生和推理，初步阐述了工作流的语义持久性。

Comments 39 pages, 18 figures

SMetric: Rethink LLM Scheduling for Serving Agents with Balanced Session-centric Scheduling

SMetric：以平衡的会话中心调度重新思考面向服务代理的大语言模型调度

Jiahao Wang, Kaizhan Lin, Kaixi Zhang, Jinbo Han, Xingda Wei, Sijie Shen, Chenguang Fang, Wenyuan Yu, Rong Chen, Haibo Chen

机构 * Institute of Parallel and Distributed Systems, Shanghai Jiao Tong University（并行与分布式系统研究所，上海交通大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 研究代理服务中LLM调度问题，提出基于全局层KV存储和会话内局部性的见解，设计SMetric平衡会话中心调度，相比先进调度器提升集群TPS及预填充TPS，降低每个令牌延迟。

Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models

用于在与语言模型交互中保护敏感数据隐私的多智能体防火墙架构

Hugo García Cuesta, Pablo Mateo Torrejón, Alfonso Sánchez-Macián

机构 * Universidad Carlos III de Madrid（卡洛斯三世大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.AI

AI总结 针对大语言模型集成到工作流程中缺乏保障措施的风险，提出开源多智能体防火墙架构，结合浏览器扩展和代理拦截流量，通过混合方法防止数据泄漏，分层架构可跨异构环境部署，最佳配置下F1分数达94.93%。

EnerInfer: Energy-Aware On-Device LLM Inference

EnerInfer: 能量感知的设备端大语言模型推理

Bohua Zou, Nian Liu, Binqi Sun, Matteo Mascherin, Debayan Roy, Yutao Liu, Yu Peng, Ning Jia, Haibo Chen

机构 * Technical University of Munich（慕尼黑技术大学） ； Huawei Hilbert Research Center (Dresden)（华为希利伯特研究中心（德累斯顿）） ； Huawei Central Software Institute（华为中央软件研究所） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.LG

AI总结 针对设备端LLM推理中能量与散热瓶颈，提出EnerInfer框架，通过解耦预测与在线反馈动态调整NPU/DDR频率，在保证服务质量前提下提升能效达65%。

Beyond Uniform Tokens: Adaptive Compression for Time Series Language Models

超越统一令牌：时间序列语言模型的自适应压缩

Jialin Gan, Xin Qiu, Guangzhe Chen, Xue Wang

机构 * Zhejiang University（浙江大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； Shandong University（山东大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；foundation model(abstract)

AI总结 针对时间序列语言模型中令牌效率低的问题，提出自适应令牌预算框架，通过频域结构压缩时间序列令牌并逐层减少提示令牌，实现高达7.68倍推理加速并在78%设置中提升性能。

Operator Fusion for LLM Inference on the Tensix Architecture

面向Tensix架构的LLM推理算子融合

Qingbo Wu, Ke Li, Wenzhu Wang, Jie Yu, Ruian Zhang, Lili Liu

机构 * KylinSoft Co., Ltd, Tianjin, China（KylinSoft有限公司，天津，中国） ； openKylin Community, Tianjin, China（openKylin社区，天津，中国） ； College of Computer Science and Technology, National University of Defense Technology, Changsha, China（计算机科学与技术学院，国防科技大学，长沙，中国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 针对Tensix架构的LLM推理瓶颈，提出RMSNorm与矩阵乘法融合的算子融合策略，利用片上SRAM和NoC多播减少DRAM读写与调度开销，在Wormhole平台上实现注意力延迟降低37.44%、MLP延迟降低15.89%，且数值一致性保持98.75%以上。

Comments 11 pages, 5 figures

TRADE: Transducer-Augmented Decoder for Speech LLM

TRADE: 换能器增强的语音大语言模型解码器

Yun Tang, Shanil Puri, Shinji Watanabe, Subhabrata Mukherjee

机构 * Hippocratic AI ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出TRADE模型，通过换能器分支增强多模态大语言模型，实现帧同步对齐与语言推理结合，支持流式和非流式解码，在多个基准上取得低词错误率。

Contract2Tool: Learning Preconditions and Effects for Reliable Tool-Augmented LLM Agents

Contract2Tool: 学习可靠工具增强型LLM代理的前提条件和效果

Rahul Suresh Babu, Laxmipriya Ganesh Iyer

机构 * Independent Researcher（独立研究者） ； United States of America（美国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Contract2Tool框架，从元数据、文档和执行轨迹中推断工具契约，实现因果工具过滤，在保持可靠性的同时大幅减少工具选择和token使用。

Never the Number: Structural Abstention for AI Systems Whose Answers Are Consumed as Fact

绝非数字：将答案作为事实使用的AI系统的结构弃权

Zhelun (Allen)Wu

机构 * Apple Inc.（苹果公司） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对LLM文本转SQL系统返回错误答案且无法区分的问题，提出带生成式外壳的可信内核架构，即结构弃权，在生产案例中验证其可靠性优于两种生成式替代方案。

Comments 26 pages, 5 figures, 5 tables. Technical report. Describes architecture and design principles only; contains no code, schemas, datasets, or performance metrics

Lifecycle-Optimal Tokenization: Vocabulary Size as a Deployment-Regime-Dependent Infrastructure Parameter

生命周期最优分词：词汇表大小作为与部署 regime 相关的基础设施参数

Rima Mittal, Ankit Gubrani, Satyanarayana Kakollu

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 该研究发现 LLM 分词器的最优词汇表大小随部署 regime 变化，提出生命周期部署成本模型，经实验证实其与训练最优值差异最高达 16 倍，且最优范围内质量损失极小，为 LLM 部署提供词汇表容量规划指导。

Comments 6 pages, 3 figures, 6 tables

Can Frontier LLMs Match Natively Multimodal Embeddings? A Comparison on Hard-Negative Text-to-Image Retrieval

前沿大语言模型能否媲美原生多模态嵌入？在难负例文本到图像检索上的对比

Archan Dutta, Vyanktesh Kanungo

机构 * Westcliff University（韦克利夫大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究在Flickr30k数据集上对比Gemini Embedding 2等原生多模态嵌入与GPT-4.1、Claude Sonnet 4.6等前沿LLM的难负例文本到图像检索性能，发现二者表现相当，且多模态嵌入更适配低延迟应用

Deployable Per-Instance Multi-Layer Activation Steering for Large Language Models

面向大型语言模型的可部署实例级多层激活调控

Muhammad Faishal Adly Nelwan, Alfan Farizki Wicaksono

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

AI总结 本研究提出可部署的实例级多层激活调控方案，解决现有全局固定层调控的缺陷，在两个8B模型和六个人格特质任务上，实现接近先验的性能，且避免流畅性崩溃。

Comments 43 pages, 24 figures, 30 tables. Under review at ACL Rolling Review (August 2026)

Mitigating Gender Bias in English to Romanian Machine Translation

缓解英罗机器翻译中的性别偏差

Ioana Grigore, Sergiu Nisioi

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出结合LLM性别分类与Transformer翻译的混合流水线，引入新数据集，使英罗机器翻译在WinoMT等基准上性别准确率提升超40个百分点，为缓解该领域性别偏差提供新方法。

Understanding Calibration and Truncation Error Propagation in Training-Free Low-Rank Compression for LLMs

大型语言模型（LLM）无训练低秩压缩中的校准与截断误差传播研究

Mohanad Odema, Gabrielle De Micheli, Dayin Gou, Nilesh Malpeddi, Prathamesh Vaste, Jacob Song

机构 * LG Electronics, North America（北美LG电子） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.AI

AI总结 本研究针对现有LLM无训练低秩压缩框架的两个关键局限，提出带校准修正的逐层压缩与带秩分配修正的迭代压缩方法，在Llama、Qwen3模型的零样本任务上实现1-2.5个准确率点提升。

Comments COLM 2026

Recurrent Residual Quantization: A Progressive Multi-Precision Representation for LLMs

循环残差量化：面向大语言模型的渐进式多精度表示

Yu Luo, Bo Dong, Wenhua Cheng, Haihao Shen

机构 * Intel（英特尔） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出循环残差量化（RRQ）框架，可从单个检查点生成LLM的多种精度表示，构建速度比MatGPTQ快3.3倍，在6、8比特精度下表现有竞争力，代码将公开。

Comments NeurIPS 2026 submission; 14 tables, 1 algorithm, and no figures

IRIS: Reusable Identity Representations from Frozen LLMs for Entity Alignment

IRIS：来自冻结语言模型的可重复使用身份表示用于实体对齐

Xinran Liu, Shengtao Li, Shouqian Shi, Ge Wang, Xin-Wei Yao

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究实体对齐问题，传统方法语义理解不足，基于LLM的方法未形成稳定身份空间。提出IRIS框架，从冻结LLM提取上下文表示构建实体签名，形成共享空间实现跨图谱对齐，在多个基准测试中取得良好成绩。

Comments 9 pages, 1 figure, 3 tables

Understanding Tone-Dependent Inference Cost in Large Language Models

理解大语言模型中与语气相关的推理成本

Akhil Kumar, Om Dobariya

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 研究提示语气对大语言模型答案准确性及推理成本的影响，通过在MMLU数据集上对七种语气进行实验，发现输出令牌长度变化超准确性变化，不同模型在不同语气下有不同表现，揭示语气对答案质量和推理资源消耗的作用。

Comments 16 pages, 1 figure, 9-page Appendix

MixQuant: Adaptive Mixed-Precision Quantization for Large Language Models

MixQuant：大语言模型的自适应混合精度量化

Ashitabh Misra, Madhav Agrawal, Arham Jain, Tarek Abdelzaher

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型量化中预算变化及层敏感度评估问题，提出MixQuant自适应框架，通过边缘化失真获与预算无关分数、校准参数并惩罚不合理分配，在多种模型上优于基线，提升准确率并降低困惑度。

Comments Preprint

SelectInfer: Selective Neuron Loading and Computation for On-Device LLMs

SelectInfer：用于设备端语言模型的选择性神经元加载与计算

Huzaifa Shaaban Kabakibo, Eric Schniedermeyer, Artem Burchanow, Lin Wang

机构 * Paderborn University（帕德博恩大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型在边缘设备部署的挑战，提出SelectInfer框架，通过离线分析识别特定任务和通用神经元，实施选择性加载和计算两项关键优化，可显著减少内存与计算量，同时保持任务性能，推动LLM在边缘设备的部署。

Detection, Attribution, Narration: An End-to-End Pipeline for Explainable Money Mule Identification

检测、归因、叙述：用于可解释的洗钱者识别的端到端管道

Yuge Zhang, Yuanxing Zhang, Yichao Jin, Khairul Amsyar Mohd Razis, Nicholas Qi An Choo, Kai Yin Anders Wong, Xinyan Tang, Kenneth Zhu Ke, Wee Keong Dennis Lee, Jingyuan Zhao

机构 * OCBC, Singapore（新加坡华侨银行） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对洗钱者账户检测难题，提出端到端管道，含LightGBM分类器、TreeSHAP归因层和LLM模块。经评估，系统收益率提升，警报量增加，LLM叙述减少认知负荷，在实际部署中表现出色，还探讨了在监管金融环境中的应用影响。

QDEvo: A Multi-Objective Quality-Diversity Framework for Automated Heuristic Design

QDEvo：用于自动启发式设计的多目标质量多样性框架

Nam Do Khanh, Nhat Nguyen Tran Minh, Dat Pham Vu Tuan, Long Doan, Binh Huynh Thi Thanh

机构 * Hanoi University of Science and Technology（河内科学技术大学） ； George Mason University（乔治·梅森大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对LLMs与进化计算集成用于自动启发式设计时的模式崩溃问题，提出多目标QDEvo框架，结合质量多样性优化与LLM驱动启发式搜索，通过实验证明该框架能发现高性能、高效且语义多样的启发式方法，优于现有方法。

Comments 4 pages; Accepted as poster at GECCO 2026

LC-QAT: Data-Efficient 2-Bit QAT for LLMs via Linear-Constrained Vector Quantization

LC-QAT: 通过线性约束向量量化实现LLM的数据高效2比特QAT

Haoyu Wang, Xingyu Yu, Haiyan Zhao, Fengxiang Wang, Xu Han

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 提出LC-QAT，一种2比特权重量化的向量量化感知训练框架，通过可微的线性映射避免离散码本查找，实现高质量PTQ初始化和端到端优化，仅用0.1%-10%训练数据即超越现有方法。

Comments Accepted by ICML 2026

Skill-MAS: Evolving Meta-Skill for Automatic Multi-Agent Systems

Skill-MAS: 演化元技能以自动生成多智能体系统

Hehai Lin, Qi Yang, Chengwei Qin

机构 * Ant Group（蚂蚁集团） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出Skill-MAS，通过将高层编排能力解耦为可演化的元技能，在无需参数更新的情况下实现经验保留，利用多轨迹采样和选择性反思优化元技能，在多个基准和LLM上取得显著性能提升且成本可控。

Less is More: Lightweight Prompt Compression for Question Answering Applications on Edge Devices

少即是多：面向边缘设备问答应用的轻量级提示压缩

Zihuai Xu, Ruofei Hou, Yang Xu, Hongli Xu, Yunming Liao, Ying Zhu

机构 * School of Computer Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院） ； Suzhou Institute for Advanced Research, University of Science and Technology of China（中国科学技术大学苏州高等研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 提出CORE，一种无需辅助语言模型的两阶段句子级提示压缩方法，通过NER和语义匹配构建答案集与线索集，结合正交残差检索和空间邻近度过滤，在边缘设备上显著提升准确率、降低内存和能耗。

Unifying Acoustic Features and Text with Multimodal LLMs for Neurodegenerative Screening

统一声学特征与文本的多模态大语言模型用于神经退行性疾病筛查

Qingfeng Zhang, Yuanxiong Guo, Yanmin Gong

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出NeurMLLM框架，通过多模态大语言模型融合声谱图、MFCC和文本，实现阿尔茨海默病和帕金森病的精细分期，优于传统方法和现有LLM方法。

Comments IEEE International Conference on Healthcare Informatics, 2026

Semantic Quorum Assurance: Collective Certification for Non-Deterministic AI Infrastructure

语义法定数保证：面向非确定性AI基础设施的集体认证

Jun He, Deying Yu

机构 * OpenKedge.io 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出语义法定数保证（SQA），一种通过多样化验证者群体和风险自适应法定数谓词，将非确定性LLM代理的不安全操作批准率从18.5%降至0.3%的控制平面原语。

Comments 21 pages, 2 figures, 6 tables

UnionSparse: An Index-Efficient Sparsity Framework for Low-Bit Sparse LLM Inference on Edge

UnionSparse：面向边缘设备低比特稀疏大语言模型推理的索引高效稀疏性框架

Tianhao Jiang, Hang Gu, Teng Wang, Qianyu Cheng, ZhenDong Zheng, Cheng Tang, Qiyue Su, Wenqi Lou, Lei Gong, Chao Wang, Xi Li, Xuehai Zhou

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对边缘低比特稀疏LLM推理中索引流量等SpMM瓶颈，提出UnionSparse框架，结合IE-BME与LSPD内核，在W4A4量化及30%-70%稀疏度下实现优于现有方案的性能。

Comments 14 pages, 19 figures. Accepted via the ESWEEK 2026 Journal Track for publication in IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems (TCAD)

Beyond Tier Labels: Role- and Deployment-Dependent Model Substitution in Multi-Call LLM Workflows

超越层级标签：多调用大语言模型工作流中依赖角色与部署的模型替换

Renxiang Wang, Jiaming Cui

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对多调用LLM工作流的模型替换问题，通过谓词-动作分解分离决策，经多任务实验揭示模型价值依赖角色与部署，提出大规模工作流路由的实用序列。

Refining LLM-based Directed Test Input Generation via Runtime Value Feedback

基于大语言模型的定向测试输入生成：通过运行时值反馈进行优化

Narin Han, Shin Hong

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对基于LLM的定向测试输入生成技术的不足，提出ReDig框架，通过运行时反馈的控制循环优化测试输入生成，在Poppler和Libsndfile案例中验证了其诊断失败原因与优化测试脚本的有效性。