语言大模型 / LLM

Quantization-Robust LLM Unlearning via Low-Rank Adaptation

通过低秩适应实现抗量化的大语言模型反学习

João Vitor Boer Abitante, Joana Meneguzzo Pasquali, Luan Fonseca Garcia, Ewerton de Oliveira, Thomas da Silva Paula, Rodrigo C. Barros, Lucas S. Kupssinskü

机构 * Kunumi Institute, Brazil（Kunumi研究所，巴西） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出LoRA方法，通过冻结基础模型并集中反学习到可训练适配器中，提升4位量化下的模型性能，同时减少隐私泄露，适用于需要量化部署的场景。

Comments Accepted to IJCNN 2026

Horizon-LM: A RAM-Centric Architecture for LLM Training

Horizon-LM：一种以RAM为中心的LLM训练架构

Zhengqing Yuan, Lichao Sun, Yanfang Ye

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

AI总结 Horizon-LM通过重新定义CPU和GPU的角色，以主机内存为核心参数存储，实现大模型训练的内存优化，提升训练吞吐量并降低对多GPU集群的依赖。

Comments This paper contained an error in the throughput computation used in the experimental evaluation. Specifically, the TFLOPS calculation omitted the 12HL term in the training FLOPs formula, which led to systematic underestimation of the reported throughput numbers in the experimental results. We are withdrawing this version to correct the evaluation and avoid confusion for readers

EffiPair: Improving the Efficiency of LLM-generated Code with Relative Contrastive Feedback

EffiPair：通过相对对比反馈提升LLM生成代码的效率

Samira Hajizadeh, Suman Jana

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出EffiPair框架，通过相对对比反馈机制在测试时迭代优化代码效率，减少性能反馈开销，实验证明其在代码效率提升方面优于传统方法。

A Unified Foundation Model for All-in-One Multi-Modal Remote Sensing Image Restoration and Fusion with Language Prompting

一种统一的多模态遥感图像修复与融合的全功能基础模型 with语言提示

Yongchuan Cui, Peng Liu

机构 * Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院空天信息创新研究院） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子电气与通信工程学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；prompting(title)

AI总结 本文提出LLaRS模型，通过最优传输和混合专家层实现多模态遥感图像修复与融合，结合大规模数据集提升模型性能与迁移能力。

LLM Evaluation as Tensor Completion: Low Rank Structure and Semiparametric Efficiency

大语言模型评估作为张量补全：低秩结构与半参数效率

Jiachun Li, David Simchi-Levi, Will Wei Sun

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文将大语言模型评估视为低秩潜在评分张量的半参数推断问题，通过成对比较数据进行张量补全，提出了一种基于信息算子和影响函数的偏差修正估计器，解决了异质信息算子带来的挑战。

WISP: Waste- and Interference-Suppressed Distributed Speculative LLM Serving at the Edge via Dynamic Drafting and SLO-Aware Batching

WISP: 通过动态草稿和SLO感知批处理实现边缘的废料和干扰抑制的分布式推测LLM服务

Xiangchen Li, Jiakun Fan, Qingyuan Wang, Dimitrios Spatharakis, Saeid Ghafouri, Hans Vandierendonck, Deepu John, Bo Ji, Ali R. Butt, Dimitrios S. Nikolopoulos

机构 * University College Dublin（都柏林大学学院） ； National Technical University of Athens（雅典国家技术大学） ； Queen's University Belfast（贝尔法斯特女王大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出WISP系统，通过动态草稿和SLO感知批处理优化边缘和云的负载平衡，提升系统容量和吞吐量。

Comments 31 Pages, 13 Figures, 13 Tables

DAT: Dual-Aware Adaptive Transmission for Efficient Multimodal LLM Inference in Edge-Cloud Systems

DAT：双重视觉与带宽感知的自适应传输，用于边缘-云计算系统中高效多模态大语言模型推理

Qi Guo, Zheming Yang, Yunqing Hu, Chang Zhao, Wen Ji

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出DAT方法，通过轻量级边缘模型过滤非目标帧并触发MLLM推理，结合高效微调策略和多流自适应传输优化，实现高效多模态大语言模型推理，提升语义生成质量与低延迟警报性能。

Comments 10 pages, 6 figures. Submitted to ACM Multimedia 2026

Illusions of Confidence? Diagnosing LLM Truthfulness via Neighborhood Consistency

自信的幻觉？通过邻域一致性诊断LLM的真实性

Haoming Xu, Ningyuan Zhao, Yunzhi Yao, Weihong Xu, Hongru Wang, Xinle Deng, Shumin Deng, Jeff Z. Pan, Huajun Chen, Ningyu Zhang

机构 * Zhejiang University（浙江大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出邻域一致性信念(NCB)来评估LLM在上下文干扰下的信念鲁棒性，通过结构化测量提升模型在真实场景中的可靠性，并引入结构感知训练(SAT)减少知识脆性。

Comments ACL 2026

JTON: A Token-Efficient JSON Superset with Zen Grid Tabular Encoding for Large Language Models

JTON: 一种高效的JSON超集，采用Zen Grid表格编码以适应大语言模型

Gowthamkumar Nandakishore

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.AI

AI总结 本文提出JTON，一种高效的JSON超集，通过Zen Grid表格编码减少冗余，提升大语言模型处理结构化数据的效率与准确性。

Comments 20 pages, 13 figures, 14 tables. Code and test suite available at https://github.com/gowthamkumar-nandakishore/JTON

A State-Update Prompting Strategy for Efficient and Robust Multi-turn Dialogue

一种用于高效且鲁棒多轮对话的状态更新提示策略

Ziyi Liu

机构 * School of Artificial Intelligence Beijing University of Posts 纠错

专题命中 效率与部署 ：prompting(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种无需训练的提示工程方法，通过状态重建和历史提醒机制优化多轮对话，提升信息过滤和问答性能，同时减少推理时间和token消耗。

SignalClaw: LLM-Guided Evolutionary Synthesis of Interpretable Traffic Signal Control Skills

SignalClaw：基于大语言模型的进化合成可解释交通信号控制技能

Da Lei, Feng Xiao, Lu Li, Yuzhan Liu

机构 * Sichuan University（四川大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SignalClaw通过大语言模型引导进化合成可解释的交通信号控制技能，结合模拟指标生成自然语言反馈，实现高效且可解释的交通信号控制策略。

Comparative Characterization of KV Cache Management Strategies for LLM Inference

KV缓存管理策略在大语言模型推理中的比较分析

Oteo Mamo, Olga Kogiou, Hyunjin Yi, Weikuan Yu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过实证研究比较了vLLM、InfiniGen和H2O三种KV缓存管理框架，分析了其在内存消耗和推理性能上的权衡，揭示了不同场景下最优的缓存策略配置。

SigLino: Efficient Multi-Teacher Distillation for Agglomerative Vision Foundation Models

SigLino：高效多教师蒸馏用于聚类视觉基础模型

Sofian Chaybouti, Sanath Narayan, Yasser Dahou, Phúc H. Lê Khac, Ankit Singh, Ngoc Dung Huynh, Wamiq Reyaz Para, Hilde Kuehne, Hakim Hacid

机构 * Technology Innovation Institute（技术创新研究所） ； Tuebingen AI Center/University of Tuebingen（图宾根人工智能中心/图宾根大学） ； MIT-IBM Watson AI Lab（MIT-IBM Watson AI实验室） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；LLM(abstract)

AI总结 本文提出SigLino，一种高效的聚类视觉基础模型，通过同时蒸馏SigLIP2和DINOv3的知识到密集和专家混合学生中，提升了多教师蒸馏的效率与效果。

Comments 17 pages, 8 figures, 11 tables

FastDiSS: Few-step Match Many-step Diffusion Language Model on Sequence-to-Sequence Generation--Full Version

FastDiSS: 少步匹配多步扩散语言模型在序列到序列生成中的应用——完整版本

Dat Nguyen-Cong, Tung Kieu, Hoang Thanh-Tung

机构 * FPT Software AI Center, FPT Corporation（FPT软件人工智能中心，FPT公司） ； Department of Computer Science, Aalborg University（奥尔堡大学计算机科学系） ； Quantum AI and Cyber Security Institute, FPT Corporation（FPT公司量子人工智能与网络安全研究所） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出FastDiSS模型，通过改进自条件机制和引入噪声感知机制，提升少步采样下的生成质量，并实现400倍更快的推理速度。

Comments camera-ready version, accepted by ACL Findings (ACL 2026)

In-Place Test-Time Training

就地测试时间训练

Guhao Feng, Shengjie Luo, Kai Hua, Ge Zhang, Di He, Wenhao Huang, Tianle Cai

机构 * Peking University（北京大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种无需重新训练的就地测试时间训练框架，通过调整MLP块的最终投影矩阵实现模型在推理时的动态更新，提升大语言模型在长上下文任务中的性能。

Comments ICLR 2026 Oral Presentation; Code is released at https://github.com/ByteDance-Seed/In-Place-TTT

FreakOut-LLM: The Effect of Emotional Stimuli on Safety Alignment

FreakOut-LLM：情绪刺激对安全对齐的影响

Daniel Kuznetsov, Ofir Cohen, Karin Shistik, Rami Puzis, Asaf Shabtai

机构 * Ben-Gurion University of the Negev（内盖夫本-古里安大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究探讨情绪刺激是否影响大语言模型的安全对齐，通过实验发现压力情境显著增加逃逸成功率，而放松情境无显著影响，揭示情绪状态对AI攻击的可测量影响。

QuantVLA: Scale-Calibrated Post-Training Quantization for Vision-Language-Action Models

QuantVLA: 用于视觉-语言-动作模型的可扩展后训练量化

Jingxuan Zhang, Yunta Hsieh, Zhongwei Wan, Haokun Lin, Xin Wang, Ziqi Wang, Yingtie Lei, Mi Zhang

机构 * The Ohio State University（俄亥俄州立大学） ； University of Michigan（密歇根大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；分类 cs.LG

AI总结 QuantVLA是一种无需训练的后训练量化框架，首次应用于视觉-语言-动作系统，并成功量化了扩散变换器（DiT）动作头，通过三种可扩展组件实现了高效的低比特量化，显著提升任务成功率并降低内存消耗。

Comments CVPR2026

Triplet Feature Fusion for Equipment Anomaly Prediction : An Open-Source Methodology Using Small Foundation Models

三元特征融合用于设备异常预测：一种使用小型基础模型的开源方法论

Takato Yasuno

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出一种结合开源小型基础模型的三元特征融合方法，通过统计特征、时间序列嵌入和多语言文本嵌入的整合，提升设备异常预测的精度与鲁棒性。

Comments 15 pages, 8 figures, 7 table

Aligned Vector Quantization for Edge-Cloud Collabrative Vision-Language Models

对齐的向量量化用于边缘-云协作的视觉-语言模型

Xiao Liu, Lijun Zhang, Deepak Ganesan, Hui Guan

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出LLaVA-AlignedVQ系统，通过AlignedVQ算法实现中间特征高效压缩，减少数据传输开销，提升推理速度，保持高精度。

Comments I found a big mistake in the paper that causes significant bias on the results. The residual links are not taken into consideration when computing the transmission. All results about the compressed data size and transmission latency would be affected

Cortex AISQL: A Production SQL Engine for Unstructured Data

Cortex AISQL：面向非结构化数据的生产级SQL引擎

Paweł Liskowski, Benjamin Han, Paritosh Aggarwal, Bowei Chen, Boxin Jiang, Nitish Jindal, Zihan Li, Aaron Lin, Kyle Schmaus, Jay Tayade, Weicheng Zhao, Anupam Datta, Nathan Wiegand, Dimitris Tsirogiannis

机构 * Snowflake Inc.（雪花公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Cortex AISQL通过AI-aware优化、自适应模型级联和语义连接重写技术，解决大规模语义操作效率问题，提升非结构化数据查询性能。

Comments Published in SIGMOD Companion '26 (Industry Track), Bengaluru, India, May 31-June 5, 2026. ACM DOI: 10.1145/3788853.3803093. This version is the published ACM Version of Record under the Creative Commons Attribution 4.0 International (CC BY 4.0) license

Attention Editing: A Versatile Framework for Cross-Architecture Attention Conversion

注意力编辑：一种跨架构注意力转换的通用框架

Zhen Cheng, Hao-Bo Yang, Wan-Yi Huang, Jin-Long Li

机构 * China Merchants Bank Artificial Intelligence Laboratory（招商银行人工智能实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Attention Editing框架，通过渐进蒸馏实现无需重训练的注意力架构转换，提升大语言模型的效率与鲁棒性。

Dissecting Transformers: A CLEAR Perspective towards Green AI

解析Transformer：一种面向绿色AI的CLEAR视角

Hemang Jain, Shailender Goyal, Divyansh Pandey, Karthik Vaidhyanathan

机构 * IIIT Hyderabad（印度国际信息技术学院海得拉巴分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CLEAR方法，通过组件级能耗评估，分析Transformer组件在不同参数下的能耗，揭示注意力机制的高能耗问题，为预测能效提供理论基础。

Leveraging Image Editing Foundation Models for Data-Efficient CT Metal Artifact Reduction

利用图像编辑基础模型实现数据高效的CT金属伪影减少

Ahmet Rasim Emirdagi, Süleyman Aslan, Mısra Yavuz, Görkay Aydemir, Yunus Bilge Kurt, Nasrin Rahimi, Burak Can Biner, M. Akın Yılmaz

机构 * Codeway AI Research（Codeway AI 研究院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出利用视觉语言扩散基础模型进行金属伪影减少，通过参数高效低秩适应技术，仅需16-128对训练样本即可实现高效伪影抑制，并证明领域适应对减少幻觉至关重要。

Comments Accepted to CVPRW 2026 Med-Reasoner

Online In-Context Distillation for Low-Resource Vision Language Models

在线上下文蒸馏用于低资源视觉语言模型

Zhiqi Kang, Rahaf Aljundi, Vaggelis Dorovatas, Karteek Alahari

机构 * Inria（法国国家信息与自动化研究所） ； Toyota Motor Europe（丰田汽车欧洲公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出在线上下文蒸馏方法，通过小模型与强教师模型协作，利用稀疏演示高效缩小性能差距，提升小模型性能达33%，在低资源条件下实现与零样本性能相当的成果。

BodhiPromptShield: Pre-Inference Prompt Mediation for Suppressing Privacy Propagation in LLM/VLM Agents

BodhiPromptShield: 预推理提示调解用于抑制LLM/VLM代理中的隐私传播

Bo Ma, Jinsong Wu, Weiqi Yan

机构 * Auckland University of Technology（奥克兰理工大学） ； University of Chile（智利大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出BodhiPromptShield框架，通过检测敏感片段、路由和延迟恢复来抑制LLM/VLM代理中的跨阶段隐私传播，实验显示在控制提示隐私基准(CPPB)上效果显著。

AgentGL: Towards Agentic Graph Learning with LLMs via Reinforcement Learning

AgentGL: 通过强化学习实现基于LLM的代理图学习

Yuanfu Sun, Kang Li, Dongzhe Fan, Jiajin Liu, Qiaoyu Tan

机构 * New York University Shanghai（上海纽约大学） ； New York University（纽约大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 AgentGL通过强化学习框架实现图学习，结合图导航与LLM推理，提升复杂关系环境下的自主导航与推理能力，优于现有基线方法。

Comments ACL 2026 Main Conference

Multi-Drafter Speculative Decoding with Alignment Feedback

多草案生成与对齐反馈

Taehyeon Kim, Hojung Jung, Se-Young Yun

机构 * LG AI Research（LG AI研究院） ； KAIST AI（韩国科学技术院人工智能学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出MetaSD框架，通过整合多个草案生成器并利用对齐反馈，提升大规模语言模型推理效率和生成质量。

Comments ACL 2026 Findings

Web Retrieval-Aware Chunking (W-RAC) for Efficient and Cost-Effective Retrieval-Augmented Generation Systems

面向高效且经济的检索增强生成系统的网页检索感知分块（W-RAC）

Uday Allu, Sonu Kedia, Tanmay Odapally, Biddwan Ahmed

机构 * AI Research Team, Yellow.ai（Yellow.ai AI研究团队） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出W-RAC，一种针对网页文档的高效分块框架，通过分离文本提取与语义分块规划，减少LLM token消耗，提升系统可观察性。

Comments 13 pages, 9 tables, 0 figures

Firebolt-VL: Efficient Vision-Language Understanding with Cross-Modality Modulation

Firebolt-VL: 通过跨模态调制实现高效的视觉-语言理解

Quoc-Huy Trinh, Mustapha Abdullahi, Bo Zhao, Debesh Jha

机构 * Aalto University（阿尔托大学） ； University of South Dakota（南达科他大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出Firebolt-VL模型，通过替换Transformer解码器为液态基础模型解码器，并引入Token-Grid相关模块，提升视觉语义理解效率与精度。

Comments arXiv admin note: substantial text overlap with arXiv:2511.11177

VideoTIR: Accurate Understanding for Long Videos with Efficient Tool-Integrated Reasoning

VideoTIR：通过高效工具集成推理实现长视频的准确理解

Zhe Gao, Shiyu Shen, Taifeng Chai, Weinong Wang, Haotian Xu, Xing W, Wenbin Li, Qi Fan, Yang Gao, Dacheng Tao

机构 * Nanjing University（南京大学） ； Nankai University（南开大学） ； East China Normal University（华东师范大学） ； Tencent（腾讯） ； MiroMind ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出VideoTIR，通过强化学习优化工具调用策略，提升长视频理解的准确性和效率，结合零样本RL和SFT冷启动方法，减少冗余调用并生成高质量轨迹数据。