语言大模型 / LLM

Energy Efficient Software Hardware CoDesign for Machine Learning: From TinyML to Large Language Models

面向机器学习的能效软件硬件协同设计：从TinyML到大语言模型

Mohammad Saleh Vahdatpour, Yanqing Zhang

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 本文探讨了从TinyML到大语言模型的能效协同设计方法，涵盖边缘推理、训练和数据中心规模的LLM服务，分析了加速器架构和系统级技术，并提出分层分解视角以指导构建能效和碳感知的机器学习系统。

Comments Accepted as a poster presentation at the EMC2 Workshop, ASPLOS 2026

LATS: Large Language Model Assisted Teacher-Student Framework for Multi-Agent Reinforcement Learning in Traffic Signal Control

LATS：基于多智能体强化学习的交通信号控制中的大语言模型辅助教师-学生框架

Yifeng Zhang, Peizhuo Li, Tingguang Zhou, Mingfeng Fan, Guillaume Sartoretti

机构 * Department of Mechanical Engineering, National University of Singapore（新加坡国立大学机械工程系） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出LATS框架，结合大语言模型和多智能体强化学习，通过教师-学生模块提升交通信号控制的表示能力，实验表明其在多样交通场景中具有更高效和泛化性强的控制策略。

Data-Prompt Co-Evolution: Growing Test Sets to Refine LLM Behavior

数据提示共演：通过增长测试集来完善LLM行为

Minjae Lee, Minsuk Kahng

机构 * Yonsei University（延世大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出数据提示共演方法，通过交互系统帮助开发者发现边缘案例并迭代优化提示，使LLM行为更符合预期政策。

Comments ACM CHI Conference on Human Factors in Computing Systems (CHI 2026)

Scaling Test-Time Robustness of Vision-Language Models via Self-Critical Inference Framework

通过自批评推理框架提升视觉-语言模型的测试时鲁棒性

Kaihua Tang, Jiaxin Qi, Jinli Ou, Yuhua Zheng, Jianqiang Huang

机构 * Tongji University（同济大学） ； Computer Network Information Center, CAS（计算机网络信息中心，中国科学院） ； HIAS, University of Chinese Academy of Sciences（高等研究所，中国科学院大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文提出自批评推理框架，通过多轮反事实推理提升视觉-语言模型的鲁棒性，引入动态鲁棒性基准评估框架以应对语言偏差和敏感性问题，实验表明该方法在鲁棒性上优于基线方法。

Comments Accepted to CVPR 2026. Code: https://github.com/KaihuaTang/Self-Critical-Inference-Framework

Towards Energy-aware Requirements Dependency Classification: Knowledge-Graph vs. Vector-Retrieval Augmented Inference with SLMs

面向能源意识的需求依赖分类：知识图谱与向量检索增强推理的SLM

Shreyas Patil, Pragati Kumari, Novarun Deb, Gouri Ginde

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；small language model(abstract)；SLM(abstract)

AI总结 本文研究了在SLM中通过知识图谱与向量检索增强推理以提高需求冲突检测的效率和可持续性，评估了不同方法在能耗、延迟和碳排放方面的表现。

Comments 11 pages, Conference

The Compression Paradox in LLM Inference: Provider-Dependent Energy Effects of Prompt Compression

大语言模型推理中的压缩悖论：提示压缩的提供商依赖性能耗效应

Warren Johnson

机构 * Plexor Labs（Plexor实验室） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究通过28421次API试验，测试提示压缩对不同提供商、基准和压缩比下的推理能耗效率影响，发现压缩导致质量显著下降且能耗依赖于提供商。

Comments 16 pages, 5 figures, 5 tables. Includes data/code availability, ethics statement, and competing interests

From Text to Talk: Audio-Language Model Needs Non-Autoregressive Joint Training

从文本到谈话：音频-语言模型需要非自回归联合训练

Tianqiao Liu, Xueyi Li, Hao Wang, Haoxuan Li, Zhichao Chen, Weiqi Luo, Zitao Liu

机构 * Guangdong Institute of Smart Education（广东智能教育研究院） ； TAL Education Group（TAL教育集团） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文提出Text-to-Talk模型，通过整合自回归文本生成与非自回归音频扩散，统一训练目标，提升多模态语音交互系统性能。

Beyond Masks: Efficient, Flexible Diffusion Language Models via Deletion-Insertion Processes

超越掩码：通过删除-插入过程实现高效的、灵活的扩散语言模型

Fangyu Ding, Ding Ding, Sijin Chen, Kaibo Wang, Peng Xu, Zijin Feng, Haoli Bai, Kai Han, Youliang Yan, Binhang Yuan, Jiacheng Sun

机构 * HKUST（香港科技大学） ； Huawei Foundation Model Dept（华为基础模型部门） ； CUHK（香港中文大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出删除-插入扩散语言模型（DID），通过将token删除和插入作为离散扩散过程，提高训练和推理效率，并提供更灵活的生成机制。

Comments Accepted at ICLR 2026

HillInfer: Efficient Long-Context LLM Inference on the Edge with Hierarchical KV Eviction using SmartSSD

HillInfer: 在边缘设备上通过智能SSD实现高效长上下文LLM推理的分层KV淘汰

He Sun, Shinan Liu, Li Li, Mingjun Xiao

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本文提出HillInfer框架，通过智能SSD实现轻量级KV淘汰，结合分层KV缓存管理与自适应预取管道，提升边缘设备长上下文LLM推理效率与I/O性能。

Comments 16 pages, 16 figures, under review

Self-Distillation for Multi-Token Prediction

多令牌预测的自蒸馏

Guoliang Zhao, Ruobing Xie, An Wang, Shuaipeng Li, Huaibing Xie, Xingwu Sun

机构 * Large Language Model Department, Tencent（腾讯大语言模型部门） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MTP-D自蒸馏方法，提升多令牌预测头接受率并保持主头性能，通过循环扩展策略进一步提升推理效率。

Attention-aware Inference Optimizations for Large Vision-Language Models with Memory-efficient Decoding

面向大视觉-语言模型的注意力感知推理优化

Fatih Ilhan, Gaowen Liu, Ramana Rao Kompella, Selim Furkan Tekin, Tiansheng Huang, Zachary Yahn, Yichang Xu, Ling Liu

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Cisco Research（思科研究） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 本文提出AttentionPack框架，通过紧凑注意力机制和解压机制提升大视觉-语言模型解码效率，实验表明内存效率提升8倍，支持更大批次和更快推理，同时保持输出质量。

Compression Method Matters: Benchmark-Dependent Output Dynamics in LLM Prompt Compression

压缩方法至关重要：在LLM提示压缩中的基准依赖性输出动态

Warren Johnson

机构 * Plexor Labs（Plexor实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL

AI总结 研究探讨了提示压缩对输出长度和推理成本的影响，提出指令生存概率指标，并揭示了不同基准下的压缩效果差异，强调提示结构对压缩安全性和效率的重要性。

Comments 19 pages. Includes figures and tables. Companion code/data repository and direct NVML calibration dataset are cited in manuscript

SafeSieve: From Heuristics to Experience in Progressive Pruning for LLM-based Multi-Agent Communication

SafeSieve: 从启发式到经验在基于大语言模型的多智能体通信中的渐进剪枝

Ruijia Zhang, Xinyan Zhao, Ruixiang Wang, Sigen Chen, Guibin Zhang, An Zhang, Kun Wang, Qingsong Wen

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文提出SafeSieve，一种渐进适应的多智能体剪枝算法，通过双重机制动态优化智能体间通信。实验显示其在多个基准上实现了高准确率并显著降低token使用量，同时在异构环境下保持性能。

Comments AAAI-2026 poster; 7 pages for main content, 5 figures, 4 tables

Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models

通过空域投影实现原理化引导用于视觉-语言模型中的对抗防御

Xingyu Zhu, Beier Zhu, Shuo Wang, Junfeng Fang, Kesen Zhao, Hanwang Zhang, Xiangnan He

机构 * MoE Key Lab of BIPC, University of Science and Technology of China（北京信息科技大学MoE关键实验室，中国科学技术大学） ； National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出NullSteer框架，通过线性变换在模型激活中构建拒绝方向，在良性子空间保持零扰动，动态诱导拒绝有害方向，提升安全性而不损害模型能力。

Comments CVPR 2026

Wireless AI Evolution: From Statistical Learners to Electromagnetic-Guided Foundation Models

无线AI进化：从统计学习者到电磁引导的基础模型

Jian Xiao, Ji Wang, Kunrui Cao, Xingwang Li, Zhao Chen, Chau Yuen

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文探讨无线AI从统计学习向电磁引导基础模型的进化，提出电磁信息理论引导自监督预训练框架，以提升模型的物理一致性与泛化能力。

Invisible Threats from Model Context Protocol: Generating Stealthy Injection Payload via Tree-based Adaptive Search

基于模型上下文协议的隐形威胁：通过树状自适应搜索生成隐蔽注入负载

Yulin Shen, Xudong Pan, Geng Hong, Min Yang

机构 * School of Computer Science, Fudan University（复旦大学计算机科学学院） ； Shanghai Innovation Institute（上海创新研究院） ； IEEE Publication Technology Group（IEEE出版技术组） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出TIP攻击方法，通过树状结构搜索生成隐蔽负载，有效攻击MCP增强代理，实验显示其在未防御环境下攻击成功率超95%，且优于现有方法。

The Cognitive Firewall:Securing Browser Based AI Agents Against Indirect Prompt Injection Via Hybrid Edge Cloud Defense

认知防火墙：通过混合边缘云防御保护基于浏览器的AI代理免受间接提示注入攻击

Qianlong Lan, Anuj Kaul

机构 * eBay Inc（eBay公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出认知防火墙，通过混合边缘云防御机制，有效降低基于浏览器的AI代理遭受间接提示注入攻击的成功率，同时显著提升系统响应效率。

You only need 4 extra tokens: Synergistic Test-time Adaptation for LLMs

你只需要4个额外的标记：用于LLM的协同测试时间适应

Yijie Xu, Huizai Yao, Zhiyu Guo, Pengteng Li, Aiwei Liu, Xuming Hu, Weiyu Guo, Hui Xiong

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出SyTTA框架，通过输入侧困惑度和输出侧预测熵的协同作用，实现无需标注数据的LLM测试时间适应，显著提升农业问答任务的性能。

Comments Under Review

Automated Discovery of Test Oracles for Database Management Systems Using LLMs

利用大型语言模型自动发现数据库管理系统测试 oracle

Qiuyang Mang, Runyuan He, Suyang Zhong, Xiaoxuan Liu, Huanchen Zhang, Alvin Cheung

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出Argus框架，利用LLM生成语义等价的SQL骨架，并通过形式化证明确保正确性，从而自动发现数据库管理系统中的测试oracle，发现40个新bug。

UI-Voyager: A Self-Evolving GUI Agent Learning via Failed Experience

UI-Voyager：一种通过失败经验自我进化的GUI代理学习

Zichuan Lin, Feiyu Liu, Yijun Yang, Jiafei Lyu, Yiming Gao, Yicheng Liu, Zhicong Lu, Yangbin Yu, Mingyu Yang, Junyou Li, Deheng Ye, Jie Jiang

机构 * Tencent（腾讯） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出UI-Voyager，一种两阶段自我进化的移动GUI代理，通过拒绝微调和组相对自蒸馏提升GUI任务的效率和性能，实验显示其在AndroidWorld上达到81.0%的Pass@1成功率。

Comments Code and models are available at https://github.com/ui-voyager/UI-Voyager

HDPO: Hybrid Distillation Policy Optimization via Privileged Self-Distillation

HDPO：通过特权自蒸馏的混合蒸馏策略优化

Ken Ding

机构 * NVIDIA（英伟达） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 HDPO通过结合强化学习与特权自蒸馏解决RL在数学推理中遇到的'悬崖'提示问题，提升覆盖指标并保持贪婪准确性。

How Vulnerable Are Edge LLMs?

边缘大语言模型有多脆弱？

Ao Ding, Hongzong Li, Zi Liang, Zhanpeng Shi, Shuxin Zhuang, Shiqin Tang, Rong Feng, Ping Lu

机构 * China University of Geoscience Beijing（中国地质大学（北京）） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； Hong Kong Polytechnic University（香港理工大学） ； Jilin University（吉林大学） ； City University of Hong Kong（香港城市大学） ； Chinese Academy of Sciences（中国科学院） ； City University of Hong Kong (Dongguan)（香港城市大学（东莞）） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究探讨了在边缘设备上部署的量化大语言模型在查询基础上的知识提取风险，提出CLIQ框架提升语义覆盖并减少冗余，实验显示其在BERTScore、BLEU和ROUGE指标上优于原始查询，揭示了量化无法有效防护查询提取的潜在安全风险。

APreQEL: Adaptive Mixed Precision Quantization For Edge LLMs

APreQEL: 适应性混合精度量化用于边缘大语言模型

Meriem Bouzouad, Yuan-Hao Chang, Jalil Boukhobza

机构 * Lab-STICC, CNRS UMR 6285 , ENSTA, Institut Polytechnique de Paris（法国巴黎理工学院STICC实验室、CNRS UMR 6285、ENSTA） ； National Taiwan University（台湾国立台湾大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种适应性混合精度量化方法，通过分析层间贡献和硬件平台行为，优化边缘部署中的内存、延迟和精度平衡。

S-Path-RAG: Semantic-Aware Shortest-Path Retrieval Augmented Generation for Multi-Hop Knowledge Graph Question Answering

S-Path-RAG：基于语义的最短路径检索增强生成用于多跳知识图谱问答

Rong Fu, Yemin Wang, Tianxiang Xu, Yongtai Liu, Weizhi Tang, Wangyu Wu, Xiaowen Ma, Simon Fong

机构 * University of Macau（澳门大学） ； Xiamen University（厦门大学） ； Peking University（北京大学） ； Hanyang University（翰阳大学） ； University of Liverpool（利物浦大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 S-Path-RAG通过混合加权k最短路径、束搜索和约束随机游走策略，实现语义感知的多跳知识图谱问答，提升检索效率与生成准确性。

Journal ref WWW 2026

TuneShift-KD: Knowledge Distillation and Transfer for Fine-tuned Models

TuneShift-KD：用于微调模型的知识蒸馏与迁移

Yushi Guan, Jeanine Ohene-Agyei, Daniel Kwan, Jean Sebastien Dandurand, Yifei Zhang, Nandita Vijaykumar

机构 * Department of Computer Science, University of Toronto（多伦多大学计算机科学系） ； Vector Institute, Toronto, Canada（多伦多大学向量研究所） 纠错

专题命中 效率与部署 ：LLM(abstract)；foundation model(abstract)；分类 cs.LG

AI总结 本文提出TuneShift-KD方法，通过少量示例自动将微调模型的专业知识蒸馏并迁移到目标模型，利用困惑度差异识别专业领域知识，无需训练判别器或训练数据集。

Tiny Inference-Time Scaling with Latent Verifiers

微小推理时间缩放与潜在验证器

Davide Bucciarelli, Evelyn Turri, Lorenzo Baraldi, Marcella Cornia, Lorenzo Baraldi, Rita Cucchiara

机构 * University of Modena and Reggio Emilia（摩德纳和雷吉奥艾米利亚大学） ； University of Pisa（比萨大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出VHS验证器，直接在扩散变换器单步生成器的中间隐藏表示上操作，减少验证成本并提升性能，实现更高效的推理时间缩放。

Comments Findings of CVPR 2026 - Code at: https://aimagelab.github.io/VHS/

SiftMoE: Similarity-Aware Energy-Efficient Expert Selection for Wireless Distributed MoE Inference

SiftMoE：基于相似性的能量高效专家选择用于无线分布式MoE推断

Qian Chen, Xianhao Chen, Kaibin Huang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出SiftMoE，通过相似性分析在无线分布式MoE推断中平衡通信成本与推理精度，减少能耗并保持准确性。

Comments 14 pages, 8 figures

Self-Evolving Multi-Agent Framework for Efficient Decision Making in Real-Time Strategy Scenarios

自适应演化多智能体框架用于实时战略场景中的高效决策

Li Ma, Hao Peng, Yiming Wang, Hongbin Luo, Jie Liu, Kongjing Gu, Guanlin Wu, Hui Lin, Lei Ren

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出SEMA框架，通过自适应校准模型偏差和动态观察剪枝，提升实时战略场景中的决策效率与一致性，实验显示其在StarCraft II地图上胜率更高且决策延迟降低超过50%。

Comments 17 pages, 6 figures. Submitted to SCIS (Science China Information Science)

AI-Ready Control System for the Fermilab Accelerator Complex

面向 Fermilab 加速器复杂系统的 AI 准备控制系统

Tia Miceli, Erik Gottschalk, Donovan Tooke, Evan Milton, Robert Santucci, Hayden Hoschouer, Michael Balcewicz, Jennifer Case, Abhishek Deshpande, Kit Fieldhouse, Sudeshna Ganguly, Beau Harrison, Aisha Ibrahim, Thomas Kobilarcik, Michael Olander, Abhishek Pathak, Jason St. John, Aaron Sauers

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出面向 Fermilab 加速器复杂系统的 AI 准备控制系统，涵盖 MLOps 框架、数据质量框架及大语言模型整合，以支持高强度可靠运行。

Comments 43 pages, 31 tables, 11 figures

Schema on the Inside: A Two-Phase Fine-Tuning Method for High-Efficiency Text-to-SQL at Scale

内部架构：一种两阶段微调方法，用于大规模高效文本到SQL

Chinmay Soni, Shivam Chourasia, Gaurav Kumar, Hitesh Kapoor

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种两阶段监督微调方法，使模型能内部化整个数据库架构，减少输入token至100以下，提升文本到SQL的精度和效率。

Comments 8 pages, 6 figures. Published in the Proceedings of the Fortieth AAAI Conference on Artificial Intelligence (AAAI-26), 2026

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence 40(47) (2026) 40110-40117