语言大模型 / LLM

ITAS: A Multi-Agent Architecture for LLM-Based Intelligent Tutoring

ITAS：基于大语言模型的智能辅导系统多智能体架构

Iizalaarab Elhaimeur, Nikos Chrisochoides

机构 * Center for Real-Time Computing（实时计算中心） ； Computer Science Department（计算机科学系） ； Old Dominion University（旧 Dominion 大学） ； Physics Departments（物理系） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ITAS多智能体架构，用于解决大语言模型在真实课程中运行的挑战，通过三层架构实现教学、操作和反馈功能，展示了系统在实际应用中的表现。

Comments Companion papers: arXiv:Q-ID (Quantum deployment), arXiv:L-ID (Latency analysis)

Pimp My LLM: Leveraging Variability Modeling to Tune Inference Hyperparameters

优化大语言模型：利用变异性建模来调整推理超参数

Nada Zine, Clément Quinton, Romain Rouvoy

机构 * Univ. Lille, CNRS, Inria, Centrale Lille, UMR 9189 CRIStAL, F-59000, Lille（里尔大学、国家科学研究中心、法国国家信息与自动化技术研究所、中央理工学院、UMR 9189 CRIStAL、法国里尔） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文通过变异性建模系统分析大语言模型推理配置，揭示超参数间的权衡关系，并支持基于有限测量预测推理行为，推动软件工程与机器学习的结合。

A BERTology View of LLM Orchestrations: Token- and Layer-Selective Probes for Efficient Single-Pass Classification

BERTology视角下的大语言模型编排：基于令牌和层的选择性探针用于高效单次分类

Gonzalo Ariel Meyoyan, Luciano Del Corro

机构 * Departamento de Computación, FCEyN Universidad de Buenos Aires（布宜诺斯艾利斯大学计算机系） ； ELIAS Lab, Departamento de Ingeniería Universidad de San Andres（圣安德烈斯大学工程系ELIAS实验室） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.CL

AI总结 本文提出基于BERTology方法的LLM编排框架，通过令牌和层选择性探针实现高效单次分类，提升安全性和情感分类性能，同时保持接近服务延迟并避免额外的VRAM和延迟成本。

Comments Accepted to ACL 2026 (Main Conference)

MCAP: Deployment-Time Layer Profiling for Memory-Constrained LLM Inference

MCAP：面向内存受限LLM推理的部署时层性能分析

Anurita Das

机构 * Genovation Technological Solutions Pvt Ltd（基因创新技术解决方案私人有限公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 MCAP通过部署时的层重要性估计，实现动态精度和内存分配决策，提升解码吞吐量并拓展内存受限下的模型运行范围。

Comments Code available at https://github.com/genovationtech/nve

Trust but Verify: Introducing DAVinCI -- A Framework for Dual Attribution and Verification in Claim Inference for Language Models

信任但验证：介绍DAVinCI——一种用于语言模型声明推断中双属性和验证的框架

Vipula Rawte, Ryan Rossi, Franck Dernoncourt, Nedim Lipka

机构 * Adobe（Adobe公司） ； Adobe Research（Adobe研究院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.AI

AI总结 本文提出DAVinCI框架，通过双属性和验证机制提升语言模型输出的事实可靠性与可解释性，实验表明其在分类准确率、属性精度、召回率和F1分数上提升5-20%。

What Language Models Know But Don't Say: Non-Generative Prior Extraction for Generalization

语言模型所知却不说：非生成性先验提取以提升泛化能力

Sara Rezaeimanesh, Mohammad M. Ghassemi

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL

AI总结 本文提出LoID方法，通过直接访问语言模型的token级预测，提取信息丰富的先验分布用于贝叶斯逻辑回归，以解决小数据集下模型泛化能力不足的问题。

SAW-INT4: System-Aware 4-Bit KV-Cache Quantization for Real-World LLM Serving

SAW-INT4: 为现实世界LLM服务的系统感知4位KV缓存量化

Jinda Jia, Jisen Li, Zhongzhu Zhou, Jung Hwan Heo, Jue Wang, Tri Dao, Shuaiwen Leon Song, Ben Athiwaratkun, Chenfeng Xu, Tianyi Zhang, Xiaoxia Wu

机构 * Together AI 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 本文提出SAW-INT4方法，通过系统感知的4位KV缓存量化，在满足实际服务约束下实现高精度与高效率的平衡，恢复近全部精度损失。

Efficient Mixture-of-Experts LLM Inference with Apple Silicon NPUs

高效混合专家LLM推理与Apple Silicon NPUs

Afsara Benazir, Felix Xiaozhu Lin

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 本文提出NPUMoE，通过将密集静态计算卸载到Apple Silicon NPUs，提升混合专家LLM推理效率，减少延迟、能耗和CPU使用率。

ODMA: On-Demand Memory Allocation Strategy for LLM Serving on LPDDR-Class Accelerators

ODMA：面向LLM服务的LPDDR类加速器按需内存分配策略

Guoqiang Zou, Wanyu Wang, Hao Zheng, Longxiang Yin, Yinhe Han

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； Beijing Information Science and Technology University（北京信息科技大学） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ODMA针对LPDDR类加速器的随机访问带宽限制，提出按需内存分配策略，通过动态调整内存桶边界和安全池提升KV缓存利用率和吞吐量。

Comments 4 pages, 6 figures

Predicting LLM Compression Degradation from Spectral Statistics

从谱统计预测大语言模型压缩退化

Mingxue Xu

机构 * Department of Electrical and Electronic Engineering, Imperial College London（帝国理工学院伦敦分校电子与电气工程系） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文通过分析四种低秩压缩方法，发现稳定秩和信息密度主导性能退化，提出γ·ρ_s交互项作为准确度退化的预测指标，实现了高相关性验证。

Comments Profoundly assisted by agentic AI

LLM Safety From Within: Detecting Harmful Content with Internal Representations

从内部检测有害内容：利用内部表示进行LLM安全

Difan Jiao, Yilun Liu, Ye Yuan, Zhenwei Tang, Linfeng Du, Haolun Wu, Ashton Anderson

机构 * University of Toronto（多伦多大学） ； McGill University（麦吉尔大学） ； LMU Munich（慕尼黑路德维希-马克西米利安大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 SIREN通过利用内部层特征提升有害内容检测性能，相比现有模型更高效且泛化能力强。

Comments 17 pages,10 figures,6 tables

Training LLM Agents for Spontaneous, Reward-Free Self-Evolution via World Knowledge Exploration

通过世界知识探索训练具有自发、无奖励自我进化的LLM代理

Qifan Zhang, Dongyang Ma, Tianqing Fang, Jia Li, Jing Tang, Nuo Chen, Haitao Mi, Yan Wang

机构 * Tencent（腾讯） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文提出一种无需外部监督的LLM代理自我进化方法，通过世界知识探索提升任务成功率，实验表明在WebVoyager和WebWalker上性能提升20%，并使紧凑型Qwen3模型超越Gemini-2.5-Flash。

An LLM-Guided Query-Aware Inference System for GNN Models on Large Knowledge Graphs

面向大规模知识图谱的LLM引导的查询感知推理系统

Waleed Afandi, Hussein Abdallah, Ashraf Aboulnaga, Essam Mansour

机构 * Concordia University（康科德大学） ； University of Texas at Arlington（德克萨斯大学阿灵顿分校） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出KG-WISE框架，通过将GNN模型分解为细粒度组件，并利用大语言模型生成查询模板，实现查询感知的高效推理，提升推理速度和降低内存使用。

Comments 14 pages, 11 figures

WISV: Wireless-Informed Semantic Verification for Distributed Speculative Decoding in Device-Edge LLM Inference

WISV：无线感知语义验证用于设备-边缘分布式推测解码

Zixuan Liu, Zhiyong Chen, Nan Xue, Shengkang Chen, Jiangchao Yao, Meixia Tao, Wenjun Zhang

机构 * Cooperative Medianet Innovation Center（联合中位网创新中心） ； Department of Electronic Engineering, Shanghai Jiao Tong University（上海交通大学电子工程系） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 本文提出WISV框架，通过通道感知语义接受策略优化分布式推测解码，提升接受长度和降低交互轮次，实验证明在设备边缘LLM推理中具有显著性能优势。

Comments submitted to IEEE Trans

GenericAgent: A Token-Efficient Self-Evolving LLM Agent via Contextual Information Density Maximization (V1.0)

GenericAgent：通过上下文信息密度最大化实现的高效自演化大语言模型代理（V1.0）

Jiaqing Liang, Jinyi Han, Weijia Li, Xinyi Wang, Zhoujia Zhang, Zishang Jiang, Ying Liao, Tingyun Li, Ying Huang, Hao Shen, Hanyu Wu, Fang Guo, Keyi Wang, Zhonghua Hong, Zhiyu Lu, Lipeng Ma, Sihang Jiang, Yanghua Xiao

机构 * Advantage AI Agent Lab (A3 Lab)（优势人工智能代理实验室（A3实验室）） ； Shenzhen Aquaintelling Technology（深圳Aquaintelling科技） ； Fudan University（复旦大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 GenericAgent通过上下文信息密度最大化实现高效自演化，优于现有代理系统，且在token和交互上更节省。

B-PASTE: Beam-Aware Pattern-Guided Speculative Execution for Resource-Constrained LLM Agents

B-PASTE：面向资源受限LLM代理的束感知模式引导推测执行

Yanfei Song

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 B-PASTE通过束感知技术，在资源受限条件下实现局部分支假设的推测执行，优先执行快路径并利用安全并行，提升端到端效率。

LiteSemRAG: Lightweight LLM-Free Semantic-Aware Graph Retrieval for Robust RAG

LiteSemRAG: 轻量级无大语言模型的语义感知图检索用于鲁棒性RAG

Xiao Yue, Guangzhi Qu, Lige Gan

机构 * Oakland University（奥克兰大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出LiteSemRAG，一种轻量级无大语言模型的语义感知图检索框架，通过构建异构语义图并分离表层词义与上下文依赖语义，提升检索鲁棒性与效率。

KRONE: Scalable LLM-Augmented Log Anomaly Detection via Hierarchical Abstraction

KRONE：通过层次抽象实现可扩展的LLM增强日志异常检测

Lei Ma, Jinyang Liu, Tieying Zhang, Peter M. VanNostrand, Dennis M. Hofmann, Lei Cao, Elke A. Rundensteiner, Jianjun Chen

机构 * Worcester Polytechnic Institute（沃斯特理工学院） ； ByteDance Inc.（字节跳动公司） ； University of Arizona（亚利桑那大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 KRONE通过自动从扁平日志中推导执行层次结构，实现模块化多级异常检测，提升准确率、F1分数和资源效率。

Comments Accepted at ICDE 2026

Interpretable Relational Inference with LLM-Guided Symbolic Dynamics Modeling

基于LLM引导的符号动力学建模的可解释关系推断

Xiaoxiao Liang, Juyuan Zhang, Liming Pan, Linyuan Lü

机构 * School of Cyber Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出COSINE框架，通过联合发现交互图和稀疏符号动力学，实现对复杂系统中潜在相互作用结构的可解释推断，实验表明其在合成系统和大规模真实世界数据中的鲁棒性。

Comments Submitted to conference

The nextAI Solution to the NeurIPS 2023 LLM Efficiency Challenge

NeurIPS 2023 LLM效率挑战的nextAI解决方案

Gyuwon Park, DongIl Shin, SolGil Oh, SangGi Ryu, Byung-Hak Kim

机构 * UNIST（蔚山科学技术院） ； CJ Corporation（CJ集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出通过QLoRA微调和Flash Attention 2技术优化LLaMa2 70B模型，在单块A100 GPU内实现高效资源利用与高准确率。

The End of the Foundation Model Era: Open-Weight Models, Sovereign AI, and Inference as Infrastructure

基础模型时代的终结：开放权重模型、主权AI与推理作为基础设施

Jared James Grogan

机构 * Universitas AI 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文探讨基础模型时代终结，指出经济、技术、商业和政治四个维度的重构，强调开放权重模型作为主权控制的工具。

Comments 44 pages, 75 references, 5 endnotes. Version 1.0, events covered through March 9, 2026

Horizon-LM: A RAM-Centric Architecture for LLM Training

Horizon-LM：一种以RAM为中心的LLM训练架构

Zhengqing Yuan, Lichao Sun, Yanfang Ye

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

AI总结 Horizon-LM通过重新定义CPU和GPU的角色，以主机内存为核心参数存储，实现大模型训练的内存优化，提升训练吞吐量并降低对多GPU集群的依赖。

Comments This paper contained an error in the throughput computation used in the experimental evaluation. Specifically, the TFLOPS calculation omitted the 12HL term in the training FLOPs formula, which led to systematic underestimation of the reported throughput numbers in the experimental results. We are withdrawing this version to correct the evaluation and avoid confusion for readers

Generalizable Foundation Models for Calorimetry via Mixtures-of-Experts and Parameter Efficient Fine Tuning

通过专家混合和参数高效微调实现可推广的 calorimetry 基础模型

Carlos Cardona-Giraldo, Cristiano Fanelli, James Giroux, Cole Granger, Benjamin Nachman, Gerald Sabin

机构 * RNET Technologies Inc.（RNET技术公司） ； SLAC National Accelerator Laboratory（SLAC国家加速器实验室） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于next-token transformer的可推广calorimetry基础模型，结合专家混合预训练和参数高效微调，实现模块化适应不同材料和粒子类型，提升模拟效率和扩展性。

Comments 18 pages, 11 figures, 1 table

LLMON: An LLM-native Markup Language to Leverage Structure and Semantics at the LLM Interface

LLMON：一种面向大语言模型的标记语言，用于在大语言模型接口中利用结构和语义

Michael Hind, Basel Shbita, Bo Wu, Farhan Ahmed, Chad DeLuca, Nathan Fulton, David Cox, Dan Gutfreund

机构 * IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 LLMON通过引入一种面向大语言模型的标记语言，使文本的结构和语义元数据能自然地传递给大语言模型，从而提升模型的准确性、安全性和稳定性。

Comments 28 pages

Retrieval-Feedback-Driven Distillation and Preference Alignment for Efficient LLM-based Query Expansion

检索-反馈驱动的蒸馏与偏好对齐用于高效的基于大语言模型的查询扩展

Minghan Li, Guodong Zhou

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 本文提出一种检索反馈驱动的蒸馏与偏好对齐框架，通过从强教师模型转移检索友好的扩展行为到紧凑的学生模型，以降低推理成本并提升检索效果。

Comments 25 pages

Detecting Miscitation on the Scholarly Web through LLM-Augmented Text-Rich Graph Learning

通过LLM增强的文本丰富图学习检测学术网络中的误引

Huidong Wu, Haojia Xiang, Jingtong Gao, Xiangyu Zhao, Dengsheng Wu, Jianping Li

机构 * Chinese Academy of Sciences & City University of Hong Kong（中国科学院与香港城市大学） ； City University of Hong Kong（香港城市大学） ； Shenzhen University & Beijing Dongbi Data Technology（深圳大学与北京东碧数据技术） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出LAGMiD框架，利用LLM进行深度语义推理，结合图神经网络实现高效误引检测，通过证据链推理和知识蒸馏降低计算成本，实验显示效果优于现有方法。

SERQ: Saliency-Aware Low-Rank Error Reconstruction for LLM Quantization

SERQ：基于显著性的低秩误差重建用于LLM量化

Yeonsik Park, Hyeonseong Kim, Seungkyu Choi

机构 * Kyung Hee University（庆熙大学） ； Yonsei University（延世大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 SERQ通过基于显著性的低秩误差重建方法，在低比特LLM推理中提升精度并降低校准复杂度。

Comments 21 pages, 4 figures

NuMuon: Nuclear-Norm-Constrained Muon for Compressible LLM Training

NuMuon：基于核范数约束的穆恩优化器用于可压缩大语言模型训练

Hadi Mohaghegh Dolatabadi, Thalaiyasingam Ajanthan, Sameera Ramasinghe, Chamin P Hewa Koneputugodage, Shamane Siriwardhana, Violetta Shevchenko, Karol Pajak, James Snewin, Gil Avraham, Alexander Long

机构 * Pluralis Research（Pluralis研究） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 NuMuon通过引入核范数约束，增强大语言模型的权重压缩性并提升压缩后模型质量，同时保持Muon的收敛性能。

Comments 47 pages, 22 figures, 18 tables

Zero Sum SVD: Balancing Loss Sensitivity for Low Rank LLM Compression

零和SVD：平衡损失敏感性以实现低秩LLM压缩

Ali Abbasi, Chayne Thrash, Haoran Qin, Shansita Sharma, Sepehr Seifi, Soheil Kolouri

机构 * Department of Computer Science, Vanderbilt University, TN, USA（计算机科学系，范德比尔特大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 零和SVD通过全局奇异成分选择和零和规则实现低秩LLM压缩，无需优化即可自动生成异质秩，提升压缩效率与性能。

Hard Constraints Meet Soft Generation: Guaranteed Feasibility for LLM-based Combinatorial Optimization

硬约束与软生成交汇：为基于LLM的组合优化保证可行性

Yang Liu, Chuan Zhou, Yancheng Chen, Shuai Zhang, Xixun Lin, Xiaoqing Wang

机构 * Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 FALCON通过语法约束解码、可行性修复层和自适应Best-of-N采样，确保基于LLM的组合优化求解器的100%可行性并保持高质量解。

Comments 32 pages, 2 figures