语言大模型 / LLM

TF-Engram: A Train-Free Engram with SSD-Backed Memory for Large Language Models

TF-Engram：一种用于大语言模型的基于固态硬盘支持内存的免训练印记

Yutang Ma, Kecheng Huang, Xikun Jiang, Zili Shao

机构 * The Chinese University of Hong Kong（香港中文大学） ； Beijing Institute of Technology, Zhuhai（北京理工大学珠海学院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)

AI总结 研究针对大语言模型知识扩展成本高问题，提出TF-Engram免训练印记系统，通过离线构建特定短语语义内存、跨层次存储及预测预取等方法，在Qwen3-0.6B上提升下游分数，证明可将其作为低开销组件集成到LLM推理中。

Comments 13 pages, 2 figures

When Summaries Distort Decisions: Information Fidelity in LLM-Compressed Financial Analysis

当摘要扭曲决策：LLM压缩财务分析中的信息保真度

Hoyoung Lee, Suhwan Park, Seunghan Lee, Jun Seo, Jaehoon Lee, Sungdong Yoo, Minjae Kim, CheolWon Na, Zhangyang Wang, Zach Golkhou, Minkyu Kim, Sotirios Sabanis, Alejandro Lopez-Lira, Dhagash Mehta, Soonyoung Lee, Chanyeol Choi, Wonbin Ahn, Yongjae Lee

机构 * UNIST（全纳科学技术大学） ； LG AI Research（LG人工智能研究） ； Sungkyunkwan University（成均馆大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； J.P. Morgan Chase（摩根大通） ； State Street（州立银行） ； University of Edinburgh（爱丁堡大学） ； University of Florida（佛罗里达大学） ； BlackRock（黑石） ； LinqAlpha 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究LLM压缩财务信息时因丢失决策相关上下文导致投资判断改变的问题，提出通过生成多个候选压缩并审计分歧的代理上下文压缩方法。

Comments Preprint

From Atomic Actions to Standard Operating Procedures: Iterative Tool Optimization for Self-Evolving LLM Agents

从原子动作到标准操作程序：自进化语言模型智能体的迭代工具优化

Haipeng Ding, Yuexiang Xie, Zhewei Wei, Yaliang Li, Bolin Ding

机构 * Renmin University of China（中国人民大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对现有LLM智能体框架问题，提出将原子动作合成SOP实现自进化，介绍EvoSOP框架，经实验验证该框架能显著提升任务成功率、减少交互轮数，为自进化智能体开发提供可扩展路径。

Small Language Model-based Control for BBR over Low Earth Orbit Satellite Internet

基于小语言模型的低地球轨道卫星互联网上的BBR控制

Rakshitha De Silva, Shiva Raj Pokhrel, Jonathan Kua

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；SLM(abstract,abstract_cn)

AI总结 研究低地球轨道卫星互联网中BBR控制问题，提出基于小语言模型的自适应框架，结合多种技术生成可行步调动作，实验表明该框架能在保持吞吐量优势时大幅减少重传，降低计算成本。

Comments 10 pages, 10 figures

Fog Computing and Large Language Models: A vision for mutual beneficiaries

雾计算与大型语言模型：互惠互利的愿景

Satish Narayana Srirama

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 本文探讨雾计算与大型语言模型（LLMs）如何相互受益，通过优化LLMs以适应雾基础设施，并利用LLMs的代码生成能力动态部署雾应用，综述了当前研究现状与未来方向。

Comments Paper accepted for publication at IEEE Computer Magazine. During the final editing, title changed slightly ("The" is removed). PDF now has final DOI

Journal ref IEEE Computer, ISSN: 0018-9162, 2026

RIMRULE: Improving Tool-Using Language Agents via MDL-Guided Rule Learning

RIMRULE：通过MDL引导的规则学习改进使用工具的语言智能体

Xiang Gao, Yuguang Yao, Qi Zhang, Kaiwen Dong, Avinash Baidya, Ruocheng Guo, Hilaf Hasson, Kamalika Das

机构 * Intuit AI Research（Intuit AI研究） 纠错

专题命中 效率与部署 ：language agent(title)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 研究针对大型语言模型在特定领域使用工具的难题，提出RIMRULE神经符号方法，通过从失败轨迹提炼规则并用MDL目标巩固，以动态注入规则提升性能，实验证明该方法能提高工具使用准确性，且规则具有跨架构可移植性。

Comments Published as a long paper in the main conference of ACL 2026

Future Confidence Distillation in Large Language Models

大语言模型中的未来置信度蒸馏

Sahil Kale

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型置信度估计，通过比较解决问题前后的置信度，发现其在回答过程中演变。基于此引入未来置信度蒸馏，用解决问题后的置信度估计训练解决问题前隐藏表征的预测器，实现可靠且低成本的置信度估计。

Comments 16 pages, 5 figures

SpaCellAgent: A Self-Evolving LLM-Based Multi-Agent Framework for Trajectory Analysis

SpaCellAgent：一种基于自进化大语言模型的轨迹分析多智能体框架

Songhan Wang, Haoang Chi, He Li, Zhiheng Zhang, Jiayan Yuan, Cheems Wang, Hao Peng, Xinwang Liu, Wenjing Yang

机构 * University of Shanghai for Science and Technology（上海理工大学） ； National University of Defense Technology（国防科技大学） ； Hong Kong Baptist University（香港浸会大学） ； Shanghai University of Finance and Economics（上海财经大学） ； Tsinghua University（清华大学） ； Beihang University（北京航空航天大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对轨迹推断现有方法需大量人工干预的问题，提出基于大语言模型的多智能体框架SpaCellAgent，利用多智能体架构、动态工具编排引擎和自进化模块，经实验验证其能大幅提高分析效率，推动先进时空建模民主化。

Comments 27 pages, 19 figures

Voltron: Enabling Elastic Multi-Device Execution of LLM Inference for Empowered Edge Intelligence

Voltron：实现用于增强型边缘智能的大语言模型推理的弹性多设备执行

Chanwoo Cho, Wooseok Kim, Yonglak Son, Young Seo Lee, Young Geun Kim

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究旨在解决大语言模型推理在集中式执行的局限，提出利用边缘多用户端设备的方法。核心方法是Voltron框架，能弹性利用多设备适应边缘环境。主要贡献是比单设备执行的模型精度高16.5%，满足用户QoS需求。

Specification Grounding Drives Test Effectiveness for LLM Code

规范基础驱动大语言模型代码测试有效性

Amin Haeri, Mahdi Ghelichi

机构 * TD Bank（TD银行） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型代码测试，固定测试器等因素，仅改变一条提示行来隔离规范基础对测试效果的影响。发现规范基础是测试有效性的主要驱动因素，能提高代码正确性、灵敏度和精度，降低误报率，在不同模型和供应商中都有此效果，在算法问题上无影响。

JuZhou 1.0 Technical Report: The First Edge-Native Text-to-Image Foundation Model Trained Entirely on China-Developed AI Accelerators

JuZhou 1.0 技术报告：首个完全在中国开发的AI加速器上训练的边缘原生文本到图像基础模型

Ce Chen, Congrui Wang, Yonglin Li, Zhenchen Wan, Mingyang Geng, Junhao Xiao, Zhengpeng Xing, Yaqing Hu, Yao Wu, Zhaoyang Qu, Long Lan, Xinwang Liu, Yingqi Peng, Shijia Li, Zufeng Zhang, Chen Ma, Jingjing Zhou, Xingyu Wang, Qilin Lu, Bin Jiang, Qilin Sun, Shanzhi Gu, Yaoguang Jin, Tongliang Liu, Kede Ma, Yifan Peng

专题命中 效率与部署 ：foundation model(title,abstract)；prompting(abstract)；分类 cs.AI

AI总结 提出JuZhou 1.0，一个超轻量级文本到图像基础模型，通过紧凑骨干网络、Rectified Flow训练、DMD2蒸馏和中文语义对齐，实现完全离线设备端运行，性能优于SDXL等模型。

FPTQuant: Function-Preserving Transforms for LLM Quantization

FPTQuant：用于大语言模型量化的函数保持变换

Boris van Breugel, Yelysei Bondarenko, Paul Whatmough, Markus Nagel

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型推理能耗高问题，提出FPTQuant方法，通过引入三种函数保持变换促进Transformer量化，经训练使模型在量化时保持功能，实现静态INT4量化，有最小开销且速度大幅提升，在精度-速度权衡上表现优异。

Comments Forty-third International Conference on Machine Learning (ICML 2026)

SNLP: Layer-Parallel Inference via Structured Newton Corrections

SNLP：通过结构化牛顿校正的层并行推理

Ligong Han, Kai Xu, Hao Wang, Akash Srivastava

机构 * Core AI, IBM（IBM核心AI） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 提出结构化牛顿层并行（SNLP）框架，通过将Transformer层间依赖视为非线性残差方程并用结构化牛顿校正并行求解，实现推理加速，在0.5B模型上获得高达2.58倍加速。

Comments Project webpage: https://github.com/phymhan/nanochat-snlp

Predicting LLM Safety Before Release by Simulating Deployment

通过模拟部署预测大语言模型发布前的安全性

Marcus Williams, Hannah Sheahan, Cameron Raymond, Tomek Korbak, Deng Pan, Peilin Yang, Leon Maksin, Ningyi Xie, Phillip Guo, Ian Kivlichan, Micah Carroll

机构 * OpenAI（开放人工智能研究公司） 纠错

专题命中 效率与部署 ：LLM(title)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过模拟部署预测大语言模型发布前安全性的方法，从去识别化对话出发，固定前缀用候选模型生成回复来评估。该方法能估计行为不当率，优于基线，还能克服工具重新采样挑战，为外部研究提供途径，助力预测模型现实行为及评估部署风险。

Comments 31 pages

TIR-Agent: Training an Explorative and Efficient Agent for Image Restoration

TIR-Agent：训练一个探索性且高效的图像修复代理

Guoli Jia, Yisheng Zhang, Haote Hu, Shanxu Zhao, Kaikai Zhao, Long Sun, Xinwei Long, Kai Tian, Che Jiang, Zhaoxiang Liu, Kai Wang, Shiguo Lian, Kaiyan Zhang, Bowen Zhou

机构 * Tsinghua University（清华大学） ； China Unicom（中国联通） ； Hunan University（湖南大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；language model(abstract)；language agent(abstract)

AI总结 本文提出TIR-Agent，通过监督微调和强化学习两阶段训练，解决图像修复中任务调度和工具组合的效率问题，实验表明其在多个基准上表现优异且推理速度提升显著。

Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata

通过有限自动机上的高效推理实现扩散语言模型的约束解码

Meihua Dang, Stefano Ermon

机构 * Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 研究扩散语言模型的约束解码问题，提出基于有限自动机高效推理的算法，能保证约束满足，支持多种解码方式，经实验验证在多种任务上提升准确率且推理开销小。

Physical activities enable scalable foundation modelling for broad-spectrum health prediction

身体活动助力实现用于广谱健康预测的可扩展基础建模

Zhenghuang Wu, Yuyao Zhu, Songlin Xu

机构 * Beihang University（北京航空航天大学） ； University of Science and Technology of China（中国科学技术大学） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 研究针对多数健康预测传感器模型局限性，提出仅基于步数计数器数据的StepFM基础模型，设计可扩展预训练框架，能跨多任务迁移，实验证明其性能强劲、保持稳健，还揭示了身体活动与健康风险关系，为健康监测奠定了基于步数传感的基础。

Comments 18 pages, 5 figures, 6 tables

Think Before You Grid-Search: Floor-First Triage for LLM Serving

在进行网格搜索之前先思考：大语言模型服务的楼层优先分类法

Yihua Liu

机构 * NVIDIA 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究大语言模型服务优化，提出楼层优先分类法，基于残差构建五维资源向量，通过墙排序比较部署方案，以案例分析模型在特定GPU上的情况，揭示布局判断与操作点的关系及不同布局差异的原因。

Comments 16 pages, 3 figures

InfraQR: Edge-Placed QR-Inspired Structured Patch Attacks on Infrared Vision-Language Models

InfraQR：对红外视觉语言模型的边缘放置的受QR码启发的结构化补丁攻击

Xin Li, Jiaju Han, Ma Yaqi, Chengyin Hu, Yingying Zhao, Jiahuan Long, Fengyu Zhang, Yahui Chai

机构 * China University of Petroleum-Beijing at Karamay（中国石油大学（北京）克拉玛依校区） ； Guizhou University（贵州大学） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究红外视觉语言模型对局部结构化扰动的鲁棒性，提出InfraQR攻击方法，沿图像边界放置结构化补丁并通过替代编码器优化网格单元，实验表明该方法能大幅降低分类器准确率，使对抗图像影响黑盒模型，凸显模型易受此类扰动影响。

Traffic-MoE: A Sparse Foundation Model for Network Traffic Security Analysis

Traffic-MoE：用于网络流量安全分析的稀疏基础模型

Jiajun Zhou, Changhui Sun, Wentao Fu, Meng Shen, Shanqing Yu, Qi Xuan

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 针对加密和协议混淆致传统流量检测方法过时、现有大模型计算成本高的问题，提出Traffic-MoE稀疏基础模型，通过动态路由解耦模型容量与计算开销，在多任务中性能优，提升了吞吐量、降低延迟并优化内存，还具鲁棒性和少样本检测能力。

A Unified Detection Framework for AI-Related Content and Artifacts

人工智能相关内容和工件的统一检测框架

Xifeng Zhang, Tao Hu, Yijie Peng, Wan Tian

机构 * School of Mathematical Sciences, Capital Normal University, Beijing 100048, China（数学学院，首都师范大学，北京100048，中国） ； School of Management and Engineering, Nanjing University, Nanjing 210008, China（管理工程学院，南京大学，南京210008，中国） ； Advanced Institute of Information Technology, Peking University（信息科技高级研究院，北京大学） ； Wangxuan Institute of Computer Technology, Peking University, Beijing 100871, China（王炫计算机技术研究院，北京大学，北京100871，中国） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对人工智能相关内容和工件检测问题，提出基于马氏距离分数的统一检测框架。通过开发联合估计方法、提供优化算法并证明收敛性等，有效刻画正类，经实证评估验证了该检测框架的有效性。

From Untamed Black Box to Interpretable Pedagogical Orchestration: The Ensemble of Specialized LLMs Architecture for Adaptive Tutoring

从混沌黑箱到可解释的教育编排：专精LLM集合架构用于自适应辅导

Nizam Kadir

机构 * Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ES-LLMS架构，通过分离决策与表达，利用可解释的BKT模型协调专精代理，提升辅导系统的可控性和可靠性，实验显示其在指导与信任方面优于传统模型。

Comments Accepted as a FULL paper at the 27th International Conference on Artificial Intelligence in Education (AIED 2026). 15 pages, 4 figures, 4 tables

NonTextual Target Attack

非文本目标攻击

Xinzhe Huang, Wenjing Hu, Tianhang Zheng, Kedong Xiu, Hongsheng Hu, Xiaojun Jia, Di Wang, Zhan Qin, Kui Ren

机构 * State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Hangzhou High-Tech Zone, Binjiang Institute of Blockchain and Data Security, Hangzhou（杭州高新技术区，滨江区块链与数据安全研究院） ； School of Cyberspace Security, Nanjing University of Science and Technology（网络安全学院，南京理工大学） ； School of Computer Science, Shanghai Jiao Tong University（计算机科学学院，上海交通大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，新加坡国立大学） ； King Abdullah University of Science and Technology (KAUST)（卡布斯科学与技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对现有大语言模型越狱攻击的局限，提出非文本目标攻击NTA，通过非文本约束目标最大化不安全概率，分解目标便于优化，扩展攻击空间，在AdvBench上对安全对齐的大语言模型仅100次迭代，平均成功率达96.8%，性能远超现有攻击。

PALS: Percentile-Aware Layerwise Sparsity for LLM Pruning

PALS：用于大语言模型剪枝的百分位数感知分层稀疏性

Yazdan Jamshidi, Alexey Shvets

机构 * Palo Alto Networks（帕洛阿尔托网络公司） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.CL、cs.LG

AI总结 研究针对大语言模型剪枝中各层重要性差异被忽略的问题，提出PALS方法，基于激活幅度第99百分位数调整每层稀疏性，在LLaMA - 2 - 7B上效果显著，且成本低无需微调，还发现基于梯度的分配效果不佳。

Compress the Cache, Not the Speech Embedding: KV Compression for Efficient Speech LLMs

压缩缓存，而非语音嵌入：用于高效语音语言模型的键值压缩

Ke-Han Lu, Keqi Deng, Ruchao Fan, Rui Zhao, Jinyu Li

机构 * Microsoft, USA（微软公司，美国） ； National Taiwan University, Taiwan（台湾国立大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对语音语言模型解码效率瓶颈，提出SpeechKV方法，对语言模型内语音令牌的键值缓存应用学习池化，在大量语音数据训练后，能压缩语音至文本级粒度，保持性能并大幅提升解码速度。

Comments Submitted to SLT2026

Dual Path Attribution: Efficient Attribution for SwiGLU-Transformers through Layer-Wise Target Propagation

双路径归因：通过层间目标传播实现SwiGLU-Transformer的高效归因

Lasse Marten Jantsch, Dong-Jae Koh, Seonghyeon Lee, Young-Kyoon Suh

机构 * School of Computer Science and Engineering, Kyungpook National University（韩国庆北国立大学计算机科学与工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出双路径归因方法，通过单次前向和反向传播高效追踪Transformer内部信息流，实现高保真度和高效性，适用于长序列和密集组件归因。

Think Big, Search Small: Where Capacity Matters in Hierarchical Search Agents?

想得大，搜得小：分层搜索智能体中容量的关键所在？

Qinnan Cai, Yibo Zhao, Xiang Li

机构 * School of Data Science and Engineering（数据科学与工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究基于大语言模型的分层搜索智能体中模型容量分配问题，通过角色分解和受控容量扫描实验，发现容量敏感性不对称，分解是瓶颈，还给出了集中容量于委托、缩减执行容量且不牺牲精度的构建分层搜索智能体方法。

Comments 21pages

DASH: Dynamic Audio-Driven Semantic Chunking for Efficient Omnimodal Token Compression

DASH：动态音频驱动的语义分块以实现高效的多模态令牌压缩

Bingzhou Li, Tao Huang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tongji University（同济大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 DASH通过动态音频驱动的语义分块方法，有效压缩多模态令牌，提升推理效率，优于传统固定窗口分块和注意力剪枝方法。

Comments ECCV 2026

Audio Sentiment Analysis via Distillation and Cross-Modal Integration of Generated Multilingual Transcripts

通过生成的多语言转录本的蒸馏和跨模态集成进行音频情感分析

Andrei-George Durdun, Victor Constantinescu, Radu Tudor Ionescu

机构 * University of Bucharest（布加勒斯特大学） ； PPC Romania（罗马尼亚PPC） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究语音情感分析难题，提出通过跨模态变压器集成音频与文本信息的多模态方案，经自动语音识别生成转录本并翻译为多语言文本，还进行知识蒸馏，实验证明该方法能提升多模态情感分类性能及增强单模态音频模型。

Comments Accepted at KES 2026

Weak-to-Strong Generalization via Direct On-Policy Distillation

通过直接在线策略蒸馏实现弱到强泛化

Shiyuan Feng, Huan-ang Gao, Haohan Chi, Hanlin Wu, Zhilong Zhang, Zheng Jiang, Bingxiang He, Wei-Ying Ma, Ya-Qin Zhang, Hao Zhou

机构 * SIA-Lab of Tsinghua AIR and ByteDance Seed（清华-字节跳动联合研究中心SIA实验室） ； Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院） ； Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对可验证奖励RL在大模型上成本高的问题，提出Direct-OPD方法迁移小模型RL的策略偏移，无需在大模型上跑RL即可实现性能提升。

Comments Project Page: https://bytedtsinghua-sia.github.io/Direct-OPD/