语言大模型 / LLM

LLM-Extracted Covariates for Clinical Causal Inference: Rethinking Integration Strategies

基于大语言模型的协变量用于临床因果推断：重新思考整合策略

Lei Liu, Jialin Chen, Kathy Macropol

机构 * Department of Computer Science and Mathematics（计算机科学与数学系） ； Arcadia University（阿卡迪亚大学） ； Department of Computer Science（计算机科学系） ； Yale University（耶鲁大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文研究如何利用大语言模型提取的协变量提升临床因果推断效果，通过比较七种整合策略，发现直接增强倾向分数模型的性能最佳，且在真实数据中验证了其有效性。

Doomed from the Start: Early Abort of LLM Agent Episodes via a Recall-Controlled Probe Cascade

从一开始就注定失败：通过召回控制的探测级联实现大语言模型智能体情节的早期终止

Kai Ruan, Zihe Huang, Ziqi Zhou, Qianshan Wei, Jinghao Lin, Xuan Wang, Hao Sun

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Duke University（杜克大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； College of Computer Science, Zhejiang University（浙江大学计算机学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型智能体多步任务中早期失败预测问题，提出通过召回控制的探测级联方法，能早期预测失败并转化为实用终止级联，在TextCraft模型上达到高召回目标，节省大量推理计算资源，还刻画了样本复杂度。

FastTPS: An Optimized Method for LLM Token Phase for AI accelerators

FastTPS：一种针对人工智能加速器的大语言模型令牌阶段的优化方法

Wenzong Yang, Danyang Zhang, Kun Cao, Tejus Siddagangaiah, Rajeev Patwari, Zhanxing Pu, Siyin Kong, Zijiang Yang, Hao Zhu, Varun Sharma, Yue Gao, Tianping Li, Fan Yang, Jicheng Chen, Yushan Chen, Fennian Zhao, Aaron Ng, Elliott Delaye, Ashish Sirasao, Sudip Nag

机构 * Anonymous Institution（匿名机构） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对LLMs推理令牌阶段低并行性问题，提出FastTPS方法，含无重新加载KV缓存串联、优化“RoPE”注意力、高度融合MLP及细粒度流水线调度，显著缓解内存瓶颈，提升推理速度与内存带宽利用率。

Comments 16 pages, 8 figures, 7 tables

PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference

PromptGraph：用于在大语言模型推理中平衡隐私与效用的图引导提示净化

Chen Gu, Hui Wan, Donghui Hu, Hui Wang, Zhuoer Gu

机构 * School of Computer Science and Information Engineering, Hefei University of Technology（计算机科学与信息工程学院，合肥工业大学） ； International College Beijing, China Agricultural University（北京国际学院，中国农业大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型推理中的隐私与效用平衡问题，提出PromptGraph方法，将提示表示为属性图，估计隐私泄露与上下文依赖，通过净化目标平衡两者，实验证明该方法比基线更优。

Workflow as Knowledge: Semantic Persistence for LLM-Mediated Workflows

作为知识的工作流：大语言模型介导的工作流的语义持久性

Emanuele Quinto, Carlo Andrea Rozzi, Francesco Zanitti

机构 * UNHCR København（联合国难民署哥本哈根办事处） ； CNR—Istituto Nanoscienze Modena（意大利国家研究委员会-纳米科学研究所摩德纳分所） ； ZeLe & F ApS København（泽勒与F有限公司哥本哈根分公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型介导的工作流，提出受Lisp启发的概念模型，用符号形式等作解释视角，将工作流相关元素表示为持久知识对象，区分派生和推理，初步阐述了工作流的语义持久性。

Comments 39 pages, 18 figures

SMetric: Rethink LLM Scheduling for Serving Agents with Balanced Session-centric Scheduling

SMetric：以平衡的会话中心调度重新思考面向服务代理的大语言模型调度

Jiahao Wang, Kaizhan Lin, Kaixi Zhang, Jinbo Han, Xingda Wei, Sijie Shen, Chenguang Fang, Wenyuan Yu, Rong Chen, Haibo Chen

机构 * Institute of Parallel and Distributed Systems, Shanghai Jiao Tong University（并行与分布式系统研究所，上海交通大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 研究代理服务中LLM调度问题，提出基于全局层KV存储和会话内局部性的见解，设计SMetric平衡会话中心调度，相比先进调度器提升集群TPS及预填充TPS，降低每个令牌延迟。

Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models

用于在与语言模型交互中保护敏感数据隐私的多智能体防火墙架构

Hugo García Cuesta, Pablo Mateo Torrejón, Alfonso Sánchez-Macián

机构 * Universidad Carlos III de Madrid（卡洛斯三世大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.AI

AI总结 针对大语言模型集成到工作流程中缺乏保障措施的风险，提出开源多智能体防火墙架构，结合浏览器扩展和代理拦截流量，通过混合方法防止数据泄漏，分层架构可跨异构环境部署，最佳配置下F1分数达94.93%。

Fair Document Valuation in LLM Summaries via Shapley Values

通过沙普利值实现大语言模型摘要中的公平文档评估

Zikun Ye, Hema Yoganarasimhan

机构 * University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究大语言模型摘要中公平文档评估与补偿问题，提出基于沙普利值的框架，开发聚类沙普利值方法，在亚马逊产品评论数据上提升效率与准确性，且与多种因素无关，广泛适用于不同总结设置。

ProbeLogits: Kernel-Level LLM Inference Primitives for AI-Native Operating Systems

ProbeLogits：面向AI原生操作系统内核级的LLM推理原语

Daeyeon Son

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 本文提出ProbeLogits，一种在操作系统内核层面执行单次前向传递并读取特定token logit的原语，用于分类代理行为的安全性，通过校准强度alpha实现部署时的策略控制，提升安全性与效率。

Comments 18 pages, 13 tables

SkillDAG: Self-Evolving Typed Skill Graphs for LLM Skill Selection at Scale

SkillDAG：面向大规模LLM技能选择的自演化类型化技能图

Tong Bai, Zhenglin Wan, Pengfei Zhou, Xingrui Yu, Yang You, Ivor W. Tsang

机构 * Fudan University（复旦大学） ； National University of Singapore（国立新加坡大学） ； CFAR A*STAR 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出SkillDAG，通过类型化有向图建模技能间关系，并作为推理时可调用的结构化检索接口，支持在线演化，在ALFWorld和SkillsBench上显著超越基线。

Comments 19 pages, 5 figures

When Less Latent Leads to Better Relay: Information-Preserving Compression for Latent Multi-Agent LLM Collaboration

少而精的潜在信息带来更好的中继：面向潜在多智能体大语言模型协作的信息保持压缩

Yiping Li, Zhiyu An, Wan Du

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种信息保持压缩方法，通过引入正交回填机制，在减少通信开销的同时保持信息完整性，提升了多智能体大语言模型协作性能。

Capability Gates Are Not Authorization: Confused-Deputy Failures in LLM Agent Frameworks

能力门控并非授权：LLM 代理框架中的混淆代理失败

David Mellafe Zuvic

机构 * Independent Security Research（独立安全研究） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文审计了 LangChain、LlamaIndex 和 Stripe Agent Toolkit 等框架，发现它们默认仅提供能力门控而非每次调用的值授权，导致混淆代理漏洞。作者提出 ScopeGate，一个五阶段授权框架，实验证明其能有效阻止未经授权的操作。

Comments 7 pages, 3 figures, 3 tables. Artifact: https://github.com/raceksd-source/scopegate-runtime (run_proof.sh)

Depth Exploration for LLM Decoding

LLM解码的深度探索

Weisi Yang, Zipeng Sun, Stephen Xia

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出DEX算法，通过并行探索多个候选深度而非单深度选择，在保持无损解码的同时减少计算开销，优于现有深度选择方法。

EnerInfer: Energy-Aware On-Device LLM Inference

EnerInfer: 能量感知的设备端大语言模型推理

Bohua Zou, Nian Liu, Binqi Sun, Matteo Mascherin, Debayan Roy, Yutao Liu, Yu Peng, Ning Jia, Haibo Chen

机构 * Technical University of Munich（慕尼黑技术大学） ； Huawei Hilbert Research Center (Dresden)（华为希利伯特研究中心（德累斯顿）） ； Huawei Central Software Institute（华为中央软件研究所） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.LG

AI总结 针对设备端LLM推理中能量与散热瓶颈，提出EnerInfer框架，通过解耦预测与在线反馈动态调整NPU/DDR频率，在保证服务质量前提下提升能效达65%。

Executing as You Generate: Hiding Execution Latency in LLM Code Interpreters

边生成边执行：在LLM代码解释器中隐藏执行延迟

Zhensu Sun, Zhihao Lin, Zhi Chen, Chengran Yang, Mingyi Zhou, Li Li, David Lo

机构 * Singapore Management University Singapore（新加坡国立管理学院新加坡） ； Beihang University China（北航大学中国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出并行执行范式，通过将生成、检测和执行三阶段流水线化，在代码生成过程中提前执行，显著降低端到端延迟。

Comments 10 pages

When Compression Becomes an Attack Surface: Black-Box Attacks on Prompt-Compressed LLM Agents

当压缩成为攻击面：针对提示压缩的LLM智能体的黑盒攻击

Zesen Liu, Zhixiang Zhang, Yuchong Xie, Dongdong She

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出当可信与不可信输入共享压缩预算时，攻击者可通过扰动不可信输入导致压缩器丢弃关键证据或安全护栏，并设计黑盒攻击COMA，平均攻击成功率达0.71。

Beyond Uniform Tokens: Adaptive Compression for Time Series Language Models

超越统一令牌：时间序列语言模型的自适应压缩

Jialin Gan, Xin Qiu, Guangzhe Chen, Xue Wang

机构 * Zhejiang University（浙江大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； Shandong University（山东大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；foundation model(abstract)

AI总结 针对时间序列语言模型中令牌效率低的问题，提出自适应令牌预算框架，通过频域结构压缩时间序列令牌并逐层减少提示令牌，实现高达7.68倍推理加速并在78%设置中提升性能。

Apertus LLM Family Expansion via Distillation and Quantization

通过蒸馏和量化扩展 Apertus LLM 系列

Andrei Panferov, Davit Melikidze, Martin Jaggi, Dan Alistarh

机构 * LLM Family Expansion via Distillation and Quantization（LLM家族通过蒸馏和量化进行扩展） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 本文通过蒸馏和量化方法，基于 Apertus 8B 模型低成本扩展出参数高达 4B 的模型系列，覆盖多种硬件约束并保持强准确性。

Operator Fusion for LLM Inference on the Tensix Architecture

面向Tensix架构的LLM推理算子融合

Qingbo Wu, Ke Li, Wenzhu Wang, Jie Yu, Ruian Zhang, Lili Liu

机构 * KylinSoft Co., Ltd, Tianjin, China（KylinSoft有限公司，天津，中国） ； openKylin Community, Tianjin, China（openKylin社区，天津，中国） ； College of Computer Science and Technology, National University of Defense Technology, Changsha, China（计算机科学与技术学院，国防科技大学，长沙，中国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 针对Tensix架构的LLM推理瓶颈，提出RMSNorm与矩阵乘法融合的算子融合策略，利用片上SRAM和NoC多播减少DRAM读写与调度开销，在Wormhole平台上实现注意力延迟降低37.44%、MLP延迟降低15.89%，且数值一致性保持98.75%以上。

Comments 11 pages, 5 figures

Reformulate LLM Reinforcement Learning for Efficient Training under Black-box Discrepancy

重新制定LLM强化学习以在黑箱差异下高效训练

Jiashun Liu, Runze Liu, Xu Wan, Jing Liang, Hongyao Tang, Ling Pan

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Zhejiang University（浙江大学） ； Tianjin University（天津大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；post-training(abstract)；分类 cs.LG

AI总结 针对强化学习中的训练-推理差异问题，提出差异约束马尔可夫决策过程（DCMDP），通过拉格朗日松弛自适应平衡性能提升与差异控制，实现稳定高效训练。

TRADE: Transducer-Augmented Decoder for Speech LLM

TRADE: 换能器增强的语音大语言模型解码器

Yun Tang, Shanil Puri, Shinji Watanabe, Subhabrata Mukherjee

机构 * Hippocratic AI ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出TRADE模型，通过换能器分支增强多模态大语言模型，实现帧同步对齐与语言推理结合，支持流式和非流式解码，在多个基准上取得低词错误率。

Contract2Tool: Learning Preconditions and Effects for Reliable Tool-Augmented LLM Agents

Contract2Tool: 学习可靠工具增强型LLM代理的前提条件和效果

Rahul Suresh Babu, Laxmipriya Ganesh Iyer

机构 * Independent Researcher（独立研究者） ； United States of America（美国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Contract2Tool框架，从元数据、文档和执行轨迹中推断工具契约，实现因果工具过滤，在保持可靠性的同时大幅减少工具选择和token使用。

CrossVLA: Cross-Paradigm Post-Training and Inference Optimization for Vision-Language-Action Models

CrossVLA: 跨范式后训练和推理优化用于视觉-语言-动作模型

Zhi Liu

机构 * Tianjin University（天津大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；SFT(abstract,abstract_cn)；language model(abstract)；分类 cs.AI

AI总结 本文研究了视觉-语言-动作（VLA）模型的跨范式后训练方法，提出了CrossVLA框架，通过改进的连续动作流匹配估计器、对比LoRA和DoRA参数高效层的性能，并揭示了推理过程中去噪循环对延迟的影响，最终实现了在LIBERO数据集上的显著提升。

Comments Workshop draft, 14 pages, 4 figures. Code, ckpts, data: https://github.com/lz-googlefycy/vla-lab

Entropy Gate: Entropy Quenching for Near-Lossless Token Compression in LLM Pipelines

熵门：LLM流水线中用于近无损令牌压缩的熵淬火

Justice Owusu Agyemang, Jerry John Kponyo, Kwame Opuni-Boachie Obour Agyekum, Francisca Adoma Acheampong, Kwame Agyeman-Prempeh Agyekum, James Dzisi Gadze

机构 * VIA Cybersecurity Lab, Kwame Nkrumah University of Science and Technology, Kumasi, Ghana（维亚网络安全实验室，卡布雷姆大学科学与技术学院，库马西，加纳） ； Quantum and Assistive Technologies Lab, Kwame Nkrumah University of Science and Technology, Kumasi, Ghana（量子与辅助技术实验室，卡布雷姆大学科学与技术学院，库马西，加纳） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL

AI总结 提出Entropy Gate框架，通过熵淬火（一种热力学过程）逐步冻结低信息令牌，实现40-60%压缩率且语义保真度高于0.80，并证明其接近信息论极限。

From Prompt to Service: An SLM-Based Agent Orchestration Gateway for AI-Driven Virtual Worlds

从提示到服务：基于SLM的AI驱动虚拟世界代理编排网关

Louis Nisiotis, Aimilios Hadjiliasi

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 效率与部署 ：SLM(title,title_cn)；分类 cs.AI

AI总结 本文提出一种基于小语言模型的代理编排网关，通过意图驱动的服务路由解耦虚拟世界客户端与异构AI后端，并在虚拟博物馆测试床中验证了其可行性和效率。

DECA: Decentralizing Block-Wise Adam for Efficient LLM Full-Parameter Fine-Tuning on Non-IID Data

DECA: 去中心化逐块Adam优化器用于非独立同分布数据上的高效大语言模型全参数微调

Yunsheng Yuan, Shaowei Li, Kai Wang, Zhongyuan Sun, Zheng Zhang, Kai Han, Jun Luo, Feng Li

机构 * School of Computer Science and Technology, Shandong University, Qingdao China（山东大学计算机科学与技术学院，青岛中国） ； School of Mathematical Science, Peking University, China（北京大学数学科学学院，中国） ； IEIT SYSTEM, China（IEIT SYSTEM，中国） ； School of Computer Science and Artificial Intelligence, Shanghai University of Finance and Economics, Shanghai, China（上海财经大学计算机科学与人工智能学院，上海中国） ； College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算与数据科学学院，新加坡） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对隐私敏感和资源受限环境中的大语言模型微调，提出DECA框架，通过逐块Adam优化和去中心化共识机制，在非独立同分布数据上实现高效的全参数微调，兼顾收敛速度、下游性能和资源效率。

CRePE: Convolution-aware Relative Importance in Post-training Pruning with Efficient Search

CRePE: 后训练剪枝中基于卷积感知的相对重要性及高效搜索

Cheonjun Park

机构 * Hankuk University of Foreign Studies（韩国家外国语大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出CRePE方法，通过引入二维局部邻域上下文和自适应系数改进相对重要性评分，结合PHO代理优化实现高效后训练剪枝，在多种模型和稀疏度下取得最优性能。

Comments 10 pages

Memory-Bound but Not Bandwidth-Limited: The Physical AI Inference Gap in Batch-1 LLM Decode

受限于内存但不受限于带宽：批量1的LLM解码中的物理AI推理差距

Josef Chen

机构 * KAIKAKU（卡伊卡普） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文通过测量不同GPU上批量1的自回归解码性能，发现物理AI推理并非仅受内存带宽限制，还受启动开销影响，并指出量化路径的实际收益取决于运行时实现。

Modularizing Educational LLM-Agency for Fostering Responsible Learning Assistance

模块化教育大语言模型代理以促进负责任的学习辅助

Julius Gabelmann, Felix Jahn, Kevin Baum, Sophie van Rossum, Emely Wuenscher, Timo P. Gros, Verena Wolf

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； Saarland Informatics Campus, Germany（萨尔兰州信息学校区，德国） ； Center for European Research in Trusted AI (CERTAIN)（可信人工智能欧洲研究中心（CERTAIN）） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种模块化代理架构的AI聊天机器人，通过分阶段指导练习解决，融入针对性教学建议，实现更可控、透明和可监督的学习过程，促进教育中负责任的AI使用。

Comments 12 pages, 2 figures (+ 2 in appendix), accepted at AISoLA 2025 (Track: Responsible and Trusted AI: An Interdisciplinary Perspective)

Aligned but Fragile: Enhancing LLM Safety Robustness via Zeroth-Order Optimization

对齐但脆弱：通过零阶优化增强LLM安全鲁棒性

Zhihao Liu, Yifan Wu, Jian Lou, Di Wang, Yuxi Zhou, Yuke Hu

机构 * The State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高科技园区（滨江）区块链与数据安全研究院） ； Sun Yat-sen University（中山大学） ； KAUST（卡塔尔大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对大语言模型安全对齐后易受轻量级后处理（如参数噪声、激活噪声或量化）影响的问题，提出基于零阶优化的混合框架，通过先标准一阶安全对齐再零阶精炼提升鲁棒性，并利用扰动评估估计层鲁棒性敏感性以高效聚焦关键层更新。