arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-07-20 至 2026-07-20 共收录 41 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 41 篇

2607.15297 2026-07-20 eess.IV cs.MM 新提交 92%

Large Language Model-Enhanced Multi-hop Parallel Image Semantic Communication

大语言模型增强的多跳并行图像语义通信

Bingyan Xie, Jihong Park, Rui Mao, Longyu Zhou, Tianhao Liang, Yongpeng Wu, Wenjun Zhang

专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(title,abstract);language model(title,abstract)

AI总结 研究提出LLM-MHPSC框架减轻多跳无线图像传输失真累积,设计粗到细残余压缩方案,开发LLM-RTO并提出自适应跳选择策略,实验表明其优于现有方案,为多跳语义通信应用提供灵活有效解决方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.01875 2026-07-20 cs.CL cs.AI cs.LG 版本更新 91%

KDFlow: A User-Friendly and Efficient Knowledge Distillation Framework for Large Language Models

KDFlow:一种用户友好且高效的大型语言模型知识蒸馏框架

Songming Zhang, Xue Zhang, Tong Zhang, Bojie Hu, Yufeng Chen, Jinan Xu

机构 * Key Laboratory of Big Data & Artificial Intelligence in Transportation, (Beijing Jiaotong University), Ministry of Education(大数据与人工智能交通运输联合实验室,(北京交通大学)教育部) School of Computer Science and Technology, Beijing Jiaotong University, Beijing, China(计算机科学与技术学院,北京交通大学,北京,中国) Tencent Inc, China(腾讯公司,中国)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 KDFlow通过解耦架构和SGLang实现高效蒸馏,平衡通信成本与性能,实现1.44至6.36倍加速。

Comments 9 pages, 4 figures, 4 tables, code is available at: https://github.com/songmzhang/KDFlow

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.07019 2026-07-20 stat.ME cs.AI stat.AP stat.ML 版本更新 89%

Latency-Response Theory Model: Evaluating Large Language Models via Response Accuracy and Chain-of-Thought Length

延迟-响应理论模型:通过响应准确性和思维链长度评估大语言模型

Zhiyu Xu, Jia Liu, Yixin Wang, Yuqi Gu

机构 * Department of Statistics, Columbia University(哥伦比亚大学统计系) Department of Statistics, University of Michigan(密歇根大学统计系)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.AI

AI总结 针对大语言模型评估问题,提出延迟-响应理论(LaRT)模型,联合考虑响应准确性和思维链长度,通过引入关键参数建模,推导高效算法估计参数,经理论和模拟研究验证其优势,实际数据评估中表现优于项目反应理论(IRT)。

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.18531 2026-07-20 cs.AI cs.CL cs.LG 89%

Enhancing Hepatopathy Clinical Trial Efficiency: A Secure, Large Language Model-Powered Pre-Screening Pipeline

提升肝病临床试验效率:一种安全的、基于大语言模型的预筛选流程

Xiongbin Gui, Hanlin Lv, Xiao Wang, Longting Lv, Yi Xiao, Lei Wang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种基于大语言模型的安全预筛选流程,通过两种策略提升肝病临床试验的效率与精度。

Comments 30 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15937 2026-07-20 cs.CR cs.SE 新提交 88%

The Language of Security: How Prompt Syntax Shapes Secure Code Generation in Open LLMs

安全语言:提示语法如何塑造开放语言模型中的安全代码生成

Matteo Cicalese, Antonio Della Porta, Stefano Lambiase, Emanuele Iannone, Torge Hinrichs, Riccardo Scandariato, Fabio Palomba

专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);prompting(abstract)

AI总结 研究开放语言模型中提示语法对安全代码生成的影响,采用解析器驱动方法生成句法变体并评估,发现特定句法元素及其位置影响代码安全性,为降低LLM辅助开发漏洞风险提供指导。

Comments Accepted at ICSME 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.05782 2026-07-20 cs.SE 版本更新 86%

When Models Meet Users: An Empirical Study of Perceptions of General LLMs and Multimodal LLMs on Hugging Face

对Hugging Face上通用大语言模型和多模态大语言模型感知的实证研究

Yujian Liu, Xiao Yu, Jacky Keung, Xing Hu, Xin Xia, Xiaoxue Ma

专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract)

AI总结 本文通过分析Hugging Face上662条讨论帖,揭示用户对LLM的主要关注点,包括访问障碍、生成质量及部署复杂性,并提出改进LLM生态系统的建议。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.16184 2026-07-20 cs.LG 新提交 85%

PagedWeight: Efficient MoE LLM Serving with Dynamic Quality-Aware Weight Quantization

PagedWeight:通过动态质量感知权重量化实现高效的混合专家语言模型服务

Yuchen Yang, Yifan Zhao, Anisha Dasgupta, Sasa Misailovic

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 研究KV缓存密集场景下MoE模型权重与缓存的矛盾,提出PagedWeight方法,通过动态量化权重平衡精度与缓存大小,在多个内存敏感场景中改进质量-内存权衡,实现高精度、高内存节省及吞吐量提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15525 2026-07-20 cs.LG cs.AI 新提交 85%

Kolmogorov--Arnold Networks for Small Language Models

用于小型语言模型的柯尔莫哥洛夫-阿诺德网络

Felippe Alves, Renato Vicente

专题命中 效率与部署 :language model(title);small language model(title);分类 cs.AI、cs.LG

AI总结 研究探讨柯尔莫哥洛夫-阿诺德网络(KANs)能否替代变压器前馈网络。通过在特定KAN中重建边缘、修剪等测试其特性,还评估多种网络在BabyLM等上的表现。结果表明小基KANs可用于审计标量变换,但替代方案未展现优于MLP基线的一致优势。

Comments 30 pages, 11 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.17723 2026-07-20 q-fin.GN 版本更新 83%

LR-Robot: A Unified Supervised Intelligent Framework for Real-Time Systematic Literature Reviews with Large Language Models

LR-Robot:一种结合大语言模型的实时系统性文献综述统一监督智能框架

Wei Wei, Jin Zheng, Zining Wang

专题命中 效率与部署 :large language model(title);language model(title)

AI总结 本文提出LR-Robot框架,结合AI与专家监督,实现系统性文献综述的多维分类、关系映射和细粒度主题演化分析,通过期权定价案例展示其在文献综合中的应用与效果。

Comments I've uploaded an updated paper and now it's already on arXiv (arXiv:2604.14793)

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15655 2026-07-20 cs.CL cs.LG 新提交 81%

Adaptive Multi-Step Lookahead Decoding for Diffusion Language Models

扩散语言模型的自适应多步前瞻解码

Yingqian Cui, Wei Deng, Lantao Mei, Hang Li, Charu C. Aggarwal, Hui Liu, Yue Xing

机构 * Michigan State University(密歇根州立大学) Morgan Stanley(摩根士丹利) IBM T.J. Watson Research Center(IBM 托马斯·J·沃森研究中心)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL、cs.LG

AI总结 研究针对扩散语言模型解码,提出自适应多步前瞻框架AdaLook,基于候选分数方差动态决定是否继续展开及进行分支扩展,避免不必要的深度展开,实验证明其在准确性和解码步骤权衡上优于现有一步前瞻解码方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15593 2026-07-20 cs.DC cs.AI cs.NI 新提交 79%

Scalable LLM Agent Tool Access in the Cloud

云中可扩展的大语言模型智能体工具访问

Mingxin Li, Enge Song, Yueshang Zuo, Xiaodong Liu, Rong Wen, Qiang Fu, Gianni Antichi, Jian He, Jing Tie, Zhou Shao, Xiaobo Xue, Xiong Xiao, Luyao Zhong, Shaokai Zhang, Jiangu Zhao, Jianyuan Lu, Shize Zhang, Xiaoqing Sun, Changgang Zheng, Zihao Fan, Haonan Li, Tian Pan, Xiaomin Wu, Yang Song, Xing Li, Biao Lyu, Meng Li, Haipeng Dai, Guihai Chen, Shunmin Zhu

机构 * Nanjing University(南京大学) Alibaba Cloud(阿里云) Fudan University(复旦大学) RMIT University(皇家墨尔本理工大学) Politecnico di Milano(米兰理工学院) Zhejiang University(浙江大学)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 研究大语言模型智能体在云环境下工具访问问题,提出云规模网关系统,通过打破直接连接模型等整合多种功能,实现高召回率、扩展工具访问数量、提高准确性并减少时间和令牌使用量,还分享了部署经验。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15640 2026-07-20 stat.AP 新提交 78%

LLM Latent Edge Measurement: Point-in-Time Economic Graphs for Quantitative Investing from Corporate Disclosures

大语言模型潜在边缘测量:基于公司披露的定量投资实时经济图谱

Fan Yang, Lin Zhang

专题命中 效率与部署 :LLM(title,abstract)

AI总结 研究从公司披露文本构建公司网络,提出基于大语言模型的流程,应用于纳斯达克100指数成份股公司文件,生成含149条边的网络,经审计确认部分边有效,恢复跨行业关系,消融研究表明相关方法对网络质量有贡献。

Comments 9 pages, 4 figures and 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15556 2026-07-20 cs.CV 新提交 78%

When Can Test-Time Adaptation Help Zero-Shot CT Vision-Language Models?

测试时自适应何时能帮助零样本CT视觉语言模型?

Ailar Mahdizadeh, Puria Azadi Moghadam, Xiangteng He, Leonid Sigal

机构 * University of British Columbia(英属哥伦比亚大学) Vector Institute(向量研究所)

专题命中 效率与部署 :language model(title,abstract)

AI总结 研究零样本3D CT视觉语言模型中测试时自适应(TTA)的作用,通过控制诊断分析表明其具有条件性,引入CARVE方法,在基础模型有判别力时能带来一致改进,确立多标签TTA问题及CARVE为基数感知解决方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.18929 2026-07-20 cs.CV 版本更新 78%

On the Role of Depth in Surgical Vision Foundation Models: An Empirical Study of RGB-D Pre-training

在手术视觉基础模型中深度的作用:一项关于RGB-D预训练的实证研究

John J. Han, Adam Schmidt, Muhammad Abdullah Jamal, Chinedu Nwoye, Anita Rau, Jie Ying Wu, Omid Mohareri

机构 * Vanderbilt University(范德比尔大学) Intuitive Surgical Inc.(Intuitive Surgical公司)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 本研究通过比较不同预训练方法,发现几何感知的多模态预训练能显著提升手术视觉模型的性能,且无需改变推理架构。

Comments Inaccurate findings

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.16100 2026-07-20 cs.DC 新提交 75%

Every Microsecond Matters: Achieving Near Speed-of-Light Latency in GPU Collectives

每微秒都至关重要:在GPU集合通信中实现接近光速的延迟

Siyuan Shen, Anton Korzh, John Bachan, Tiancheng Chen, Arnav Goel, Ludwig Schneider, Pouya Kousha, Zhenhao He, Sylvain Jeaugey, Kamil Iskra, Nishank Chandawala, Jeff R. Hammond, Torsten Hoefler

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 研究在扩展网络中使GPU集合通信接近硬件光速下限的方法,确定关键原则,基于NCCL开发低延迟接口实现新对称集合,微基准测试和实际应用表明能降低延迟、提升吞吐量,对AI推理和传统HPC工作负载有益。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.16370 2026-07-20 cs.CL cs.AI cs.CV 版本更新 73%

Brain-CLIPLM: Semantic Compression for EEG-to-Text Decoding

Brain-CLIPLM: 用于EEG到文本解码的语义压缩

Xiaoli Yang, Huiyuan Tian, Yurui Li, Jianyu Zhang, Shijian Li, Gang Pan

机构 * Beijing Institute of Technology, Beijing, China(北京理工大学,北京,中国)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 该研究提出Brain-CLIPLM框架,通过语义锚点恢复和锚点引导的句子重建,解决EEG信号低信噪比和信息带宽限制的问题,实现了更高的文本检索准确率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15810 2026-07-20 cs.LG 新提交 70%

QUADS: Stabilizing NVFP4 Reinforcement Learning for MoE via QUantization-error Alignment across Dual Sides

QUADS:通过双边量化误差对齐稳定用于专家混合模型的NVFP4强化学习

Zhengyang Zhuge, Hao Yu, Xin Wang, Zheng Li, Yizhong Cao, Dayiheng Liu, Jianwei Zhang

机构 * Alibaba Inc(阿里巴巴公司)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 研究针对MoE大语言模型RL中展开生成瓶颈,提出QUADS方法。通过训练 - 推理误差分析确定激活误差是FP4 RL不稳定主因,在训练器和展开侧分别采取措施,实现BF16精度,提升指标并提高展开吞吐量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15621 2026-07-20 cs.RO cs.AI 新提交 70%

Think at 5 Hz, Act at 20 Hz: Asynchronous Fast-Slow Vision-Language-Action Inference for Closed-Loop Driving

以5Hz思考,20Hz行动:用于闭环驾驶的异步快慢视觉-语言-动作推理

Yun Li, Jiachen Gong, Simon Thompson, Ehsan Javanmardi, Qunli Zhang, Zifan Zeng, Shiming Liu, Peng Wang, Zixuan Guo, Manabu Tsukada

机构 * The University of Tokyo(东京大学) TIER IV, Inc.(TIER IV公司) Huawei(华为)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 研究针对大语言模型用于闭环驾驶时推理延迟与车辆控制速率冲突的问题,提出快慢架构,慢系统用冻结主干处理历史,快专家基于缓存和当前帧回归航路点,经训练在CARLA上提升路线完成率,降低误差且可零样本转移。

Comments 13 pages, 5 figures, 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15467 2026-07-20 cs.LG cs.CR 新提交 70%

ADS-C: Antidistillation Sampling for Classification

ADS-C:用于分类的反蒸馏采样

Khawaja Abaid Ullah, Mohammad Javad Khojasteh

机构 * Rochester Institute of Technology(罗彻斯特理工学院)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 研究针对知识蒸馏中对手复制专有分类器的问题,提出ADS-C方法,通过在闭式的每个输入边际预算下构成扰动,保留服务的top-1预测,使防御后教师模型准确率不变,且效用成本为零,有效抵御对手蒸馏,降低学生模型性能损失。

Comments 20 pages, 28 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.09172 2026-07-20 cs.SE cs.AI cs.PF 版本更新 70%

Attention to Detail: Evaluating Energy, Performance, and Accuracy Trade-offs Across vLLM Configurations

关注细节:评估跨vLLM配置的能量、性能和准确性权衡

Nada Zine, Tristan Coignion, Vincenzo Stoico, Clément Quinton, Ivano Malavolta, Romain Rouvoy, Patricia Lago

机构 * Univ. Lille, CNRS, Inria(里尔大学、国家科学研究中心、法国国家信息与自动化研究所) Univ. Bordeaux, CNRS, LaBRI(波尔多大学、国家科学研究中心、LaBRI) Univ. Lille, CNRS, Inria, IUF(里尔大学、国家科学研究中心、法国国家信息与自动化研究所、国际大学联盟)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 研究针对vLLM的注意力内核类型、前缀缓存和分块预填充三个配置选项,在多种语言模型和推理任务中进行大规模评估,分析其对能耗、性能和准确性的影响,发现配置选项影响显著且因模型和工作负载而异,模型选择主导全局,配置调整提供局部改进。

Comments Submitted at a conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00588 2026-07-20 cs.LG cs.NE 70%

Energy-Efficient Information Representation in MNIST Classification Using Biologically Inspired Learning

在MNIST分类中使用生物启发式学习实现节能信息表示

Patrick Stricker, Florian Röhrbein, Andreas Knoblauch

机构 * KEIM Institute, Albstadt-Sigmaringen University, Germany(凯姆研究所,阿尔布施塔特-西格马林根大学,德国) Department of Computer Science, Chemnitz University of Technology, Germany(计算机科学系,化学工业大学,德国)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出了一种生物启发式学习规则,用于在MNIST分类中实现高效节能的信息表示,通过优化突触使用减少冗余,提升模型效率和适应性。

Comments 14 pages, accepted for publication in proceedings of the 10th BWHPC Symposium

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15689 2026-07-20 cs.CV 新提交 67%

Efficient Frame Selection for Long Videos at Test Time with Attention-Based MLLM Selectors

基于注意力的MLLM选择器在测试时对长视频进行高效帧选择

Yilin Wang, Xiangxi Zheng, Dongxing Mao, Linjie Li, Zhengyuan Yang, Ping Yu, Rui Yan, Yuan Yao, Alex Jinpeng Wang

机构 * ZJU(浙江大学) NJU(南京大学) CSU(中南大学) Microsoft(微软公司) NJUST(南京理工大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 研究利用MLLMs中验证选择提取层的跨模态注意力构建无训练的DAFS帧选择器,通过查询条件聚合提取帧级证据,将候选池大小和每帧令牌预算联合分配问题用动态规划解决,在Video-MME上表现出色,且无需重新训练即可跨多种模型和任务泛化。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15576 2026-07-20 cs.DB cs.IR 新提交 67%

Efficient and Effective In-place Graph-based Vector Index Updates

高效且有效的基于图的向量索引就地更新

Haotian Liu, Yujun He, Bo Tang

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 大语言模型时代面临高效向量更新难题,本文提出Yi,通过分解促进合并思想及任务执行引擎等三个核心组件,实现基于图的向量索引就地高效更新,实验显示其在更新吞吐量等方面优于现有系统。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.16127 2026-07-20 physics.comp-ph cs.SE 新提交 67%

CADAQUES: A Cost-Aware Dual Architecture for Query-Efficient Autonomous Discovery

CADAQUES:用于高效查询自主发现的成本感知双架构

Jorge Bravo-Abad

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 研究自主发现系统,提出开源框架CADAQUES,基于成本是发现循环一级原语的原则,将循环分为预言机和驱动程序,按通用预算收费并记录成本差异,通过定位二维伊辛模型临界温度评估,效果良好且计量成本低。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27350 2026-07-20 cs.AR 版本更新 67%

CHIA: An open-source framework for principled, agentic AI-driven hardware/software co-design research

CHIA: 一个用于原则性、智能体AI驱动的硬件/软件协同设计研究的开源框架

Angela Cui, Ferran Hermida-Rivera, Jack Toubes, Raghav Gupta, Jim Fang, Chengyi Lux Zhang, Ella Schwarz, Junha Kim, Yakun Sophia Shao, Borivoje Nikolic, Christopher W. Fletcher, Sagar Karandikar

专题命中 效率与部署 :LLM(abstract,abstract_cn)

AI总结 提出CHIA开源框架,通过有向循环图表达智能体AI驱动的协同设计流程,支持多种工具集成,实现可扩展、容错的大规模协同设计研究。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17222 2026-07-20 cs.CR 版本更新 67%

Triple-Hoisted Baby-Step Giant-Step Linear Transformation over CKKS Homomorphic Encryption and Hardware Accelerator

三重提升的Baby-Step Giant-Step线性变换在CKKS同态加密与硬件加速器上

Sajjad Akherati, Xinmiao Zhang

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种三重提升的Baby-Step Giant-Step算法,用于减少CKKS同态加密中线性变换所需的密文旋转次数,并设计了优化的FPGA硬件加速器以降低离芯片内存访问和计算延迟。

Comments 11 pages, 6 figures, 7 tables, 34 refrences, and journal paper

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.20147 2026-07-20 cs.SE 版本更新 67%

Not All Tokens Matter: Data-Centric Optimization for Efficient Code Summarization

并非所有标记都重要:面向高效代码摘要的数据导向优化

Saima Afrin, Zaiyu Cheng, Tushar Sharma, Alexander Serebrenik, Massimiliano Di Penta, Antonio Mastropaolo

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 本研究探讨了系统提示对代码生成任务中ILMs和CLMs性能的影响,发现模型规模越大影响越显著,少样本提示效果优于零样本提示,且Java对提示变化更敏感。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.16133 2026-07-20 cs.LG cs.AI 新提交 62%

When Do Multi-Agent Systems Help? An Information Bottleneck Perspective

多智能体系统何时发挥作用?信息瓶颈视角

Wendi Yu, Lianhao Zhou, Xiangjue Dong, Sai Sudarshan Barath, Declan Staunton, Byung-Jun Yoon, Xiaoning Qian, James Caverlee, Shuiwang Ji

机构 * Texas A&M University(德克萨斯A&M大学) Brookhaven National Laboratory(布鲁克海文国家实验室)

专题命中 效率与部署 :LLM(abstract);分类 cs.AI、cs.LG

AI总结 研究从信息瓶颈视角探讨多智能体系统(MAS)与单智能体系统(SAS)差异,指出MAS优势在有限中继时因压缩权衡产生,由参数β控制,通过实验验证,解释了有限智能体间通信何时有利有害。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.26556 2026-07-20 cs.CL cs.AI 版本更新 62%

When Perplexity Lies: Generation-Focused Distillation of Hybrid Sequence Models

当困惑度谎言:面向生成的混合序列模型蒸馏

Juan Gabriel Kostelec, Qinghai Guo

机构 * Huawei Zurich Research Center(华为苏黎世研究中心) ACS Lab, Huawei Technologies(华为技术有限公司ACS实验室)

专题命中 效率与部署 :post-training(abstract);分类 cs.CL、cs.AI

AI总结 本文提出Hybrid-KDA架构与GenDistill蒸馏流程,通过生成导向评估揭示传统困惑度评估的局限性,并展示改进后的模型在知识基准上的高准确率与内存效率提升。

Comments 13 pages, 4 figures, 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.15927 2026-07-20 cs.LG cs.AI 版本更新 62%

DiffuMamba: High-Throughput Diffusion LMs with Mamba Backbone

DiffuMamba:基于Mamba架构的高吞吐量扩散语言模型

Vaibhav Singh, Oleksiy Ostapenko, Pierre-André Noël, Eugene Belilovsky, Torsten Scholak

机构 * ServiceNow Research, Montreal, Canada(ServiceNow研究机构,加拿大蒙特利尔) Concordia University(Concordia大学)

专题命中 效率与部署 :language model(abstract);分类 cs.AI、cs.LG

AI总结 DiffuMamba基于Mamba架构,通过结合扩散目标与线性序列建模,实现了高吞吐量的扩散语言模型,在长序列任务中表现出色。

Comments 9 pages, 3 figures

详情

展开后加载摘要…

URL PDF HTML 收藏