arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-18 至 2026-08-18 共收录 661 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 116 篇

2602.19310 2026-08-18 eess.SY cs.SY 版本更新 86%

Can Carbon-Aware Data Center Workload Allocation Reduce Power System Emissions? The Role of Contract Reshuffling

具有超大规模计算中心和模块化数据中心的电力市场模型

Yihsu Chen, Abel Souza, Fargol Nematkhah, Andrew L. Liu

专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract)

AI总结 本文提出了一种电力市场模型,允许超大规模计算中心将LLM推理任务迁移到地理分布的模块化数据中心,以优化能源利用和减少排放。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15567 2026-08-18 cs.LG 新提交 85%

SchurQuant: Groupwise Discrete Optimization for Layer-Wise LLM Quantization

SchurQuant:面向层大型语言模型量化的分组离散优化

Gunjun Lee, Sehwan Son, Younjoo Lee, Byungjun Kim, Jung Ho Ahn

专题命中 效率与部署 :LLM(title);large language model(abstract);language model(abstract);post-training(abstract)

AI总结 SchurQuant结合SCHUROPT与多种技术,在8个Llama和Qwen模型的2位量化任务中,使无反向传播PTQ的平均零样本精度比最强基线高9.65pp,提升了2位大语言模型量化的精度。

Comments 14 pages, 6 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15282 2026-08-18 cs.LG cs.CV physics.bio-ph 新提交 85%

Earth Observation Foundation Models for Terrestrial Ecohydrology: From Representation Learning to Process Inference

面向陆地生态水文学的地球观测基础模型:从表示学习到过程推理

Yi Yu, Jian Peng, Yucheng Lin, Trevor F. Keenan, Thomas F. A. Bishop

机构 * The University of Sydney(悉尼大学) Helmholtz Centre for Environmental Research–UFZ(亥姆霍兹环境研究中心) Leipzig University(莱比锡大学) City University of Hong Kong(香港城市大学) University of California, Berkeley(加州大学伯克利分校) Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)

专题命中 效率与部署 :foundation model(title,abstract);pretraining(abstract);分类 cs.LG

AI总结 该研究构建框架分析EOFM在生态水文学中的应用,发现其与生态水文学需求存在不匹配,推动建立过程感知框架以支撑对水、能量与碳耦合动态的可信监测与解释。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.02830 2026-08-18 cs.CL cs.AI 版本更新 85%

Faster, Cheaper, More Accurate: Specialised Knowledge Tracing Models Outperform LLMs

更快、更便宜、更准确:专门知识追踪模型超越大语言模型

Prarthana Bhattacharyya, Joshua Mitton, Ralph Abboud, Simon Woodhead

机构 * Prarthana Bhattacharyya(普拉塔拉·巴特查利亚) Joshua Mitton(乔舒亚·米顿) Ralph Abboud(拉尔夫·阿布德) Simon Woodhead(西蒙·伍德赫德)

专题命中 效率与部署 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文比较了多种LLM和KT模型在预测性能、部署成本和推理速度上的表现,发现领域特定的KT模型在准确性上优于LLM。

Comments Published as Poster at EDM 2026. Link: https://educationaldatamining.org/edm2026/proceedings/2026.EDM.poster-demo-papers.379/2026.EDM.poster-demo-papers.379.pdf. 7 pages, 6 figures. Prarthana Bhattacharyya and Joshua Mitton contributed equally to this work

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15171 2026-08-18 cs.DC 新提交 85%

P-PAS: Prefill-Pressure Adaptive Scheduling for Long-Context LLM Serving

P-PAS:面向长上下文大语言模型服务的预填充压力自适应调度

Timo Sämann

专题命中 效率与部署 :LLM(title,summary_cn)

AI总结 针对长上下文LLM服务中静态最大批处理令牌数(MBT)无法适配不同调度压力的问题,提出P-PAS动态调度策略,可在各类负载下维持低延迟,避免固定MBT的局限。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07918 2026-08-18 cs.LG cs.AI cs.CL cs.CR 版本更新 85%

Efficient Safety Alignment of Language Models via Latent Personality Traits

通过潜在人格特质实现语言模型的高效安全对齐

Mohamed Amine Merzouk, Nolan Smyth, Damiano Fornasiere, Linh Le, David Williams-King, Adam Oberman

机构 * Mila, Quebec AI Institute(米拉,魁北克人工智能研究所) McGill University(麦吉尔大学) LawZero Université de Montréal(蒙特利尔大学)

专题命中 效率与部署 :language model(title,abstract);large language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究针对大语言模型安全方法易受攻击问题,提出潜在人格对齐(LPA)方法,基于66条陈述训练,通过假设人格表征与避害共享结构,实现高攻击成功率、轻量级训练及良好泛化性。

Comments 19 pages, 6 figures. Published as a conference paper at COLM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16647 2026-08-18 cs.CL 新提交 84%

Every Coin Has Two Sides: On the Dual Nature of Generalization in On-Policy Distillation of Large Language Models

硬币皆有两面:关于大型语言模型的策略内蒸馏中泛化的双重性质

Zhaoyi Li, Deyang Kong, Yuan Wei, Evan Yang, Ranran Shen, Mahardika Krisna Ihsani, Ming Yang, Wei Zhang, Chuan Hao, Jian Yang, Ran Tao, Bryan Dai, Shikun Zhang, Wei Ye, Ying Wei, Defu Lian

机构 * University of Science and Technology of China(中国科学技术大学) Peking University(北京大学) IQuest Research(IQuest研究院) MBZUAI(穆罕默德·本·扎耶德人工智能大学) Zhejiang University(浙江大学)

专题命中 效率与部署 :large language model(title);language model(title);分类 cs.CL

AI总结 本研究探究大型语言模型策略内蒸馏(OPD)的泛化特性,发现其迁移教师推理行为而非答案,同源配对泛化性强,异源配对适配性有限,多教师组合存在能力跷跷板效应,为诊断多教师OPD提供了视角。

Comments Under Review

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15614 2026-08-18 cs.CV cs.AI 新提交 83%

EgoGazeLite: On-Device Egocentric Gaze Prediction for Token-Efficient Multimodal LLM Video Input

EgoGazeLite:面向 token 高效多模态大语言模型视频输入的设备内自我中心注视预测

Matteo Stoiber, Niels Buus Lassen

机构 * Copenhagen Business School(哥本哈根商学院)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 EgoGazeLite 是轻量双进程注视预测器,可在消费级硬件上实时运行,无需眼动追踪硬件即可实现 token 高效的自我中心视频理解,性能与真实注视裁剪无显著差异。

Comments 16 pages. Accepted at the WearableAI Workshop, ECCV 2026 (Archival Track)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15299 2026-08-18 cs.LG cs.AI 新提交 82%

MAPLE: MoE Adaptive Plug-and-play Layer-wise Expert allocation

MAPLE:MoE自适应即插即用分层专家分配

Lie Li, Wen Li, Junxiao Shen, Gusheng Hu

机构 * University of Bristol(布里斯托尔大学)

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.AI、cs.LG

AI总结 MAPLE是一种即插即用框架,可在不修改预训练MoE LLM权重或重新训练的情况下,异质性分配专家预算,在75%预算下超越基线,降低延迟并提升吞吐量,同时提升多项任务准确率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15117 2026-08-18 cs.AI cs.DC cs.LG 新提交 82%

Anatomy of a Quantized Agent: VRAM Stability and Forecasting in Code-Synthesis Agentic Workloads

量化智能体剖析:代码合成智能体工作负载中的VRAM稳定性与预测

Anubhab Banerjee

机构 * Nokia Germany(诺基亚德国)

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.AI、cs.LG

AI总结 该研究针对基于LangGraph的AgentK智能体,在1920条轨迹上评估量化LLM的VRAM消耗,提出闭式峰值内存预测模型,发现编译成功率受LLM容量限制,且无需复杂VRAM预测模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.14104 2026-08-18 cs.CV 版本更新 82%

CSMoE: An Efficient Remote Sensing Foundation Model with Soft Mixture-of-Experts

CSMoE:一种基于软混合专家(MoE)的高效遥感基础模型

Leonard Hackel, Tom Burgert, Begüm Demir

机构 * Berlin Institute for the Foundations of Learning and Data (BIFOLD)(柏林学习与数据基础研究院) Technische Universität Berlin(柏林技术大学)

专题命中 效率与部署 :foundation model(title,abstract);pretraining(abstract)

AI总结 该研究针对现有遥感基础模型计算复杂度高、表征能力或数据效率不足的问题,提出基于软混合专家机制的CSMoE模型及主题-气候描述符采样策略,在多任务上性能相当且浮点运算量显著降低。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16411 2026-08-18 cs.SE cs.AI 新提交 81%

Towards Risk-free AI Agent Deployment

迈向无风险的AI智能体部署

Yintong Huo, Rangeet Pan, Abhik Roychoudhury

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.AI

AI总结 针对LLM智能体部署的安全、合规等风险,本文提出以智能体轨迹为基础,将测试与调试作为系统性研究方向,提炼部署就绪检查表并指出需解决的开放性问题,推动可信智能体部署。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15817 2026-08-18 cs.AI 新提交 81%

RLCascadeRouter: Quality-Estimator-Free Cascade Routing via Reinforcement Learning

RLCascadeRouter:基于强化学习的无质量估计器级联路由

Shihong Huang, Shengjie Wang, Hong Ma, Zhou Xu

机构 * Polytechnic Institute, Zhejiang University(浙江大学理工学院) The Hong Kong Polytechnic University(香港理工大学)

专题命中 效率与部署 :LLM(summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 该研究针对LLM路由的灵活性问题,提出RLCascadeRouter框架,将级联路由建模为马尔可夫决策过程,无需质量估计器,在LLMRouterBench基准上实现了更优的性能-成本权衡,且可纳入未见模型无需重训。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15762 2026-08-18 cs.OS cs.DC cs.LG 新提交 81%

Global Simulation-Guided Dynamic Operator Scheduling for Efficient Multi-Tenant Model Serving

面向高效多租户模型服务的全局仿真引导型动态算子调度

Weinan Liu, Zeyuan Ding, Dian Ding, Chengcheng Wan, Lu Tang, Guangtao Xue, Jiwu Shu, Yiming Zhang

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.LG

AI总结 本文提出SliceScheduler系统,通过全局映射图、全局仿真器等组件实现算子级调度,在维持SLA违规率低于9%的同时,将多租户LLM服务的令牌吞吐量提升1.10-2.29倍,有效提高GPU利用率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15369 2026-08-18 cs.SD cs.AI cs.CR 新提交 81%

AudioTQ: A Data-Oblivious 6-Bit CPU Audio Codec via Randomized Hadamard Rotation and Lloyd-Max Quantization

AudioTQ:一种基于随机哈达玛旋转与劳埃德-麦克斯韦量化的无数据感知6位CPU音频编解码器

Sahil Gangurde

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出AudioTQ,一种基于随机哈达玛旋转与劳埃德-麦克斯韦量化的6位CPU时域音频编解码器,无需硬件加速即可实现实时执行,可将音频文件大小缩减74.4%,SQNR约30 dB。

Comments 8 pages, 1 figure, 1 table. Code is available at https://github.com/lostmartian/audioTQ

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14624 2026-08-18 cs.AI 新提交 81%

Learning Agent Execution for KV-Cache Management in Agentic Serving

面向智能体服务的KV缓存管理的智能体执行学习

Rui Zhang, Chaeeun Kim, Shaoting Feng, Kuntai Du, Yuhan Liu, Yi Zhong, Cheng-Wei Ching, Junchen Jiang, Liting Hu

机构 * University of California, Santa Cruz(加州大学圣克鲁兹分校) University of Washington(华盛顿大学) University of Chicago(芝加哥大学)

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.AI

AI总结 针对多智能体LLM服务中KV缓存复用不足的问题,提出CacheScout,通过在线学习智能体执行转换优化缓存管理,显著提升缓存命中率、降低延迟并提高吞吐量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21351 2026-08-18 cs.LG cs.AI 版本更新 81%

Analytical Provisioning for Attention-FFN Disaggregated LLM Serving under Stochastic Workloads

注意力-前馈网络解耦大语言模型服务的分析资源配置

Chendong Song, Meixuan Wang, Hang Zhou, Hong Liang, Yuan Lyu, Zixi Chen, Yuwei Fan, Zijie Zhou

机构 * Dept. of Industrial Engineering and Decision Analytics HKUST(工业工程与决策分析系香港科技大学) Dept. of Computer Science and Technology Tsinghua University(计算机科学与技术系清华大学) IIIS Tsinghua University(清华大学信息学院) Huawei Hong Kong Research Center(华为香港研发中心) School of Mathematical Sciences Peking University(北京大学数学科学学院)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出在随机负载下,针对注意力-前馈网络解耦架构的分析资源配置框架,通过考虑工作负载统计量θ,确定最优注意力与前馈网络比例,减少阻塞和设备空闲时间。

Comments Submitted to Neurips 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14783 2026-08-18 cs.CV cs.GR 新提交 80%

MegaParts: Scaling Part-Aware 3D Object Generation to 300 Parts via Token-Efficient Autoregressive Modeling

MegaParts:通过令牌高效自回归建模将部件感知三维物体生成扩展至300个部件

Manwen Liao, Xinyu Lian, Jian Mao, Kaixu Chen, Li Luo, Jinghao Yan, Wanshui Gan, Qiao Yu, Weitian Zhang, Chunhua Shen, Guang Chen, Bo Dai, Xudong Xu, Zhaoyang Lyu

机构 * The University of Hong Kong(香港大学) Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) Fudan University(复旦大学) Tongji University(同济大学) University of Science and Technology of China(中国科学技术大学) Shanghai Jiao Tong University(上海交通大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 MegaParts提出结合结构化序列建模与令牌高效矢量量化形状令牌化器的自回归框架,将部件感知3D生成扩展至300个部件,性能优于基线模型,为大规模部件感知3D生成提供新方案。

Comments 12 pages, 6 pages appendix, 13 figures, technical report

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14561 2026-08-18 cs.DC cs.OS cs.PF 新提交 80%

A Biophysically-Inspired Feedback Controller for Multi-Class Cache Fairness

受生物物理启发的多类缓存公平性反馈控制器

Matt R. Flax

专题命中 效率与部署 :LLM(summary_cn,abstract)

AI总结 针对多租户LLM服务的缓存公平性问题,提出受生物物理启发的多类缓存替换策略,在合成工作负载上缩小了LRU与Belady的未命中率差距,实现公平性与吞吐量的可调权衡。

Comments 24 pages, 1 figure

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24312 2026-08-18 cs.CR 版本更新 80%

Five Queries Are Enough: Query-Efficient and Surrogate-Free Membership Inference Attacks on RAG via Entailment

五个查询就足够了:基于蕴含的查询高效且无替代模型的RAG成员推断攻击

Nguyen Linh Bao Nguyen, Wanlun Ma, Viet Vo, Alsharif Abuadbba, Minghong Fang, Jun Zhang, Yang Xiang

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 提出MEntA攻击方法,利用自然语言蕴含在少量查询下高效推断RAG系统中的文档成员关系,无需替代模型,成本低且难以检测。

Comments Accepted by USENIX Security 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.16864 2026-08-18 cs.DC cs.AR 版本更新 80%

HieraSparse: Hierarchical Semi-Structured Sparse KV Attention

HieraSparse: 分层半结构化稀疏KV注意力

Haoxuan Wang, Chen Wang

专题命中 效率与部署 :LLM(summary_cn);large language model(abstract);language model(abstract)

AI总结 本文提出HieraSparse,通过分层KV缓存压缩框架和GPU稀疏张量核心,提升LLM的KV缓存效率与注意力计算速度,实现稀疏性与效率的平衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15939 2026-08-18 cs.CL 新提交 79%

Aborted but Not Forgotten: KV-Cache Retention Breaks Rollback Consistency in Language Agents

已中止但未被遗忘:KV缓存保留破坏语言智能体的回滚一致性

Guijia Zhang, Harry Yang

专题命中 效率与部署 :language agent(title,abstract);分类 cs.CL

AI总结 研究发现语言智能体中止分支时若保留KV缓存会破坏回滚一致性,引入同token/不同缓存审计方法验证该问题,提出事务局部缓存恢复方案可解决该结构性缺陷。

Comments 21 pages, 5 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15549 2026-08-18 cs.RO cs.AI 新提交 79%

MistyPilot: Enabling Social-Robot Control through Multi-Agent LLM Skill Orchestration

MistyPilot:通过多智能体大语言模型技能编排实现社交机器人控制

Xiao Wang, Lu Dong, Ifeoma Nwogu, Srirangaraj Setlur, Venu Govindaraju

机构 * State University of New York at Buffalo(纽约州立大学布法罗分校)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 该研究提出多智能体大语言模型框架MistyPilot,可解释自然语言指令并编排Misty社交机器人技能,经评估其在多项任务上准确率高、方差低,用户反馈积极,代码将公开。

Comments Accepted at the ECCV 2026 ACVR Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15454 2026-08-18 cs.AI 新提交 79%

Dynamic Multi-Byte Prediction With Hierarchical Language Models

基于分层语言模型的动态多字节预测

Abraham Toluwase Owodunni, Chibuzor Okocha, Christan Grant, Tomasz Limisiewicz, Sachin Kumar

机构 * The Ohio State University(俄亥俄州立大学) University of Florida(佛罗里达大学) University of Washington(华盛顿大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 本文针对分层语言模型逐字节生成推理速度慢的问题,提出多字节预测方法,通过可变长度预测窗口与因果注意力掩码实现并行字节预测,在多任务中达成性能与吞吐量的最优权衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.29066 2026-08-18 cs.CL 版本更新 79%

$x$-Prediction Flow: Efficient Continuous Decoding for Masked Diffusion Language Models

掩码扩散解码作为 $x$-预测流

Weitian Wang, Lianlei Shan, Shubham Rai, Cecilia De La Parra, Akash Kumar

机构 * Robert Bosch GmbH(罗伯特博世集团) Ruhr University Bochum(博尔茨大学) University of the Chinese Academy of Sciences(中国科学院大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 针对掩码扩散语言模型标准解码中二元决策导致信息丢失和性能差的问题,提出连续解码框架,通过重新解释掩码预测为清洁状态预测,引入置信度驱动的异步更新和强化学习策略网络,在减少解码预算时保持高性能。

Comments under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16320 2026-08-18 cs.CV 新提交 78%

StreamOPD: A Post-Training Recipe with Spatio-Temporal Cue Gating for Streaming Video Understanding

StreamOPD:用于流视频理解的时空线索门控后训练方案

Keming Wu, Baoyi Wang, Kaichen Zhang, Xiang An, Zuhao Yang, Sudong Wang, Haowei Zhu, Tingxuan Huang, Hongcheng Gao, Bin Wang

专题命中 效率与部署 :post-training(title,abstract)

AI总结 本研究提出 StreamOPD 方案,结合可验证流视频数据、思考模式 OPD 与指令模式部署,提升了 StreamingBench、OVO-Bench 等流视频理解基准性能,为相关开源研究提供参考。

Comments Project page: https://unix-ai-lab.github.io/StreamOPD

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.23782 2026-08-18 eess.IV cs.CV 版本更新 78%

VesselBridge3D: A Foundation Model Adaptation Framework for Label-Efficient 3D Vessel Segmentation

突破数据壁垒:利用基础模型实现鲁棒的少样本3D血管分割

Kirato Yoshihara, Yohei Sugawara, Yuta Tokuoka, Lihang Hong

机构 * The University of Osaka(大阪大学) Preferred Networks, Inc.(Preferred Networks公司)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 本文提出利用预训练视觉基础模型实现鲁棒的少样本3D血管分割,通过3D适配器和多尺度聚合器提升分割性能,在极端少样本情况下取得显著提升。

Comments Accepted at SWITCH+ MICCAI 2026. Code is available at https://github.com/pfnet-research/vesselbridge3d

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15802 2026-08-18 cs.CV cs.LG 新提交 77%

PWLR: Pairwise Witness Local Rejection for Boundary-Aware Out-of-Distribution Detection

PWLR:用于边界感知分布外检测的成对见证局部拒绝

Chengyao Jia, Ruixuan Wang

机构 * Guangdong Provincial Key Laboratory of Stomatology(广东省口腔医学重点实验室) Key Laboratory of Machine Intelligence and Advanced Computing, MOE(教育部机器智能与先进计算重点实验室)

专题命中 效率与部署 :LLM(abstract,abstract_cn);prompting(abstract);分类 cs.LG

AI总结 针对视觉语言检测器极少用语言作为混淆ID类别边界证据的问题,提出PWLR方法,结合MLLM生成的局部线索与全局类别得分,在多基准上改进了视觉语言基线的OOD检测性能。

Comments Accepted by ACM MM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14685 2026-08-18 cs.LG stat.ML 新提交 77%

Rethinking Reverse KL as Adaptive Entropy Distillation

将反向KL重新思考为自适应熵蒸馏

Shizhen Li, Zhiyu Shen, Yuyin Lu, Yunhe Pang, Jielin Song, Yanghui Rao, Fu Lee Wang

机构 * School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院) School of Science and Technology, Hong Kong Metropolitan University(香港都会大学科技学院)

专题命中 效率与部署 :LLM(abstract_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 该研究针对知识蒸馏难以平衡忠实模仿与鲁棒生成的问题,提出自适应熵蒸馏(AED)方法,通过分解反向KL目标函数并利用教师熵动态校准模仿强度,在指令遵循与数学推理基准上表现更优。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.21858 2026-08-18 cs.CL 版本更新 77%

Hypergraph as Language

超图作为语言

Mengqi Lei, Guohuan Xie, Shihui Ying, Shaoyi Du, Jun-Hai Yong, Chuan Shi, Ling Tian, Siqi Li, Yue Gao

机构 * Tsinghua University(清华大学) Yangtze Delta Region Institute(长江三角洲研究院) Shanghai Institute of Applied Mathematics and Mechanics(上海应用数学和力学研究所) State Key Laboratory of Human-Machine Hybrid Augmented Intelligence(人机混合增强智能国家重点实验室) National Engineering Research Center for Visual Information and Applications(视觉信息与应用国家工程研究中心) Institute of Artificial Intelligence and Robotics(人工智能与机器人研究所)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出了一种基于超图的语言模型对齐框架Hyper-Align,通过将超图结构转换为可被大语言模型理解的超图令牌,以更有效地处理高阶关联关系,从而在结构建模任务中取得显著优势。

详情

展开后加载摘要…

URL PDF HTML 收藏