arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-27 至 2026-04-27 共收录 182 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 8 篇

2604.22142 2026-04-27 cs.CL cs.CY 90%

Voice Under Revision: Large Language Models and the Normalization of Personal Narrative

声音的修订:大型语言模型与个人叙述的规范化

Tom van Nuenen

机构 * Social Sciences D-Lab, University of California, Berkeley(社会科学D实验室,加州大学伯克利分校)

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);分类 cs.CL

AI总结 研究探讨大型语言模型如何通过改写影响个人叙述的风格和叙述质感,发现改写导致风格规范化,包括功能词、缩略语和第一人称代词减少,而词汇多样性、词长和标点使用增加,影响叙述方式和因果推理。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22467 2026-04-27 eess.AS 90%

DM-ASR: Diarization-aware Multi-speaker ASR with Large Language Models

DM-ASR:基于说话人识别的多说话人ASR框架

Li Li, Ming Cheng, Weixin Zhu, Yannan Wang, Juan Liu, Ming Li

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn)

AI总结 DM-ASR利用说话人识别作为结构先验,将多说话人ASR任务转化为多轮对话生成过程,通过分解转录为说话人和时间条件查询,提升转录质量与结构化输出。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.13255 2026-04-27 cs.RO 78%

Policy Contrastive Decoding for Robotic Foundation Models

基于机器人基础模型的策略对比解码

Shihan Wu, Xu Luo, Ji Zhang, Junlin Xie, Jingkuan Song, Heng Tao Shen, Lianli Gao

机构 * University of Electronic Science and Technology of China(电子科学与技术大学) Southwest Jiaotong University(西南交通大学) Tongji University(同济大学)

专题命中 预训练与数据 :foundation model(title,abstract)

AI总结 本文提出Policy Contrastive Decoding方法,通过对比原始与物体遮挡的视觉输入,提升机器人策略的泛化能力,实验表明其在仿真和现实环境中均有效。

Comments ICLR 2026. Project website: https://koorye.github.io/PCD/

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.29171 2026-04-27 cs.CV cs.LG 70%

Segmentation of Gray Matters and White Matters from Brain MRI data

从脑部MRI数据中分割灰质和白质

Chang Sun, Rui Shi, Tsukasa Koike, Tetsuro Sekine, Akio Morita, Tetsuya Sakai

机构 * Department of Computer Science and Engineering(计算机科学与工程系) Waseda University(早稻田大学) Department of Neurosurgery(神经外科) Teraoka Memorial Hospital(寺田纪念医院) Department of Radiology(放射科) Nippon Medical School Hospital(日本医学大学医院) Tokyo Rosai Hospital(东京罗赛医院)

专题命中 预训练与数据 :foundation model(abstract);pretraining(abstract);分类 cs.LG

AI总结 本文提出改进的MedSAM模型用于多类脑组织分割,通过预处理和调整解码器实现高精度分割,实验显示在IXI数据集上Dice分数达0.8751。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.20834 2026-04-27 cs.RO 67%

PokeVLA: Empowering Pocket-Sized Vision-Language-Action Model with Comprehensive World Knowledge Guidance

PokeVLA:通过全面的世界知识指导赋能便携式视觉-语言-动作模型

Yupeng Zheng, Xiang Li, Songen Gu, Yuhang Zheng, Shuai Tian, Weize Li, Linbo Wang, Senyu Fei, Pengfei Li, Yinfeng Gao, Zebin Xing, Yilun Chen, Qichao Zhang, Haoran Li, Wenchao Ding

机构 * CASIA(中国科学院自动化研究所) TARS Robotics(TARS机器人实验室) Tsinghua University(清华大学) Fudan University(复旦大学) National University of Singapore(新加坡国立大学) Tongji University(同济大学)

专题命中 预训练与数据 :language model(abstract);foundation model(abstract)

AI总结 本文提出PokeVLA,一种轻量但强大的具身体验模型,通过预训练视觉语言模型和多视角目标感知学习提升机器人操作效率与空间认知能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22374 2026-04-27 cs.CL 57%

Selective Contrastive Learning For Gloss Free Sign Language Translation

选择性对比学习用于无 gloss 手语翻译

Changhao Lai, Rui Zhao, Xuewen Zhong, Jinsong Su, Yidong Chen

机构 * School of Informatics, Xiamen University, China(厦门大学信息学院) Key Lab of Digital Protection and Intelligent Processing of Intangible Cultural Heritage of Fujian-Taiwan (XMU), Ministry of Culture and Tourism, China(福建省 Fujian-Taiwan 非物质文化遗产数字保护与智能处理重点实验室,文化部,中国) National Language Resources Monitoring and Research Center for Education and Teaching Media, Xiamen University, China(教育与教学媒体语言资源监测与研究中心,厦门大学,中国)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.CL

AI总结 本文提出选择性对比学习方法,通过动态选择负样本提升手语翻译的跨模态对齐效果,减少噪声干扰。

Comments Accepted by ACL 2026 as the main conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22194 2026-04-27 quant-ph 50%

Qubit-Scalable CVRP via Lagrangian Knapsack Decomposition and Noise-Aware Quantum Execution

基于拉格朗日背包分解和噪声感知量子执行的量子可扩展车辆路径问题

Monit Sharma, Hoong Chuin Lau

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出一种端到端分解框架,通过拉格朗日松弛和噪声感知执行,解决车辆路径问题的量子优化瓶颈,提升混合量子优化的可扩展性。

Comments 37 pages, 12 figures, 9 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.21978 2026-04-27 cond-mat.str-el cond-mat.dis-nn cond-mat.supr-con 50%

Beyond Variational Bias: Resolving Intertwined Orders in the Hubbard Model

超越变分偏差:Hubbard模型中交织秩序的解析

Luciano Loris Viteritti, Riccardo Rende, Christopher Roth, Anirvan Sengupta, Giuseppe Carleo, Antoine Georges

专题命中 预训练与数据 :pretraining(abstract)

AI总结 Hubbard模型在有限掺杂下存在竞争或交织秩序,不同计算方法对其基态结论冲突。本文通过三种Transformer回流费米波函数揭示变分假设偏差是冲突根源,并展示在恢复对称性和减少方差后,所有波函数均收敛至超导和条纹秩序共存的物理图景。

Comments 10 pages, 9 figures and 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 指令微调 11 篇

2604.10079 2026-04-27 cs.CL 92%

Why Supervised Fine-Tuning Fails to Learn: A Systematic Study of Incomplete Learning in Large Language Models

为何监督微调失效:对大语言模型中不完全学习现象的系统研究

Chao Xue, Yao Wang, Mengqiao Liu, Di Liang, Xingsheng Han, Peiyang Liu, Xianjie Wu, Chenyao Lu, Lei Jiang, Yu Lu, Haibo Shi, Shuang Liang, Minlong Peng, Flora D. Salim

机构 * University of New South Wales(新南威尔士大学) Tencent Hunyuan(腾讯文言) Tencent Yuanbao(腾讯元宝) UESTC(电子科技大学) Peking University(北京大学)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);SFT(abstract,abstract_cn)

AI总结 本文系统研究了大语言模型微调中不完全学习现象,揭示了五个导致学习不完整的原因,并提出诊断优先框架和缓解策略,证明监督微调的局限性。

Comments Accepted by ACL 2026 Main

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22193 2026-04-27 cs.CL 91%

How Large Language Models Balance Internal Knowledge with User and Document Assertions

大型语言模型如何在内部知识与用户和文档断言之间取得平衡

Shuowei Li, Haoxin Li, Wenda Chu, Yi Fang

机构 * Santa Clara University(圣克拉拉大学) Nanyang Technological University(南洋理工大学) California Institute of Technology(加州理工学院)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);post-training(abstract)

AI总结 本文研究了大型语言模型在处理内部知识与外部信息时的平衡问题,提出三源交互框架,评估27个模型,发现模型更依赖文档断言,且通过微调可提升其区分能力。

Comments Findings of ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.07003 2026-04-27 cs.CL 88%

NiuTrans.LMT: Toward Inclusive and Scalable Multilingual Machine Translation with LLMs

NiuTrans.LMT: 向包容性和可扩展的多语言机器翻译迈进 with LLMs

Yingfeng Luo, Ziqiang Xu, Yuxuan Ouyang, Murun Yang, Dingyang Lin, Kaiyan Chang, Tong Zheng, Bei Li, Peinan Feng, Quan Du, Tong Xiao, Jingbo Zhu

机构 * School of Computer Science and Engineering, Northeastern University, Shenyang, China(东北大学计算机科学与工程学院,中国沈阳) NiuTrans Research, Shenyang, China(牛译研,中国沈阳)

专题命中 指令微调 :prompting(summary_cn,abstract);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出NiuTrans.LMT,通过Strategic Downsampling和Parallel Multilingual Prompting缓解多语言监督微调中的方向退化问题,展示其在60种语言234个方向上的竞争力。

Comments Accepted to ACL 2026 Main Conference. Models are available at: https://github.com/NiuTrans/LMT

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22261 2026-04-27 cs.CL 81%

Bridging the Long-Tail Gap: Robust Retrieval-Augmented Relation Completion via Multi-Stage Paraphrase Infusion

弥合长尾差距:通过多阶段 paraphrase 注入实现鲁棒的检索增强关系完成

Fahmida Alam, Mihai Surdeanu, Ellen Riloff

机构 * Department of Computer Science University of Arizona, USA(计算机科学系亚利桑那大学)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出RC-RAG框架,通过多阶段paraphrase注入提升稀有关系完成性能,无需微调即可在长尾场景下显著提升精确匹配指标。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22127 2026-04-27 cs.CL cs.LG 81%

Where Should LoRA Go? Component-Type Placement in Hybrid Language Models

LoRA应在哪里放置?混合语言模型中的组件类型布局

Hector Borobia, Elies Seguí-Mas, Guillermina Tormo-Carbó

机构 * organization= VRAIN -- Valencian Research Institute for Artificial Intelligence, Universitat Polit\`ecnica de Val\`encia , city= Valencia , country= Spain organization= Department of Economics organization= Department of Business Organisation, Universitat Polit\`ecnica de Val\`encia , city= Valencia , country= Spain

专题命中 指令微调 :language model(title,abstract);分类 cs.CL、cs.LG

AI总结 研究混合语言模型中不同组件类型的LoRA布局,发现注意力路径在参数更少时表现更优,且不同架构对适配响应有显著差异。

Comments 21 pages, 5 figures, 7 tables. Code and data: https://github.com/hecboar/lora-placement-hybrid

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22018 2026-04-27 q-bio.NC cs.AI cs.LG eess.SP 81%

Foundation models for discovering robust biomarkers of neurological disorders from dynamic functional connectivity

用于从动态功能连接中发现神经疾病稳健生物标记物的基础模型

Deepank Girish, Yi Hao Chan, Sukrit Gupta, Jing Xia, Jagath C. Rajapakse

机构 * College of Computing and Data Science, Nanyang Technological University, Singapore(南洋理工大学计算与数据科学学院,新加坡) Department of Biomedical Engineering and the School of Artificial Intelligence and Data Engineering, Indian Institute of Technology Ropar, India(印度理工学院罗帕尔分校生物医学工程系和人工智能与数据工程学院) College of Instrument and Computer Science, Zhejiang University, China(浙江大学仪器与计算机科学学院)

专题命中 指令微调 :foundation model(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出RE-CONFIRM框架,评估深度学习模型中潜在生物标记物的稳健性,发现传统指标不足,提出Hub-LoRA技术提升模型性能并产生神经生物学忠实的生物标记物。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22215 2026-04-27 cs.CL cs.AI 79%

Verbal Confidence Saturation in 3-9B Open-Weight Instruction-Tuned LLMs: A Pre-Registered Psychometric Validity Screen

3-9B开放权重指令微调LLM中的言语自信饱和:一项预注册的心理计量效度筛查

Jon-Paul Cacioli

机构 * Independent Researcher(独立研究员)

专题命中 指令微调 :LLM(title_cn,abstract_cn);分类 cs.CL、cs.AI

AI总结 研究测试了七种指令微调的开放权重模型在最小数值提示下产生言语化自信是否满足最低效度标准,发现所有模型在数值自信上无效,且类别提示未能恢复效度。

Comments 10 pages, 3 figures, 4 tables, 1 appendix. Pre-registered: osf.io/azbvx. Code and data: github.com/synthiumjp/koriat

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.11157 2026-04-27 cs.CL 72%

Response-Based Knowledge Distillation for Multilingual Jailbreak Prevention Unwittingly Compromises Safety

基于响应的知识蒸馏用于多语言对抗预防无意中削弱了安全性

Max Zhang, Derek Liu, Kai Zhang, Joshua Franco, Haihao Liu

机构 * OpenAI Meta

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL;foundation model(comments)

AI总结 本文研究了基于响应的知识蒸馏在多语言对抗预防中的应用,发现标准微调会增加学生模型的对抗成功率,但去除边界拒绝可缓解安全性下降。

Comments 9 pages, Poster presented at Socially Responsible and Trustworthy Foundation Models at NeurIPS 2025 Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22560 2026-04-27 cs.CV cs.AI 70%

Cross-Stage Coherence in Hierarchical Driving VQA: Explicit Baselines and Learned Gated Context Projectors

层次驾驶视觉问答中的跨阶段一致性:显式基线与学习门控上下文投影

Gautam Kumar Jain, Carsten Markgraf, Julian Stähler

机构 * Technische Hochschule Augsburg(亚琛工业大学)

专题命中 指令微调 :pretraining(abstract,abstract_cn);分类 cs.AI

AI总结 本文研究了驾驶场景中跨阶段上下文传递的两种方法,显式基线通过无额外训练的4B VLM减少矛盾,隐式基线通过门控投影提升规划阶段语义一致性,两者共同探讨了领域适应在全谱改进中的潜力。

Comments 16 pages, 8 figures, 8 tables, preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19858 2026-04-27 cs.CV 67%

Wan-Image: Pushing the Boundaries of Generative Visual Intelligence

Wan-Image:推动生成视觉智能的边界

Chaojie Mao, Chen-Wei Xie, Chongyang Zhong, Haoyou Deng, Jiaxing Zhao, Jie Xiao, Jinbo Xing, Jingfeng Zhang, Jingren Zhou, Jingyi Zhang, Jun Dan, Kai Zhu, Kang Zhao, Keyu Yan, Minghui Chen, Pandeng Li, Shuangle Chen, Tong Shen, Yu Liu, Yue Jiang, Yulin Pan, Yuxiang Tuo, Zeyinzi Jiang, Zhen Han, Ang Wang, Bang Zhang, Baole Ai, Bin Wen, Boang Feng, Feiwu Yu, Gang Wang, Haiming Zhao, He Kang, Jianjing Xiang, Jianyuan Zeng, Jinkai Wang, Junjie Zhou, Ke Sun, Linqian Wu, Pei Gong, Pingyu Wu, Ruiwen Wu, Tongtong Su, Wenmeng Zhou, Wenting Shen, Wenyuan Yu, Xianjun Xu, Xiaoming Huang, Xiejie Shen, Xin Xu, Yan Kou, Yangyu Lv, Yifan Zhai, Yitong Huang, Yun Zheng, Yuntao Hong, Zhe Zhang, Zhicheng Zhang

机构 * Wan Team(万团队) Alibaba Group(阿里巴巴集团)

专题命中 指令微调 :large language model(abstract);language model(abstract)

AI总结 Wan-Image通过统一多模态架构和大规模数据训练,实现从随意生成到专业级视觉工具的转变,具备超长文本渲染、多主体身份保持等专业能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.19500 2026-04-27 cs.AI cs.CV cs.GR cs.LG 62%

Teaching an Agent to Sketch One Part at a Time

教代理分步绘制一部分

Xiaodan Du, Ruize Xu, David Yunis, Yael Vinker, Greg Shakhnarovich

机构 * TTI-Chicago(芝加哥大学技术研究所) University of Chicago(芝加哥大学) MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)

专题命中 指令微调 :language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出一种分步生成矢量草图的方法,通过多轮过程-奖励强化学习训练多模态语言模型代理,利用新数据集ControlSketch-Part实现可解释、可控且局部可编辑的文本到矢量草图生成。

详情

展开后加载摘要…

URL PDF HTML 收藏

3. 后训练与偏好优化 4 篇

2604.22504 2026-04-27 cs.IR 91%

Objective Shaping with Hard Negatives: Windowed Partial AUC Optimization for RL-based LLM Recommenders

通过硬负样本进行目标塑造:基于RL的LLM推荐系统中的窗口化部分AUC优化

Wentao Shi, Qifan Wang, Chen Chen, Fei Liu, Dongfang Liu, Xu Liu, Wanli Ma, Junfeng Pan, Linhong Zhu, Fuli Feng

专题命中 后训练与偏好优化 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文提出窗口化部分AUC优化方法,通过约束假阳性率提升与Top-K指标的一致性,改进基于RL的LLM推荐系统性能。

Comments 21 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22542 2026-04-27 cs.CL cs.AI 91%

Controllable Spoken Dialogue Generation: An LLM-Driven Grading System for K-12 Non-Native English Learners

可控的口语对话生成:一种基于LLM的评分系统用于K-12非母语英语学习者

Haidong Yuan, Haokun Zhao, Wanshi Xu, Songjun Cao, Qingyu Zhou, Long Ma, Hongjie Fan

机构 * Peking University(北京大学) Tencent(腾讯) China University of Political Science and Law(中国政法大学) Independent Researcher(独立研究者) Fudan University(复旦大学)

专题命中 后训练与偏好优化 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出一种基于LLM的评分系统,通过四级分级系统控制词汇复杂度,提升非母语K-12英语学习者的口语对话质量与教学价值。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.22630 2026-04-27 cs.CL cs.AI cs.LG 82%

StateX: Enhancing RNN Recall via Post-training State Expansion

StateX:通过后训练状态扩展增强RNN回忆能力

Xingyu Shen, Yingfa Chen, Zhen Leng Thai, Xu Han, Zhiyuan Liu, Maosong Sun

机构 * Department of Science and Technology, Tsinghua University(清华大学科学技术部)

专题命中 后训练与偏好优化 :post-training(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 StateX通过后训练方法扩展RNN状态,提升长上下文回忆与上下文学习性能,无需显著增加参数量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.22519 2026-04-27 cs.RO 67%

Clutter-Robust Vision-Language-Action Models through Object-Centric and Geometry Grounding

通过对象中心和几何约束实现抗杂波的视觉-语言-动作模型

Khoa Vo, Taisei Hanyu, Yuki Ikebe, Trong Thang Pham, Nhat Chung, Minh Nhat Vu, Duy Nguyen Ho Minh, Anh Nguyen, Anthony Gunderman, Chase Rainwater, Ngan Le

机构 * University of Arkansas(阿拉巴马大学) National University of Singapore(新加坡国立大学) TU Wien(维也纳技术大学) Max Planck Research School for Intelligent Systems(智能系统马克斯·普朗克研究学校) University of Stuttgart(斯图加特大学) University of Liverpool(利物浦大学)

专题命中 后训练与偏好优化 :language model(abstract);post-training(abstract)

AI总结 本文提出OBEYED-VLA框架,通过分离感知接地与动作推理提升视觉-语言-动作模型在现实环境中的鲁棒性,特别是在存在干扰物、目标缺失和背景变化等挑战性场景中表现优异。

Comments Under review. Project website: https://uark-aicv.github.io/OBEYED_VLA

详情

展开后加载摘要…

URL PDF HTML 收藏

4. 长上下文与记忆 8 篇

2601.14287 2026-04-27 cs.LG 90%

Chain-of-Memory: Lightweight Memory Construction with Dynamic Evolution for LLM Agents

链式记忆:轻量级记忆构建与动态演化用于大语言模型代理

Xiucheng Xu, Bingbing Xu, Xueyun Tian, Zihe Huang, Rongxin Chen, Yunfan Li, Huawei Shen

机构 * State Key Laboratory of AI Safety(人工智能安全国家重点实验室) Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所) University of Chinese Academy of Sciences(中国科学院大学)

专题命中 长上下文与记忆 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出CoM框架,通过轻量级记忆构建与动态演化机制,提升LLM代理的持久知识维护与长周期决策能力,实验显示在LongMemEval和LoCoMo基准上准确率提升7.5%-10.4%,计算开销降低2.7%-6.0%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22427 2026-04-27 cs.CR 89%

Automation-Exploit: A Multi-Agent LLM Framework for Adaptive Offensive Security with Digital Twin-Based Risk-Mitigated Exploitation

自动化-漏洞利用:一种多智能体LLM框架,用于基于数字孪生的自适应进攻性安全与风险缓解漏洞利用

Biagio Andreucci, Arcangelo Castiglione

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文提出自动化-漏洞利用框架,通过多智能体系统在复杂黑盒场景中实现自适应进攻性安全,利用数字孪生技术缓解风险,有效解决内存漏洞等安全问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.15583 2026-04-27 cs.DB 86%

SAGE: Selective Attention-Guided Extraction for Token-Efficient Document Indexing

SAGE:基于选择性注意力的令牌高效文档索引提取

Xinzhi Wang, Peter Baile Chen, Gerardo Vitagliano, Matthew Russo, Jun Chen, Michael Cafarella, Samuel Madden, Chunwei Liu

专题命中 长上下文与记忆 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract)

AI总结 本文提出SAGE方法,通过轻量本地LLM进行单次预填充,将语言模型注意力信号转化为查询特定的相关热图,从而在可控粒度下选择高相关单元,减少上下文并提升问答性能。

Comments 12 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01650 2026-04-27 cs.HC cs.AI 79%

AromaGen: Interactive Generation of Rich Olfactory Experiences with Multimodal Language Models

AromaGen:基于多模态语言模型的交互式丰富嗅觉体验生成

Yunge Wen, Awu Chen, Jianing Yu, Jas Brooks, Hiroshi Ishii, Paul Pu Liang

机构 * MIT Media Lab(MIT媒体实验室) Harvard Graduate School of Design(哈佛设计研究生院) MIT CSAIL(MIT计算机科学与人工智能实验室)

专题命中 长上下文与记忆 :language model(title);LLM(abstract);分类 cs.AI

AI总结 AromaGen利用多模态语言模型实现基于文本和视觉输入的实时嗅觉生成,通过迭代优化提升嗅觉混合物的自然度,达到与真实食物香气相似的水平。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.13847 2026-04-27 cs.LG cs.AI 73%

SparseBalance: Load-Balanced Long Context Training with Dynamic Sparse Attention

SparseBalance: 基于动态稀疏注意力的负载平衡长上下文训练

Hongtao Xu, Jianchao Tan, Yuxuan Hu, Pengju Lu, Hongyu Wang, Pingwei Sun, Yerui Sun, Yuchen Xie, Xunliang Cai, Mingzhen Li, Weile Jia

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences(中国科学院大学先进交叉学科学院) Meituan(美团) University of Chinese Academy of Sciences(中国科学院大学)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);分类 cs.AI、cs.LG

AI总结 本文提出SparseBalance算法系统协同设计框架,通过动态稀疏调整和稀疏感知批处理策略,解决长上下文训练中的负载不平衡问题,提升模型精度与系统效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22085 2026-04-27 cs.AI 70%

Memanto: Typed Semantic Memory with Information-Theoretic Retrieval for Long-Horizon Agents

Memanto:基于信息论检索的类型语义记忆用于长周期智能体

Seyed Moein Abtahi, Rasa Rahnema, Hetkumar Patel, Neel Patel, Majid Fekri, Tara Khani

机构 * Moorcheh

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 Memanto通过信息论检索引擎实现高效持久记忆,无需复杂知识图谱,提升长周期智能体性能,实现89.8%和87.1%的高准确率。

Comments 13 Pages, 10 Tables, 8 Figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22678 2026-04-27 cs.CL 57%

BERAG: Bayesian Ensemble Retrieval-Augmented Generation for Knowledge-based Visual Question Answering

BERAG:基于贝叶斯集成的检索增强生成用于基于知识的视觉问答

Jinghong Chen, Jingbiao Mei, Guangyu Yang, Bill Byrne

机构 * Department of Engineering(工程系)

专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL

AI总结 BERAG通过将语言模型条件于单个检索文档而非单一上下文,解决检索增强生成中文档贡献不明和长上下文中的信息丢失问题,提升视觉问答任务性能。

详情

展开后加载摘要…

URL PDF HTML 收藏