arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-18 至 2026-08-18 共收录 201 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 14 篇

2604.02637 2026-08-18 cs.CL 版本更新 92%

Train Yourself as an LLM: Exploring Effects of AI Literacy on Persuasion via Role-playing LLM Training

通过角色扮演训练LLM:探索AI素养对说服力的影响

Qihui Fan, Min Ge, Chenyan Jia, Weiyan Shi

机构 * Institute for Clarity in Documentation(文档清晰研究所) Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗康库尔中心) Rajiv Gandhi University(拉吉夫·甘地大学) Tsinghua University(清华大学) Palmer Research Laboratories(帕默研究实验室)

专题命中 预训练与数据 :LLM(title,title_cn);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 本文通过角色扮演训练LLMimic,提升用户AI素养,减少AI说服力效果,并增强诚实与社会责任感。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18490 2026-08-18 cs.CL cs.IR 版本更新 90%

Single-Round Vector RAG vs an LLM-Compiled Wiki: A Preregistered Comparison on a Small Multi-Domain Research Corpus

向量RAG与LLM编写的维基:在小型多领域研究上的预注册比较

Theodore O. Cochran

机构 * AI for Altruism (A4A)(AI为利他主义(A4A))

专题命中 预训练与数据 :LLM(title,title_cn);分类 cs.CL

AI总结 本文通过预注册比较,研究了向量RAG系统与LLM编写的维基在小型多领域研究中的表现,发现两者在跨论文连接、答案组织和成本等方面各有优劣,没有单一系统在所有指标上最优。

Comments v2: two-judge reanalysis of the decomposition-RAG ablation (groundedness advantage +1.15 to +0.15); H3a adjudicated; one registered-plan deviation disclosed; artifact deposit at this http URL (http://osf.io/j37b8;) title corrected

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.10745 2026-08-18 cs.CL 版本更新 83%

The First ChineseBabyLM Challenge: training data-efficient and cognitively plausible language models for Chinese

首个中文BabyLM挑战:训练数据高效且认知合理的中文语言模型

Siyuan Song, Zhiheng Qian, Yunhao Zhang, Linyang He, Xiaozhe Ji, Yingxin Lin, Hongao Zhu, Chongtian Shao, Chuhan Lang, Luan Li, Rui Wang, Renfen Hu, Shaonan Wang, Hai Hu

机构 * Princeton University(普林斯顿大学) Shanghai Jiao Tong University(上海交通大学) Chinese Academy of Sciences(中国科学院) Columbia University(哥伦比亚大学) Beijing Normal University(北京师范大学) Tsinghua University(清华大学) University of California San Diego(加利福尼亚大学圣地亚哥分校) The Hong Kong Polytechnic University(香港理工大学)

专题命中 预训练与数据 :language model(title,abstract);pretraining(abstract);分类 cs.CL

AI总结 首个中文BabyLM挑战将在2026年自然语言处理与中文计算会议举办,要求用1亿中文词元从头训练语言模型,在自然语言理解、认知对齐和汉字知识三轨道评估,不限分词器、模型架构和训练轮数。

Comments 13 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.21333 2026-08-18 cs.CL cs.AI 版本更新 81%

SymbolicLight V1: Spike-Gated Dual-Path Language Modeling at High Activation Sparsity

SymbolicLight V1: 一种具有高激活稀疏性和亚十亿级预训练证据的脉冲门双路径语言建模

Ting Liu

机构 * SymbolicLight Research(SymbolicLight研究院)

专题命中 预训练与数据 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文提出SymbolicLight V1,一种结合二进制Leaky Integrate-and-Fire脉冲动力学与连续残差流的脉冲门双路径语言模型,通过长程记忆的指数衰减聚合路径和短程精度的脉冲门局部注意力路径,实现了高激活稀疏性和亚十亿级预训练证据。

Comments 25 pages, 4 figures, 24 tables. Revised preprint: quality-gap framing, token-weighted versus unweighted domain PPL, and tightened architecture claims. Code and checkpoints: this https URL (AGI/SymbolicLight-V1" target="_blank" rel="noopener">https://github.com/SymbolicLight-AGI/SymbolicLight-V1)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.04032 2026-08-18 cs.CL cs.AI cs.CV 版本更新 81%

jina-vlm: Small Multilingual Vision Language Model

Jina-VLM:小规模多语言视觉语言模型

Andreas Koukounas, Georgios Mastrapas, Florian Hönicke, Sedigheh Eslami, Guillaume Roncari, Han Xiao

机构 * Jina AI

专题命中 预训练与数据 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 Jina-VLM是一款24亿参数的多语言视觉语言模型,通过结合SigLIP2视觉编码器与Qwen3语言主干,实现了高效多语言视觉问答性能。

Comments 23 pages, 1-10 main content, 11-23 references and appendix

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04155 2026-08-18 cs.HC cs.CL cs.CY 版本更新 70%

SocialCoach: Personalized Social Skill Learning with Agentic Tutoring and Practice

SocialCoach: 基于强化学习的智能辅导与练习的个性化社交技能学习

Tianfu Wang, Max Xiong, Jianxun Lian, Hongyuan Zhu, Zhengyu Hu, Yuxuan Lei, Linxiao Gong, Dapeng Hu, Xiaofang Li, Peiting Tsai, Nicholas Jing Yuan, Qi Zhang

机构 * HKUST (GZ)(香港科技大学(广州)) Duke University(杜克大学) MSRA Beijing(微软研究院北京) Microsoft Beijing(微软北京)

专题命中 预训练与数据 :LLM(abstract,abstract_cn);分类 cs.CL

AI总结 提出SocialCoach系统,利用多智能体管道构建知识语料库、强化学习优化自适应练习调度,并结合沉浸式实践与反思辅导,以解决社交技能学习中专家辅导稀缺和知行差距问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.30025 2026-08-18 cs.CL 版本更新 70%

ContextClaim: A Context-Driven Paradigm for Verifiable Claim Detection

ContextClaim: 一种基于上下文的可验证声明检测范式

Yufeng Li, Rrubaa Panchendrarajan, Arkaitz Zubiaga

机构 * School of Electronic Engineering and Computer Science, Queen Mary University of London(伦敦玛丽女王大学电子工程与计算机科学学院)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出ContextClaim范式,通过提取实体、检索维基知识并生成上下文摘要,提升可验证声明检测的可靠性,验证其在不同领域和模型设置下的有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.07372 2026-08-18 cs.SE cs.AI 版本更新 70%

Self-Bootstrapping Automated Program Repair: Using LLMs to Generate and Evaluate Synthetic Training Data for Bug Repair

自bootstrap自动程序修复:利用LLMs生成和评估合成训练数据以修复bug

David de-Fitero-Dominguez, Antonio Garcia-Cabot, Eva Garcia-Lopez

机构 * Departamento de Ciencias de la Computación, Universidad de Alcalá(阿尔卡拉大学计算机科学系)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出一种利用LLMs生成合成数据提升自动程序修复的方法,通过生成和评估代码bug与修复代码的配对示例,提升修复准确率,实验显示在VulRepair数据集上Top@1和Top@5表现显著提升。

Comments Final published version in the Expert Systems with Applications journal. Volume 319, 5 July 2026, 132154. DOI: this https URL (https://doi.org/10.1016/j.eswa.2026.132154)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.21031 2026-08-18 econ.EM 版本更新 67%

Learning the Macroeconomic Language

学习宏观经济语言

Siddhartha Chib, Fei Tan, Zhixun Zhang

专题命中 预训练与数据 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种结合DSGE模型与大型语言模型的混合预测方法,用于有效预测宏观经济数据。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.03998 2026-08-18 cs.LG 版本更新 57%

Directional Curvature from Armijo Backtracking: A Low-Cost Sharpness Probe and a Calibration-Free Learning-Rate Safeguard for Adam

基于阿米尔乔回溯的方向曲率:Adam的低成本锐度探测和无校准学习率保障

Ashmitha R, Jörg Frochte

机构 * Department of Artificial Intelligence and Data Science, Sri Ramakrishna Engineering College, Anna University(人工智能与数据科学系,斯里·拉玛克里希纳工程学院,安娜大学) Interdisciplinary Institute for Applied AI and Data Science Ruhr (AKIS), Department of Electrical Engineering and Computer Science, Bochum University of Applied Sciences(鲁尔应用人工智能与数据科学跨学科研究所(AKIS),电气工程与计算机科学系,波鸿应用科学大学)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 研究利用阿米尔乔回溯线搜索获取损失函数局部锐度信息,通过接受步长估算方向曲率,给出低成本在线稳定性边界读数,还能给出学习率上限保障Adam对大初始学习率的鲁棒性。

Comments 36 pages, 7 figures, 23 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.22431 2026-08-18 cs.SD cs.LG 版本更新 57%

mmWave Radar Aware Dual-Conditioned GAN for Speech Reconstruction of Signals With Low SNR

毫米波雷达感知的双条件GAN用于低信噪比信号的语音重建

Jash Karani, Adithya Chittem, Deepan Roy, Sandeep Joshi

机构 * BITS Pilani, India(印度比特学院)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 本文提出了一种雷达感知的双条件GAN,用于在低信噪比条件下实现毫米波信号的语音重建,通过多梅尔判别器和残差融合门提升生成器性能。

Comments Accepted at Interspeech 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.13015 2026-08-18 cs.RO 版本更新 50%

Learning Versatile Humanoid Manipulation with Touch Dreaming

通过触觉梦想学习多功能人形操作

Yaru Niu, Zhenlong Fang, Binghong Chen, Shuai Zhou, Revanth Krishna Senthilkumaran, Hao Zhang, Bingqing Chen, Chen Qiu, H. Eric Tseng, Jonathan Francis, Ding Zhao

机构 * Carnegie Mellon University(卡内基梅隆大学) UT Arlington(UT阿灵顿) Bosch Center for AI(博世人工智能中心)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出HTD模型,结合触觉、视觉和本体感觉,通过触觉梦想增强学习实现高灵活性的人形操作,实验证明在五个真实任务中成功率提升显著。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11415 2026-08-18 cs.CV 版本更新 50%

Observe Less, Understand More: Cost-aware Cross-scale Observation for Remote Sensing Understanding

观察更少,理解更多:面向遥感理解的低成本跨尺度观测

Zhenghao Xie, Jing Xiao, Zhenqi Wang, Kexin Ma, Liang Liao, Gui-song Xia, Mi Wang

机构 * Wuhan University(武汉大学) Xi'an University of Electronic Science and Technology(西安电子科技大学)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出一种低成本跨尺度观测方法,通过结合细粒度高分辨率采样与跨图块表示预测,提升遥感任务性能。同时引入GL-10M大规模基准,系统评估预算约束下的跨尺度推理效果。

Comments 14 pages, 7 figures, and 5 tables. Accepted to ACM MM 2026. Updated to the camera-ready version and added supplementary material. Code: this https URL (https://github.com/xzhacc/CrossSO)

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11426 2026-08-18 cs.RO 版本更新 50%

Grounding Robot Generalization in Training Data via Retrieval-Augmented VLMs

通过检索增强的视觉语言模型实现机器人在训练数据中的泛化

Jensen Gao, Dorsa Sadigh, Sandy Huang, Dhruv Shah

机构 * Stanford University(斯坦福大学) Google DeepMind(谷歌DeepMind) Princeton University(普林斯顿大学)

专题命中 预训练与数据 :language model(abstract)

AI总结 本文提出RADAR框架,通过检索和视觉语言模型分析,评估机器人策略在不同场景下的泛化能力,验证了其在大规模数据集中的有效性。

Comments IEEE Robotics and Automation Letters (RA-L)

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 指令微调 17 篇

2602.15983 2026-08-18 cs.SE cs.AI cs.LG math.OC 版本更新 93%

ReLoop: Structured Modeling and Behavioral Verification for Reliable LLM-Based Optimization

ReLoop:结构建模与行为验证用于可靠的基于LLM的优化

Junbo Jacob Lian, Yujun Sun, Huiling Chen, Chaoyu Zhang, Hanzhang Qin, Chung-Piaw Teo

机构 * McCormick School of Engineering, Northwestern University(西北大学工程学院) Wenzhou Buyi Pharmacy Chain Co., Ltd.(温州-buyi药链有限公司) College of Computer Science and Artificial Intelligence, Wenzhou University(温州大学计算机科学与人工智能学院) Department of Decision Analytics and Operations, City University of Hong Kong(香港城市大学决策分析与运营部门) Institute of Operations Research and Analytics, National University of Singapore(新加坡国立大学运筹学与分析研究所)

专题命中 指令微调 :LLM(title,title_cn);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 ReLoop通过结构生成和行为验证机制,解决LLM生成优化代码的可行性与正确性差距问题,提升代码执行准确性和鲁棒性。

Comments Code and benchmark: this https URL (https://github.com/junbolian/ReLoop)

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.06628 2026-08-18 cs.AI 版本更新 92%

Rethinking Generalization in Reasoning SFT: A Conditional Analysis on Optimization, Data, and Model Capability

重新思考推理SFT中的泛化:对优化、数据和模型能力的条件分析

Qihan Ren, Peng Wang, Ruikun Cai, Shuai Shao, Dadi Guo, Yuejin Xie, Yafu Li, Quanshi Zhang, Xia Hu, Jing Shao, Dongrui Liu

机构 * Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) Shanghai Jiao Tong University(上海交通大学) University of Science and Technology of China(中国科学技术大学)

专题命中 指令微调 :SFT(title,title_cn);LLM(abstract,abstract_cn);post-training(abstract);分类 cs.AI

AI总结 本文研究推理SFT的泛化问题,发现泛化受优化动态、训练数据和模型能力共同影响,指出短训练检查点可能低估泛化能力,数据质量和结构及模型能力均影响泛化效果,且推理提升与安全下降存在不对称性。

Comments Accepted by COLM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.09020 2026-08-18 cs.SE cs.AI 版本更新 90%

Enhancing the Non-Functional Quality Compliance of LLM-Generated Code through Quality-Aware Preference Learning

通过质量感知偏好学习增强大语言模型生成代码的非功能质量合规性

Liang Lu, Yuan Jiang, Christoph Treude, Shuzheng Gao, Jingyu Xiao, Xiaohong Su, Michael R. Lyu

专题命中 指令微调 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 针对LLM生成代码存在的非功能质量合规性问题,提出质量感知偏好学习框架,通过三阶段方法提升代码合规性,在保持功能正确的同时实现显著性能提升,具备良好实用价值。

详情

展开后加载摘要…

URL PDF HTML 收藏
2501.06286 2026-08-18 cs.CL cs.AI 版本更新 90%

Bactrainus: Optimizing Large Language Models for Multi-hop Complex Question Answering Tasks

Bactrainus:为多跳复杂问答任务优化大型语言模型

Iman Barati, Arash Ghafouri, Behrouz Minaei-Bidgoli

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);prompting(abstract);分类 cs.CL、cs.AI

AI总结 本研究针对多跳问答的证据瓶颈,提出模块化选择器-阅读器框架Bactrainus,经实验验证其在HotpotQA任务中表现优异,为该领域提供了可审计的证据接口方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.22067 2026-08-18 cs.CL cs.AI 版本更新 89%

Multimodal Language Models Benchmarked Against the NRC Reactor Operator Licensing Examination: Fine-Tuning and Retrieval Strategies

基于美国核管理委员会反应堆操作员执照考试的多模态语言模型微调与检索策略基准测试

Isak Hwang, Yoon Pyo Lee, Syed Bahauddin Alam

机构 * organization= Department of Nuclear Engineering, Hanyang University , addressline= 222 Wangsimni-ro , postcode= 04763 , state= Seongdong-gu , city= Seoul , country= South Korea organization= The Grainger College of Engineering, Nuclear, Plasma \& Radiological Engineering, University of Illinois Urbana-Champaign , city= Urbana , state= IL , country= USA

专题命中 指令微调 :SFT(summary_cn,abstract);language model(title,abstract);分类 cs.CL、cs.AI

AI总结 该研究针对美国核管理委员会反应堆操作员执照考试,评估310亿参数多模态模型应用核知识的能力,通过对比基础模型与多种微调及检索配置,发现固定大小分块RAG的SFT配置表现最佳,并揭示了分块策略规律及RAFT与SFT的性能差异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.17397 2026-08-18 quant-ph cs.AI cs.LG 版本更新 88%

Quantum Large Language Models via Tensor Network Disentanglers

基于张量网络解纠缠器的量子大语言模型

Borja Aizpurua, Fernando Loren, Saeed S. Jahromi, Sukhbinder Singh, Roman Orus

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.AI、cs.LG

AI总结 该研究提出将量子计算与预训练大语言模型融合的框架,用张量网络解纠缠器压缩模型参数,经量子处理器验证可提升性能,为量子增强语言模型提供实用方案。

Comments 9 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.06087 2026-08-18 cs.CL cs.AI 版本更新 88%

LatentSkill: From In-Context Textual Skills to In-Weight Latent Skills for LLM Agents

LatentSkill: 从上下文文本技能到LLM智能体的权重内隐技能

Aofan Yu, Chenyu Zhou, Tianyi Xu, Zihan Guo, Rong Shan, Zhihui Fu, Jun Wang, Weiwen Liu, Yong Yu, Weinan Zhang, Jianghao Lin

机构 * Shanghai Jiao Tong University(上海交通大学) Sun Yat-Sen University(中山大学) Shanghai Innovation Institute(上海创新研究院) OPPO Research Institute(OPPO研究院)

专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI

AI总结 提出LatentSkill框架,通过预训练超网络将文本技能转换为即插即用的LoRA适配器,将技能知识存储在权重空间而非上下文空间,从而减少预填充令牌并提升性能。

Comments 10 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2501.12147 2026-08-18 cs.CL cs.AI cs.LG 版本更新 87%

Improving Influence-based Instruction Tuning Data Selection for Balanced Learning of Diverse Capabilities

改进基于影响力的指令调优数据选择以实现多样化能力的均衡学习

Qirun Dai, Dylan Zhang, Jiaqi W. Ma, Hao Peng

专题命中 指令微调 :instruction tuning(title);LLM(abstract_cn);large language model(abstract);language model(abstract)

AI总结 该研究针对基于影响力的指令调优数据选择的任务偏向问题,提出BIDS算法,经实验验证其在小比例数据下可实现更均衡性能且优于现有方法。

Comments Accepted to EMNLP 2025 (Findings)

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.23982 2026-08-18 cs.MA cs.AI 版本更新 85%

Moral Hazard in Multi-Agent Language Models

多智能体语言模型中的道德风险

Dane Malenfant

专题命中 指令微调 :language model(title);SFT(abstract,abstract_cn);language agent(abstract);分类 cs.AI

AI总结 研究多智能体语言模型中的道德风险,引入对话道德风险游戏,评估七个模型并分解行为,用多种优化机制更新,发现效果异质,强调应报告机制级行为而非仅团队成功。

Comments New frontier baselines, new open weight inference baselines

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.26866 2026-08-18 cs.CL cs.LG 版本更新 83%

MoRFI: Monotonic Sparse Autoencoder Feature Identification

MoRFI: 基于单调性的稀疏自编码器特征识别

Dimitris Dimakopoulos, Shay B. Cohen, Ioannis Konstas

机构 * University of Edinburgh, UK(爱丁堡大学) Heriot-Watt University, UK(赫瑞斯泰德大学)

专题命中 指令微调 :language model(abstract,comments);large language model(abstract);post-training(abstract);SFT(abstract)

AI总结 本文通过控制微调实验发现,逐步引入新知识会增加幻觉,提出MoRFI方法利用稀疏自编码器分析残差流激活,识别因果相关的潜在特征。

Comments Accepted to the Conference on Language Modeling (COLM) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.02414 2026-08-18 cs.CL cs.LG 版本更新 82%

Misconception Diagnosis From Student-Tutor Dialogue: Generate, Retrieve, Rerank

从学生-辅导对话中诊断误解:生成、检索、重排序

Joshua Mitton, Prarthana Bhattacharyya, Digory Smith, Thomas Christie, Ralph Abboud, Simon Woodhead

机构 * Eedi Renaissance Philanthropy Learning Engineering Virtual Institute(Eedi 理性慈善学习工程虚拟研究所)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文提出利用大语言模型从学生-辅导对话中检测误解的方法,通过生成、检索和重排序提升误解识别的准确性。

Comments Published as Oral Paper at Learning at Scale, 2026. Link: this https URL (https://dl.acm.org/doi/10.1145/3774398.3811609). 21 pages, 8 figures, 8 tables. Joshua Mitton and Prarthana Bhattacharyya contributed equally to this paper

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12478 2026-08-18 cs.CV cs.LG 版本更新 79%

Less Data, Faster Convergence: Goal-Driven Data Optimization for Multimodal Instruction Tuning

数据更少,收敛更快:面向多模态指令微调的目标驱动数据优化

Rujie Wu, Haozhe Zhao, Hai Ci, Yizhou Wang

机构 * Peking University(北京大学) University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) National University of Singapore(新加坡国立大学)

专题命中 指令微调 :instruction tuning(title,abstract);分类 cs.LG

AI总结 本文提出目标驱动数据优化框架GDO,通过优化训练样本实现更快收敛和更高精度,适用于多模态指令微调任务。

Comments Accepted to ECCV 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2411.15041 2026-08-18 cs.AI cs.CL 版本更新 73%

mR$^2$AG: Multimodal Retrieval-Reflection-Augmented Generation for Knowledge-Based VQA

mR²AG:用于基于知识的视觉问答的多模态检索-反思增强生成

Tao Zhang, Ziqi Zhang, Zongyang Ma, Yuxin Chen, Zhongang Qi, Chunfeng Yuan, Bing Li, Junfu Pu, Yuxuan Zhao, Zehua Xie, Jin Ma, Ying Shan, Weiming Hu

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 该研究针对多模态大语言模型在基于知识的视觉问答中的缺陷,提出mR²AG框架,通过两种反思操作实现自适应检索与信息定位,在相关基准任务上性能优于现有方法。

Comments Accepted for publication in IEEE Transactions on Multimedia (TMM)

详情

展开后加载摘要…

URL PDF HTML 收藏
2405.07780 2026-08-18 cs.LG cs.AI cs.CV 版本更新 62%

DirMixE: Harnessing Test Agnostic Long-tail Recognition with Hierarchical Label Variations

DirMixE:利用层次化标签变异实现测试无关长尾识别

Zhiyong Yang, Qianqian Xu, Sicong Li, Zitai Wang, Xiaochun Cao, Qingming Huang

专题命中 指令微调 :foundation model(abstract);分类 cs.AI、cs.LG

AI总结 DirMixE通过分层标签变异策略提升测试无关长尾识别性能,结合参数高效微调框架实现更稳定的模型泛化能力。

Comments Conference version: Zhiyong Yang, Qianqian Xu, Zitai Wang, Sicong Li, Boyu Han, Shilong Bao, Xiaochun Cao, and Qingming Huang. Harnessing Hierarchical Label Distribution Variations in Test Agnostic Long-tail Recognition. ICML, 56624-56664, 2024

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.05714 2026-08-18 cs.AI 版本更新 57%

RA-CAD: Learning Post-Execution Critique for State-Aware Text-to-CAD Generation

RA-CAD:学习执行后批判的状态感知文本到CAD生成模型

Shuhao Yan, Changhao He, Peng Hu, Xi Peng

专题命中 指令微调 :language model(abstract);分类 cs.AI

AI总结 该研究针对文本到CAD生成的反馈利用不足问题,提出RA-CAD智能体,通过生成-执行-批判-重写循环结合CCB、FAO优化,在CADFusion和Text2CAD上实现最优性能。

Comments 17 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.04535 2026-08-18 cs.LG cs.DC 版本更新 57%

FDA-Opt: Federated Fine-Tuning via Dynamic Update Schedules

高效通信的联邦微调

Michael Theologitis, Vasilis Samoladas, Antonios Deligiannakis

机构 * University of Washington(华盛顿大学) Technical University of Crete(希腊塞萨洛尼基技术大学)

专题命中 指令微调 :language model(abstract);分类 cs.LG

AI总结 本文提出FDA-Opt算法,解决联邦学习中参数通信频繁和刚性的难题,通过统一FDA和FedOpt方法,提升语言模型在下游NLP任务中的微调性能。

Comments CIKM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏