arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 366 信号源:cs.CL, cs.AI, cs.LG

1. 其他LLM 366 篇

2605.21369 2026-07-07 cs.CL 版本更新 81%

Findings of the Fifth Shared Task on Multilingual Coreference Resolution: Expanding Datasets for Long-Range Entities

第五届多语言指代消解共享任务成果:扩展长距离实体的数据集

Michal Novák, Miloslav Konopík, Anna Nedoluzhko, Martin Popel, Ondřej Pražák, Jakub Sido, Milan Straka, Zdeněk Žabokrtský, Daniel Zeman

机构 * Charles University, Faculty of Mathematics and Physics, Institute of Formal and Applied Linguistics(查理大学,数学与物理学院,形式与应用语言学研究所) University of West Bohemia, Faculty of Applied Sciences, Department of Computer Science and Engineering(西波赫大学,应用科学学院,计算机科学与工程系)

专题命中 其他LLM :LLM(summary_cn,abstract);分类 cs.CL

AI总结 本文总结了第五届多语言指代消解共享任务的成果,介绍了通过增加五个新数据集和两种新语言扩展数据集,以解决长距离实体的指代消解问题,并展示了传统系统与基于LLM的方法在任务中的表现。

Comments Accepted to CODI-CRAC 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.01697 2026-06-18 cs.CL 版本更新 81%

RCEM: Robust Conversational Search EMbedder in Distributional Shift

RCEM:配备查询重写技能的嵌入器,用于分布偏移下的鲁棒对话搜索

Kilho Son, Paul Hsu, Cha Zhang, Dinei Florencio

机构 * Microsoft(微软)

专题命中 其他LLM :LLM(summary_cn,abstract);分类 cs.CL

AI总结 提出RCEM模型,通过将LLM的查询重写能力蒸馏到嵌入模型中,实现无需显式重写的上下文感知检索,在分布偏移下提升鲁棒性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.25929 2026-06-18 cs.MA cs.LG 版本更新 81%

Multi-Agent Systems are Mixtures of Experts: Who Becomes an Influencer?

多智能体系统是专家混合:谁成为影响者?

Franka Bause, Jonas Niederle, Martin Pawelczyk, Rebekka Burkholz

机构 * CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全中心) Faculty of Computer Science, University of Vienna(维也纳大学计算机科学系)

专题命中 其他LLM :LLM(summary_cn,abstract);分类 cs.LG

AI总结 本文通过Friedkin-Johnsen意见动力学模型分析多智能体LLM协商机制,揭示输入依赖的FJ参数使系统成为专家混合,并探讨基于自信度、感知自信度和初始观点对齐的影响者形成机制。

Comments Accepted at the 2nd Workshop on Compositional Learning at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.09222 2026-06-16 cs.CR cs.AI 版本更新 81%

MUZZLE: Adaptive Agentic Red-Teaming of Web Agents Against Indirect Prompt Injection Attacks

MUZZLE: 针对间接提示注入攻击的自适应智能体红队测试框架

Georgios Syros, Evan Rose, Brian Grinstead, Christoph Kerschbaumer, William Robertson, Cristina Nita-Rotaru, Alina Oprea

机构 * Northeastern University(东北大学) Mozilla Corporation(Mozilla公司)

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 提出MUZZLE框架,利用智能体轨迹自动识别高显著性注入面,自适应生成上下文相关的恶意指令,评估网络智能体对间接提示注入攻击的安全性,发现44种新攻击和跨应用攻击策略。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.11688 2026-06-11 cs.LG 版本更新 81%

Composing Linear Layers from Irreducibles

从不可约元组合线性层

Travis Pence, Daisuke Yamada, Vikas Singh

机构 * University of Wisconsin-Madison(威斯康星大学麦迪逊分校)

专题命中 其他LLM :LLM(summary_cn,abstract);分类 cs.LG

AI总结 提出用Clifford代数将线性层分解为双向量(几何基元)的组合,仅需O(log^2 d)参数,在LLM注意力投影中匹配强基线性能。

Comments 35 Pages, 11 Tables, 6 Figures, Appearing in NeurIPS 2025

Journal ref Advances in Neural Information Processing Systems 38 (2025)

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.08622 2026-06-10 cs.CL cs.SE 版本更新 81%

Automated Alignment between Elicitation Interviews and Requirements

启发式访谈与需求之间的自动对齐

Francesco Dente, Fabiano Dalpiaz, Paolo Papotti

机构 * University of Bologna(博洛尼亚大学)

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 提出将访谈转录与用户故事需求自动对齐的任务,定义忠实度和覆盖率两个度量,利用大语言模型和嵌入模型实现自动评估,在四个数据集上达到0.86 macro-F1。

Comments 8 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.02399 2026-06-08 cs.SE cs.AI 版本更新 81%

Towards Iterative End-to-End Software Development: A Feature-Driven Multi-Agent Framework

迈向迭代式端到端软件开发:一种特征驱动的多智能体框架

Junwei Liu, Chen Xu, Chong Wang, Tong Bai, Weitong Chen, Kaseng Wong, Yiling Lou, Xin Peng

机构 * Fudan University(复旦大学) Nanyang Technological University(南洋理工大学)

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 提出EvoDev框架,通过特征分解、依赖建模和上下文传播,实现迭代式端到端软件开发,在Android任务上比Claude Code提升57.3%。

Comments Accepted by ISSTA 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.26045 2026-08-04 cs.CL cs.AI 版本更新 81%

Confidence and Calibration of Activation Oracles for Reliable Interpretation of Language Model Internals

激活预言机的置信度与校准:用于语言模型内部的可信解释

Federico Torrielli, Peter Schneider-Kamp, Lukas Galke Poech

机构 * University of Turin(都灵大学) University of Southern Denmark(南丹麦大学)

专题命中 其他LLM :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文研究了6种激活预言机置信度估计方法,发现bootstrap模式频率在校准上优于其他方法(ECE 5.7% vs 25.5%),而log-prob基线可作为快速分诊信号。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.24917 2026-08-03 cs.CL cs.LG 版本更新 81%

Estimating near-verbatim extraction risk in language models with decoding-constrained beam search

通过解码约束束搜索估计语言模型中的近原文提取风险

A. Feder Cooper, Mark A. Lemley, Christopher De Sa, Lea Duesterwald, Allison Casasola, Jamie Hayes, Katherine Lee, Daniel E. Ho, Percy Liang

机构 * AVERI Stanford(斯坦福大学) Cornell(康奈尔大学) Google DeepMind(谷歌DeepMind)

专题命中 其他LLM :language model(title);LLM(abstract_cn);分类 cs.CL、cs.LG

AI总结 本文提出解码约束束搜索方法,以有效估计语言模型中的近原文提取风险,揭示更多可提取序列及模型规模对风险的影响。

Comments COLM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.05316 2026-06-08 cs.LG cs.AI 版本更新 81%

Standard vs. Modular Sampling: Best Practices for Reliable LLM Unlearning

标准采样与模块化采样:可靠的大语言模型遗忘的最佳实践

Praveen Bushipaka, Lucia Passaro, Tommaso Cucinotta

机构 * Scuola Superiore Sant’Anna(圣安纳高等学院) University of Pisa(比萨大学)

专题命中 其他LLM :LLM(title,abstract);分类 cs.AI、cs.LG

AI总结 针对大语言模型遗忘中采样策略的不足,提出模块化实体级遗忘(MELU)策略,通过多样化邻居集和模块化采样平衡遗忘效果与模型效用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.05476 2026-07-24 cs.LG 版本更新 80%

Parameter-Free Encoders Remain Viable for RDB Foundation Models

无参数编码器对关系数据库基础模型仍然可行

Linjie Xu, David Wipf

专题命中 其他LLM :foundation model(title,abstract);分类 cs.LG

AI总结 研究如何利用关系数据库预测目标列缺失值,对比无参数和参数化编码器,分析标签输入时RDB编码器属性,通过实验验证简单无参数编码器在多基准任务中仍有强大性能。

Comments ICML 2026 Workshop on Foundation Models for Structured Data

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.13804 2026-08-11 cs.SE 版本更新 80%

An Empirical Study of Gemini 3 for Detecting Natural Language Test Smells in Manual Test Cases

Gemini 3 检测手动测试用例中自然语言测试异味的实证研究

Keila Lucas, Rohit Gheyi, Márcio Ribeiro, Fabio Palomba, Luana Martins, Elvys Soares

专题命中 其他LLM :large language model(abstract);language model(abstract);small language model(abstract);SLM(abstract_cn)

AI总结 研究使用 Gemini-3-Pro-Preview 通过整体测试用例分析策略检测手动测试用例中的七种测试异味,相比小型语言模型性能更优,并发现平均每步近一个异味。

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.06620 2026-08-05 eess.AS 版本更新 80%

Why Pre-trained Models Fail: Feature Entanglement in Multi-modal Depression Detection

预训练模型为何失效:多模态抑郁检测中的特征纠缠

Xiangyu Zhang, Beena Ahmed, Julien Epps

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文针对预训练模型在多模态抑郁检测中性能差的问题,提出信息分离框架解纠缠混合特征,显著提升了SSL模型和LLMs的检测性能,为相关系统开发提供了新见解。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.18673 2026-07-28 cs.MA cs.DC 版本更新 80%

When Coordination Is Avoidable: A Monotonicity Analysis of Organizational Tasks

当协调可避免时:组织任务的单调性分析

Harang Ju

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文通过单调性分析,证明协调并非所有组织任务必需,并基于分布式系统理论提出判定规则,应用于工作流和任务数据集,发现大量协调支出可避免。

Comments 27 pages, 1 figure, 10 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.06452 2026-07-02 cs.HC 版本更新 80%

Code Semantic Zooming

代码语义缩放

Jinsheng Ba, Sverrir Thorgeirsson, Zhendong Su

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 提出基于伪代码的CodeZoom方法,通过多层语义抽象迭代探索、理解和优化代码,在用户研究中相比Claude Code显著提升代码理解与控制感。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22027 2026-07-01 cs.CL cs.AI cs.LG 版本更新 80%

Shared Lexical Task Representations Explain Behavioral Variability In LLMs

共享的词汇任务表示解释了大语言模型中的行为变异

Zhuonan Yang, Jacob Xiaochen Li, Francisco Piedrahita Velez, Eric Todd, David Bau, Michael L. Littman, Stephen H. Bach, Ellie Pavlick

机构 * Brown University(布朗大学) MIT(麻省理工学院) Northeastern University(东北大学)

专题命中 其他LLM :large language model(abstract);language model(abstract);prompting(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过比较指令式和示例式提示发现,大语言模型在不同提示下行为差异可由共享的词汇任务表示解释,揭示了任务特定注意力头在不同提示风格中的共同机制。

Comments Accepted to ICML 2026. Updated to the camera-ready version

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.09625 2026-06-16 cs.HC 版本更新 80%

AwareLLM: A Proactive Multimodal Ecosystem for Personalized Human-AI Collaboration to Enhance Productivity

AwareLLM: 一种主动多模态生态系统,用于个性化人机协作以提升生产力

Amog Rao, Utkarsh Agarwal, Amol Harsh, Siddharth Siddharth

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 AwareLLM通过整合多模态数据与大语言模型,实现主动适应用户心理生理状态,提升任务表现并降低认知疲劳,推动人机协作新范式。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15519 2026-06-09 eess.AS cs.SD 版本更新 80%

Enroll-on-Wakeup: A First Comparative Study of Target Speech Extraction for Seamless Interaction in Real Noisy Human-Machine Dialogue Scenarios

Enroll-on-Wakeup:真实噪声人机对话场景中无缝交互的目标语音提取首次比较研究

Yiming Yang, Guangyong Wang, Haixin Guan, Yanhua Long

机构 * Shanghai Normal University(上海师范大学) Unisound AI Technology Co., Ltd.(Unisound人工智能技术有限公司)

专题命中 其他LLM :LLM(summary_cn,abstract)

AI总结 提出Enroll-on-Wakeup框架,利用唤醒词片段作为注册参考,无需预录语音,实现无缝交互;首次系统比较了判别式和生成式模型在真实噪声条件下的性能,并探索了基于LLM的TTS注册增强。

Comments Accepted to Interspeech 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22038 2026-08-11 cs.CL 版本更新 79%

Source-Modality Monitoring in Vision-Language Models

视觉-语言模型中的源模态监控

Etha Tianze Hua, Tian Yun, Ellie Pavlick

机构 * Department of Computer Science, Brown University(布朗大学计算机科学系)

专题命中 其他LLM :language model(title,abstract);分类 cs.CL

AI总结 研究探讨了多模态模型追踪并沟通信息来源的能力,分析了语法与语义信号在绑定提示词与输入组件中的作用,发现语义信号在模态分布差异大时更占主导。

Comments Accepted at COLM 2026. All resources will be available at https://github.com/ethahtz/source-modality-monitoring

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.04683 2026-08-05 cs.CV cs.CL 版本更新 79%

Failing to See or Failing to Know? Attributing Errors in Vision-Language Models

是看不见还是不知道?归因视觉语言模型中的错误

Khang Nhat Hoang Vo, Artem Vazhentsev, Artem Shelmanov, Timothy Baldwin, Yova Kementchedjhieva

机构 * MBZUAI The University of Melbourne(MBZUAI墨尔本大学)

专题命中 其他LLM :language model(title,abstract);分类 cs.CL

AI总结 研究视觉语言模型在回答需额外知识问题时的错误,提出统一框架分离失败模式,探讨预生成信号能否预测错误源,发现可在解码前预测,能据此进行针对性干预。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.23532 2026-08-03 cs.CR cs.AI cs.LO cs.RO 版本更新 79%

Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric

基于验证感知架构的大语言模型辅助情报、监视与侦察集群任务级运行时保障

Nikolaos Kekatos, Panagiotis Katsaros, Alexios Lekidis, Theodoros Nestoridis, Tom Nianios

专题命中 其他LLM :LLM(title,abstract);分类 cs.AI

AI总结 研究大语言模型辅助的ISR集群任务级运行时保障问题,提出三层组合式运行时验证框架,将任务策略分解,通过验证感知架构聚合判定并融合代数,能检测个体合规但集群违规情况,模拟任务验证了其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21587 2026-07-29 cs.CL 版本更新 79%

A Study of Crosslinguistic Influence in Language Models

语言模型作为人工学习者:探讨跨语言影响

Abderrahmane Issam, Yusuf Can Semerci, Jan Scholtes, Gerasimos Spanakis

机构 * Department of Advanced Computing Sciences(高级计算科学系)

专题命中 其他LLM :language model(title,abstract);分类 cs.CL

AI总结 本研究利用语言模型探讨跨语言影响,发现语言主导性和熟练度对CLI有显著影响,且L1在L2处理中被共激活。

Comments Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2210.05487 2026-07-28 cs.CL 版本更新 79%

Like a bilingual baby: The advantage of visually grounding a bilingual language model

像双语婴儿一样:视觉基础双语语言模型的优势

Khai-Nguyen Nguyen, Zixin Tang, Ankur Mali, Mary ALexandria Kelly

专题命中 其他LLM :language model(title,abstract);分类 cs.CL

AI总结 研究旨在探讨视觉基础对双语语言模型的影响,通过在英西双语图像及字幕上训练LSTM模型,发现视觉基础能提升模型对语义相似性的理解及降低困惑度,为视觉基础语言模型优势提供证据,指出需更多自然语言数据。

Comments Preprint, 7 pages, 2 tables, 1 figure

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.04149 2026-07-23 hep-ph cs.LG hep-ex physics.data-an 版本更新 79%

Enhancing next token prediction based pre-training for jet foundation models

增强基于下一个token预测的喷注基础模型预训练

Joschka Birk, Anna Hallin, Gregor Kasieczka, Nikol Madzharova, Ian Pang, David Shih

机构 * Institut für Experimentalphysik, Universität Hamburg(实验物理研究所,汉堡大学) Rutgers University(罗格斯大学)

专题命中 其他LLM :foundation model(title,abstract);分类 cs.LG

AI总结 研究基于下一个token预测对喷注基础模型预训练的改进,采用混合设置并结合联合预训练策略,提升了下游分类任务性能且不影响生成性能。

Journal ref 2026 Mach. Learn.: Sci. Technol. 7 035042

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.23179 2026-07-21 cs.LG q-bio.BM 版本更新 79%

Induction Meets Biology: Mechanisms of Repeat Detection in Protein Language Models

归纳遇见生物学:蛋白质语言模型中重复检测的机制

Gal Pomerants, Yaniv Nikankin, Anja Reusch, Tomer Tsaban, Ora Schueler-Furman, Yonatan Belinkov

机构 * Weizmann Institute of Science(魏茨曼科学研究院)

专题命中 其他LLM :language model(title,abstract);分类 cs.LG

AI总结 通过分析蛋白质语言模型在掩码预测中的行为,揭示了其检测精确和近似重复序列的两阶段机制:先构建特征表示,再利用归纳头关注重复片段中的对齐标记。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.05878 2026-06-16 cs.LG 版本更新 79%

TS-ICL: A Flexible Time-Indexed Foundation Model for Time Series via In-Context Learning

TS-ICL: 一种基于上下文学习的灵活时间索引时间序列基础模型

Etienne Le Naour, Tahar Nabil, Adrien Petralia

机构 * EDF R&D(EDF研究与发展)

专题命中 其他LLM :foundation model(title,abstract);分类 cs.LG

AI总结 提出TS-ICL,一种基于上下文学习的概率编码器-回归器Transformer,统一了时间序列预测与插值,并在插值任务上达到新最优,同时在部分观测回溯窗口预测中表现突出。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.24275 2026-06-16 cs.LG math.OC stat.ML 版本更新 79%

GradPower: Powering Gradients for Faster Language Model Pre-Training

GradPower: 通过梯度加速更快的语言模型预训练

Jinbo Wang, Mingze Wang, Jiaqi Zhang, Wei Wang, Peng Pei, Xunliang Cai, Weinan E, Lei Wu

机构 * University of Science and Technology of China(中国科学技术大学)

专题命中 其他LLM :language model(title,abstract);分类 cs.LG

AI总结 本文提出GradPower,一种轻量级的梯度变换技术,用于加速语言模型预训练。通过元素级符号幂变换,将梯度输入基础优化器,无需修改优化器内部逻辑或超参数,从而在多种架构、参数规模、数据集和学习率调度方案中均取得更低的终端损失。

Comments 24 pages, accepted by ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.12977 2026-06-16 cs.LG 版本更新 79%

Exact Federated Continual Unlearning for Ridge Heads on Frozen Foundation Models

冻结基础模型上岭回归头的精确联邦持续遗忘

Yijun Quan, Wentai Wu, Giovanni Montana

机构 * WMG, University of Warwick, Coventry CV4 7AL, UK(沃里克大学WMG学院,沃里克大学,英格兰考文特里CV4 7AL,英国) Department of Computer Science, Jinan University, Guangzhou 510632, China(广州大学计算机科学系,广州510632,中国)

专题命中 其他LLM :foundation model(title,abstract);分类 cs.LG

AI总结 针对冻结基础模型+岭回归头的联邦学习场景,提出基于充分统计量的通信协议,实现精确且高效的连续遗忘,支持任意添加和删除请求,保证与集中式重训练等价的确定性。

Comments Accepted to ECML-PKDD 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22278 2026-06-08 cs.CV cs.LG 版本更新 79%

The Dual Mechanisms of Spatial Variable Binding in Vision-Language Models

视觉-语言模型中空间变量绑定的双重机制

Kelly Cui, Nikhil Prakash, Shoval Messica, Ayush Raina, David Bau, Antonio Torralba, Tamar Rott Shaham

机构 * MIT CSAIL(麻省理工学院计算机科学与人工智能实验室) Northeastern University(东北大学) Sony Playstation(索尼PlayStation)

专题命中 其他LLM :language model(title,abstract);分类 cs.LG

AI总结 本文揭示视觉-语言模型通过语言骨干中的内容无关空间关系编码和视觉编码器中的全局布局表示两种机制实现空间变量绑定,其中视觉编码器起主导作用。

Comments 37 pages, 53 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.22917 2026-07-31 cs.AI cs.LG cs.MA 版本更新 79%

Agent Team Work Zone: An Automated, Persistent Workspace for Long-Lived Claude Code Agent Teams

智能体团队工作区:面向长期存在的编码智能体团队的自动化持久工作区

Shouren Wang

专题命中 其他LLM :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 研究针对Claude Code等大语言模型智能体在长期工作流程中存在的问题,提出ATWZ,通过围绕其原生智能体团队构建基于文件系统的操作层,保存智能体工作状态等,解决相关问题并减少提示编写工作量。

Comments 31 pages, 9 figures

详情

展开后加载摘要…

URL PDF HTML 收藏