arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-21 至 2026-08-21 共收录 18 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 18 篇

2602.07442 2026-08-21 cs.HC cs.IR 版本更新 91%

EchoTrace: Diagnosing Recursive Risks in LLM-Powered Recommender Systems

循环中的回声:在LLM推荐系统中反馈循环下的风险诊断

Donguk Park, Dongwon Lee, Yeon-Chang Lee

专题命中 预训练与数据 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文提出了一种角色感知的诊断框架,用于分析LLM推荐系统中反馈循环下的系统性风险,包括偏见、幻觉和自我强化的暴露模式。

Comments Accepted by ACM CIKM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.20281 2026-08-21 cs.CL cs.AI 新提交 90%

Inject, Align, Recover: Staged Post-Training for Retrieval-Free Document Knowledge Internalization

注入、对齐、恢复:用于无需检索的文档知识内化的分阶段后训练

Qian Kou, Xiaofeng Shi, Xiaosong Qiu, Hua Zhou

专题命中 预训练与数据 :post-training(title,abstract);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 针对大型语言模型无需检索文档时无法回答相关问题的痛点,提出IAR三阶段后训练框架,在多数据集、多模型上显著提升了文档知识内化的领域与通用性能。

Comments 21 pages, 4 figures. Includes Supplementary Material Sections A--G. Qian Kou and Xiaofeng Shi contributed equally and are co-corresponding authors. Hua Zhou is the project leader

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19266 2026-08-21 cs.CR cs.AI 新提交 90%

Incident-Data Robustness Analysis of the OWASP Top 10 for LLM Applications (2026): How a Community-Expert Ranking Holds Up Against a Large-Scale LLM Incident Corpus

2026年面向LLM应用的OWASP Top 10的事件数据鲁棒性分析:社区专家排名如何在大规模LLM事件语料库面前保持有效性

Kyriakos "Rock" Lambros, Steve Wilson

专题命中 预训练与数据 :LLM(title,title_cn);分类 cs.AI

AI总结 该研究以OWASP 2026年LLM应用Top 10专家排名为对象,结合7714条LLM安全事件语料库,用贝叶斯模型分析其鲁棒性,发现两者一致性弱但专家排名仍具鲁棒性,且未推翻官方共识。

Comments 26 pages, 19 figures. Exploratory incident-data analysis by two members of the OWASP GenAI Security Project Top 10 for LLM Applications working group. Analysis predates the official OWASP GenAI LLM Top 10 2026 (published August 2026). Not an official OWASP release and does not supersede the official list or process. Code and data: this https URL (https://github.com/rocklambros/incident-rank-validation)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.20005 2026-08-21 cs.LG 新提交 88%

Scale-Aware Pretraining of Time Series Foundation Models via Multi-Patch Token Alignment and Hybrid Masking

基于多补丁令牌对齐与混合掩码的时间序列基础模型尺度感知预训练

Taihua Chen, Xiang Ma, Yixin Zhang, Tailin Zhan, Manyu Sun, Lizhen Cui

机构 * School of Software, Shandong University(山东大学软件学院) Joint SDU–NTU Centre for Artificial Intelligence Research (C-FAIR), Shandong University(山东大学-南洋理工大学人工智能联合研究中心(C-FAIR)) Nanyang Technological University(南洋理工大学)

专题命中 预训练与数据 :foundation model(title,abstract);pretraining(title,abstract);分类 cs.LG

AI总结 本文针对时间序列基础模型预训练中处理不同采样频率的问题,提出SATS方法,通过尺度感知令牌对齐与混合掩码策略实现最优性能,同时提升模型效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19463 2026-08-21 cs.LG 新提交 87%

LLM as Detector: An In-context Learning Approach for Tabular Anomaly Detection

作为检测器的大语言模型:一种用于表格异常检测的上下文学习方法

Tu Anh Hoang Nguyen, Dang Nguyen, Thuc Duy Le, Trung Le, Sunil Gupta

机构 * Applied Artificial Intelligence Initiative (A2I2), Deakin University(应用人工智能计划(A2I2),迪肯大学) Adelaide University(阿德莱德大学) Monash University(莫纳什大学)

专题命中 预训练与数据 :LLM(title,summary_cn);分类 cs.LG

AI总结 本研究提出LLM-Detector框架,利用LLM的上下文学习能力进行表格异常检测,在24个数据集上对比15个SOTA基线均获提升,且无需微调或神经网络训练,降低了计算成本。

Comments Accepted at International Conference on Neural Information Processing (ICONIP) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.00691 2026-08-21 cs.CV 版本更新 82%

Silhouette-based Gait Foundation Model

基于轮廓的步态基础模型

Dingqiang Ye, Chao Fan, Kartik Narayan, Bingzhe Wu, Chengwen Luo, Jianqiang Li, Vishal M. Patel

机构 * Johns Hopkins University(约翰霍普金斯大学) Shenzhen University(深圳大学)

专题命中 预训练与数据 :foundation model(title,abstract);pretraining(abstract)

AI总结 FoundationGait是首个可扩展的自监督预训练框架,用于步态理解,通过大规模预训练在多个数据集上实现稳健的步态识别性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.21489 2026-08-21 cs.LG 版本更新 79%

GraphPFN: A Prior-Data Fitted Graph Foundation Model

GraphPFN:一种先验数据拟合的图基础模型

Dmitry Eremeev, Oleg Platonov, Gleb Bazhenov, Artem Babenko, Liudmila Prokhorenkova

机构 * HSE University(莫斯科国立高等经济学院) Yandex Research(Yandex研究院)

专题命中 预训练与数据 :foundation model(title,abstract);分类 cs.LG

AI总结 针对图基础模型的可迁移性和数据稀缺问题,提出GraphPFN,基于先验数据拟合网络框架,设计多级随机块模型和优先连接过程生成合成图,结合图感知结构化因果模型生成属性,并扩展LimiX模型以融合图邻域聚合层,在节点级任务上实现上下文学习和微调的最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19200 2026-08-21 cs.CL cs.AI 新提交 79%

Transformer Models for Text Summarization: A Comparative Study of BART, BERT, and RoBERTa

用于文本摘要的Transformer模型:BART、BERT与RoBERTa的对比研究

Daisy Aptovska, Vinayak Elangovan

专题命中 预训练与数据 :large language model(abstract);language model(abstract);pretraining(abstract);分类 cs.CL、cs.AI

AI总结 该研究针对文本摘要任务,对比分析BERT、RoBERTa、BART三款Transformer模型的架构、预训练策略及在抽取式、生成式摘要任务中的适用性,为相关应用提供参考。

Comments 1- pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.20186 2026-08-21 cs.LG q-bio.NC 新提交 70%

Decoding silent reading from non-invasive EEG

从无创脑电图解码默读内容

Ingo Marquardt, Anthilia Alchanat, Priyanka Jain

机构 * nubrain

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本研究以默读为替代任务,用CLIP式对比训练的卷积EEG编码器结合因果Transformer,从EEG中成功解码开放词汇单词级信息,发现解码受数据限制而非饱和。

Comments 45 pages (including 12 pages of Supplementary Material), 11 figures (including 2 in Supplementary Material)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19376 2026-08-21 cs.CV cs.AI 新提交 70%

Does Marginal Coverage Guarantee Class-Conditional Safety for Zero-Shot VLMs Under Shift?

在分布偏移下,边际覆盖率能否保证零样本视觉语言模型(VLM)的类条件安全性?

Jai Kumar Sharma, Amartya Dutta

机构 * Virginia Tech(弗吉尼亚理工大学)

专题命中 预训练与数据 :language model(abstract);pretraining(abstract);分类 cs.AI

AI总结 该研究针对CLIP等零样本VLM,发现边际共形覆盖率无法保证类条件安全性,源域校准无法迁移,目标域类别校准可改善尾部但需类别标签,指出其仅为平均可靠性统计量。

Comments Accepted at the ECCV 2026 Workshop on Uncertainty Quantification for Computer Vision (UNCV). 34 pages (16 main + 18 supplementary), 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19684 2026-08-21 cs.AI cs.LG cs.RO 新提交 62%

Learning Hierarchical Skill Policies with Offline Quality-Diversity Reinforcement Learning

利用离线质量多样性强化学习学习分层技能策略

Tanachai Anakewat, Takayuki Osa, Tatsuya Harada

机构 * The University of Tokyo(东京大学) RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.AI、cs.LG

AI总结 该研究提出QDOS算法,通过优势加权质量多样性预训练与双数据集复用策略,在分层技能学习框架下,于稀疏奖励任务中显著提升性能,优于强基线算法。

Comments IROS 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19491 2026-08-21 cs.LG cs.CL math.OC stat.ML 新提交 62%

DeltaMomentum: A Key-Value based Anisotropic Momentum Update via Delta Rule

DeltaMomentum:基于键值结构的Delta规则各向异性动量更新

Euijin Hong, Guannan Qu

机构 * Carnegie Mellon University(卡内基梅隆大学)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.CL、cs.LG

AI总结 DeltaMomentum将方向感知融入动量更新,可作为优化器动量缓冲器的即插即用替代,在预训练中减少AdamW步数,在多模型和数据集上验证了其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19858 2026-08-21 cs.LG 新提交 57%

Online Test-Time Adaptation for Generalizable Dynamic Graph Anomaly Detection

面向可泛化动态图异常检测的在线测试时适应

Jialun Zheng, Hanchen Yang, Jiannong Cao, Yankai Chen, Yuanjing Feng, Philip S. Yu

机构 * The Hong Kong Polytechnic University(香港理工大学) Institute of Information Processing and Automation, Zhejiang University of Technology(浙江工业大学信息处理与自动化研究所) University of Illinois at Chicago (UIC)(伊利诺伊大学芝加哥分校)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 针对可泛化动态图异常检测现有方法的局限,提出OTTA-DGAD方法,通过时序自图提取动态原型并结合内存缓冲区,在10个真实世界数据集上实现了最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19766 2026-08-21 cs.CV cs.LG 新提交 57%

Far from the Crowd: Scalable Self-Supervised Learning via Geographic Isolation

远离人群:基于地理隔离的可扩展自监督学习

Daniele Rege Cambrin, Francesco Rossi, Mattia Varile

机构 * AIKO

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 该研究提出基于地理隔离的无标签代理指标,将其集成到MoCoV2和MAE预训练中,在CopernicusBench的三个下游任务上验证,可大幅降低预计算成本并提升下游性能。

Comments Accepted to ECCV 2026 TerraBytes Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09921 2026-08-21 cs.AI 版本更新 57%

GENCO - A Unified Neural Solver Embedded in a Development Framework for Steady-State Grid Analysis

GENCO — 嵌入开发框架的稳态电网分析统一神经求解器

Alban Puech, Matteo Mazzonelli, Tamara R. Govindasamy, Mangaliso Mngomezulu, Héctor Maeso-García, Thomas Tolhurst, Javad Bayazi, Ali Moeini, Naomi Simumba, Celia Cintas, David Nelischer, Romeo Kienzler, Jonas Weiss, Anna Varbella, Florian Dörfler, Gabriela Hug, Martin Mevissen, Juan Bernabé-Moreno, François Mirallès, Hendrik F. Hamann, Etienne Vos, Thomas Brunschwiler

机构 * IBM Research(IBM研究院) Hydro-Québec Research Institute(魁北克水电研究院) ETH Zurich(苏黎世联邦理工学院) Stony Brook University(石溪大学) Brookhaven National Laboratory(布鲁克海文国家实验室)

专题命中 预训练与数据 :foundation model(abstract);分类 cs.AI

AI总结 研究人员推出统一神经求解器GENCO及开源GridFM开发框架,其可处理电网PF、OPF、SE任务,在基准测试中提速显著且性能优于经典求解器,降低电网分析门槛。

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.07459 2026-08-21 cs.LG q-bio.QM 版本更新 57%

ProteinZero: Self-Improving Protein Generation via Online Reinforcement Learning

ProteinZero:通过在线强化学习实现自我改进的蛋白质生成

Ziwen Wang, Jiajun Fan, Ruihan Guo, Thao Nguyen, Heng Ji, Ge Liu

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 ProteinZero通过在线强化学习实现蛋白质生成模型的自我改进,提升设计成功率与多样性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.20157 2026-08-21 cs.CV 新提交 50%

G3Ego: Gaze-Guided Graphs for Egocentric Action Understanding

G3Ego:用于自我中心动作理解的注视引导图

Marko Haralović, Akash Ramakrishnan, Estefania Talavera Martinez

机构 * University of Zagreb(萨格勒布大学) University of Twente(特文特大学)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本研究提出G3Ego框架,将注视直接融入图构建以识别动作相关实体,在EGTEA Gaze+和MECCANO数据集上实现有竞争力的动作理解性能,且在类别不平衡评估下提升Macro-F1,无需昂贵视频预训练。

Comments Accepted at the CONTEXTUS Workshop, ECCV 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19238 2026-08-21 cs.NE cs.CV 新提交 50%

Spiking Local Interaction and Adaptive Complementary Fusion for Spiking Transformer

用于脉冲 Transformer 的脉冲局部交互与自适应互补融合

Dongcheng Zhao, Sicheng Shen, Zhenyu Yang, Zhiyuan Li, Jinyan Yu, Yongjian Wang, Tiechui Yao, Wenli Zhang, Tielin Zhang

专题命中 预训练与数据 :pretraining(abstract)

AI总结 该研究针对脉冲 Transformer 局部空间上下文传播受限问题,提出脉冲局部交互与自适应互补融合方法,在多类视觉任务上实现性能提升,QKFormer 取得优异表现。

详情

展开后加载摘要…

URL PDF HTML 收藏