arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-03-12 至 2026-03-12 共收录 18 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 18 篇

2312.00819 2026-03-12 cs.LG cs.AI cs.CL 91%

Large Language Models for Travel Behavior Prediction

基于大语言模型的出行行为预测

Baichuan Mo, Hanyong Xu, Ruoyun Ma, Jung-Hoon Cho, Dingyi Zhuang, Xiaotong Guo, Jinhua Zhao

机构 * Department of Civil Engineering, Tsinghua University, Beijing, China(清华大学土木工程系) Department of Civil and Environmental Engineering, Massachusetts Institute of Technology, Cambridge, MA 02139(麻省理工学院土木与环境工程系) Department of Urban Studies and Planning, Massachusetts Institute of Technology, Cambridge, MA 20139(麻省理工学院城市研究与规划系) Department of Management Science and Engineering, Stanford University, Stanford, CA 94305(斯坦福大学管理科学与工程系)

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);LLM(abstract);prompting(abstract)

AI总结 本文提出利用大语言模型进行出行行为预测,通过零样本提示和文本嵌入两种方法,实现了与传统模型相当的预测性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.14178 2026-03-12 cs.CV cs.AI 88%

UniWeTok: An Unified Binary Tokenizer with Codebook Size $\mathit{2^{128}}$ for Unified Multimodal Large Language Model

UniWeTok: 一种具有 $2^{128}$ 大小代码本的统一二进制分词器用于统一多模态大语言模型

Shaobin Zhuang, Yuang Ai, Jiaming Han, Weijia Mao, Xiaohui Li, Fangyikang Wang, Xiao Wang, Yan Li, Shanchuan Lin, Kun Xu, Zhenheng Yang, Huaibo Huang, Xiangyu Yue, Hao Chen, Yali Wang

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 UniWeTok通过大规模二进制代码本和改进的训练框架,实现统一多模态大语言模型的高效视觉表示。

Comments 29 pages, 9 figures, 33 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10547 2026-03-12 cs.CL 86%

Automatic End-to-End Data Integration using Large Language Models

基于大语言模型的自动端到端数据集成

Aaron Steiner, Christian Bizer

专题命中 预训练与数据 :large language model(title);language model(title);LLM(abstract);分类 cs.CL

AI总结 本文提出基于大语言模型的自动端到端数据集成方法,通过生成必要 artifacts 实现数据集成管道的自动化配置,实验表明其在性能和成本上均具竞争力。

Comments 8 pages, 9 tables. Accepted at the Beyond SQL Workshop at ICDE 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.09800 2026-03-12 cs.IR cs.AI cs.CL cs.LG hep-ex 80%

MITRA: An AI Assistant for Knowledge Retrieval in Physics Collaborations

MITRA:一种用于物理学协作中知识检索的AI助手

Abhishikth Mallampalli, Sridhara Dasu

专题命中 预训练与数据 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 MITRA是一种基于RAG的AI助手,通过本地化框架实现物理学协作中的高效知识检索与生成。

Comments Accepted at NeurIPS 2025 Machine Learning for the Physical Sciences workshop and Lepton Photon conference 2025 (Computing AI/ML track)

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10871 2026-03-12 cs.RO 78%

FG-CLTP: Fine-Grained Contrastive Language Tactile Pretraining for Robotic Manipulation

FG-CLTP: 用于机器人操作的细粒度对比语言触觉预训练

Wenxuan Ma, Chaofan Zhang, Yinghao Cai, Guocai Yao, Shaowei Cui, Shuo Wang

机构 * Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所) Beijing Academy of Artificial Intelligence(北京人工智能研究院)

专题命中 预训练与数据 :pretraining(title,abstract)

AI总结 FG-CLTP通过细粒度对比学习提升机器人触觉感知,实现高精度分类和控制,减少误差并增强跨传感器泛化能力。

Comments 9 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11008 2026-03-12 cs.IR cs.CL 77%

A Systematic Study of Pseudo-Relevance Feedback with LLMs

基于大语言模型的伪相关反馈的系统研究

Nour Jedidi, Jimmy Lin

机构 * University of Waterloo(滑铁卢大学)

专题命中 预训练与数据 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文系统研究了基于大语言模型的伪相关反馈方法,发现反馈模型选择和反馈源对PRF效果有重要影响,且从语料库获取反馈在强检索器支持下效果最佳。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10299 2026-03-12 cs.LG 77%

Regime-aware financial volatility forecasting via in-context learning

基于情境学习的领域感知金融波动预测

Saba Asaad, Shayan Mohajer Hamidi, Ali Bereyhi

机构 * Department of Electrical and Computer Engineering, University of Toronto(多伦多大学电气与计算机工程系) Department of Electrical Engineering, Stanford University(斯坦福大学电气工程系)

专题命中 预训练与数据 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出一种基于情境学习的领域感知金融波动预测方法,通过条件采样策略提升非平稳市场下的预测性能。

Comments 11 pages, 1 figure, Published as a conference paper at ICLR 2026 Workshop on Advances in Financial AI

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.18928 2026-03-12 cs.AI 77%

Talking like Piping and Instrumentation Diagrams (P&IDs)

像管道和仪表图(P&IDs)一样交流

Achmad Anggawirya Alimin, Dominik P. Goldstein, Lukas Schulze Balhorn, Artur M. Schweidtmann

机构 * Process Intelligence Research Group(过程智能研究组) Department of Chemical Engineering(化学工程系) Delft University of Technology(代尔夫特理工大学)

专题命中 预训练与数据 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 该研究提出通过自然语言与P&IDs交互的方法,利用图表示和LLM结合,实现P&IDs信息的检索与解释,提升工程师工作效率。

Journal ref Systems and Control Transactions 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10016 2026-03-12 cs.CY cs.AI 70%

Assessing Cognitive Biases in LLMs for Judicial Decision Support: Virtuous Victim and Halo Effects

评估大语言模型在司法决策支持中的认知偏差:善良的受害者效应和光环效应

Sierra S. Liu

机构 * Sierra S. Liu

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 研究评估大语言模型在司法决策支持中的认知偏差,发现善良受害者效应和光环效应存在差异,部分偏差在人类和模型间有显著差异。

Comments IEEE ICDM 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10712 2026-03-12 cs.RO 67%

FutureVLA: Joint Visuomotor Prediction for Vision-Language-Action Model

FutureVLA: 视觉-运动联合预测用于视觉-语言-动作模型

Xiaoxu Xu, Hao Li, Jinhui Ye, Yilun Chen, Jia Zeng, Xinyi Chen, Linning Xu, Dahua Lin, Weixin Li, Jiangmiao Pang

专题命中 预训练与数据 :pretraining(abstract);post-training(abstract)

AI总结 FutureVLA通过联合视觉-运动预测架构,解决视觉-语言-动作模型中联合建模的挑战,提升时间连续性和视觉监督解耦能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10123 2026-03-12 cs.LG cs.AI cs.CL 67%

Lost in the Middle at Birth: An Exact Theory of Transformer Position Bias

出生时便迷失在中间:变换器位置偏置的精确理论

Borun D Chowdhury

专题命中 预训练与数据 :pretraining(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出变换器位置偏置的精确理论,揭示U形性能曲线源于初始化时因果解码器的几何属性,证明中间上下文检索和训练在结构上具有敌意。

Comments 11 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11048 2026-03-12 cs.CV cs.AI cs.CL cs.MA cs.NE 62%

COMIC: Agentic Sketch Comedy Generation

COMIC:基于代理的即兴喜剧生成

Susung Hong, Brian Curless, Ira Kemelmacher-Shlizerman, Steve Seitz

专题命中 预训练与数据 :LLM(abstract);分类 cs.CL、cs.AI

AI总结 COMIC提出了一种基于代理的自动化系统,通过LLM评论家和迭代优化生成高质量喜剧视频。

Comments Project page: https://susunghong.github.io/COMIC/

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.18552 2026-03-12 cs.LG cs.AI 62%

Global Minimizers of Sigmoid Contrastive Loss

对Sigmoid对比损失的全局极小值

Kiril Bangachev, Guy Bresler, Iliyas Noman, Yury Polyanskiy

机构 * Department of Electrical Engineering and Computer Science(电气工程与计算机科学系)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.AI、cs.LG

AI总结 本文理论分析了Sigmoid对比损失中同步可训练逆温度和偏置的优势,并提出改进训练动态的重参数化方法。

Comments Author names listed in alphabetical order. NeurIPS 2025. New version includes some results on the geometry of CLIP in addition to geometry of SigLIP

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10524 2026-03-12 cs.CL 57%

AILS-NTUA at SemEval-2026 Task 8: Evaluating Multi-Turn RAG Conversations

AILS-NTUA 在 SemEval-2026 任务 8: 评估多轮 RAG 对话

Dimosthenis Athanasiou, Maria Lymperaiou, Giorgos Filandrianos, Athanasios Voulodimos, Giorgos Stamou

机构 * National Technical University of Athens(国家技术大学雅典)

专题命中 预训练与数据 :LLM(abstract);分类 cs.CL

AI总结 AILS-NTUA 系统通过查询多样性策略和多阶段生成管道,在多轮 RAG 任务中取得领先表现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.13755 2026-03-12 cs.LG cs.NE nlin.CD stat.ML 57%

Panda: A pretrained forecast model for chaotic dynamics

Panda:用于混沌动力学的预训练预测模型

Jeffrey Lai, Anthony Bao, William Gilpin

机构 * Oden Institute UT Austin(奥登学院德克萨斯大学) ECE Department UT Austin(电子与计算机工程系德克萨斯大学) Department of Physics UT Austin(物理系德克萨斯大学)

专题命中 预训练与数据 :foundation model(abstract);分类 cs.LG

AI总结 Panda是一种预训练模型,通过训练于合成数据集,能够零样本预测混沌系统并有效预测现实世界的时间序列。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10638 2026-03-12 cs.CV 50%

Splat2Real: Novel-view Scaling for Physical AI with 3D Gaussian Splatting

Splat2Real:基于物理AI的新型视角缩放与3D高斯点云技术

Hansol Lim, Jongseong Brad Choi

机构 * Department of Mechanical Engineering, State University of New York(纽约州立大学机械工程系)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 Splat2Real通过CN-Coverage策略提升物理AI在新型视角下的鲁棒性,实现更稳定的深度预训练和下游控制代理性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.10609 2026-03-12 cs.RO 50%

Learning Bimanual Cloth Manipulation with Vision-based Tactile Sensing via Single Robotic Arm

通过单个机械臂实现基于视觉的触觉感知的双臂布料操作学习

Dongmyoung Lee, Wei Chen, Xiaoshuai Chen, Rui Zong, Petar Kormushev

专题命中 预训练与数据 :foundation model(abstract)

AI总结 本文提出Touch G.O.G.,通过单个机械臂实现基于视觉的触觉感知的双臂布料操作,结合新颖抓取器设计、视觉Transformer流程和合成数据生成器,实现高精度布料识别与操作。

Comments 11 pages, 13 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.06586 2026-03-12 cs.IR 50%

Scaling Multilingual Semantic Search in Uber Eats Delivery

在Uber Eats配送中扩展多语言语义检索

Bo Ling, Zheng Liu, Haoyang Chen, Divya Nagar, Luting Yang, Mehul Parsana

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出了一种面向生产的多语言语义检索系统,通过微调Qwen2模型和Matryoshka Representation Learning技术,实现了在多个市场和垂直领域中的高召回率提升。

Comments 15 pages, 11 tables, 1 figure. Planned for submission to SIGIR or KDD 2026

详情

展开后加载摘要…

URL PDF HTML 收藏