语言大模型 / LLM

H2LooP Spark Preview: Continual Pretraining of Large Language Models for Low-Level Embedded Systems Code

H2LooP Spark Preview：为低级嵌入式系统代码进行大语言模型的持续预训练

Amit Singh, Vedant Nipane, Pulkit Agrawal, Jatin Kishnani, Sairanjan Mishra

机构 * H2LooP.ai 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；pretraining(title,abstract)；分类 cs.LG

AI总结 本文提出H2LooP Spark Preview，通过持续预训练方法，利用BF16 LoRA技术将OLMo-3-7B模型适应于嵌入式系统领域，显著降低困惑度并提升代码生成性能。

LLM-Augmented Therapy Normalization and Aspect-Based Sentiment Analysis for Treatment-Resistant Depression on Reddit

基于大型语言模型的疗法规范化与基于方面的情感分析用于抗药性抑郁症的Reddit研究

Yuxin Zhu, Sahithi Lakamana, Masoud Rouhizadeh, Selen Bozkurt, Rachel Hershenberg, Abeed Sarker

专题命中 预训练与数据 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文通过Reddit数据研究抗药性抑郁症患者的药物使用和情感倾向，利用大型语言模型进行情感分析，揭示药物感知差异及治疗经验特征。

A Generative Model of Conspicuous Consumption and Status Signaling

conspicuous 消费与地位信号的生成模型

Logan Cross, Jordi Grau-Moya, William A. Cunningham, Alexander Sasha Vezhnevets, Joel Z. Leibo

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本文提出基于适当性理论的生成模型，通过模拟LLM代理群体的社会互动，揭示了社会观察与预测模式完成的反馈循环如何驱动地位符号的内生生成，展示了消费行为与地位信号的动态关系。

Comments 29 pages, 13 figures

A Closed-Form Solution for Debiasing Vision-Language Models with Utility Guarantees Across Modalities and Tasks

为跨模态和任务提供具有实用保障的视觉-语言模型去偏方法

Tangzheng Lian, Guanyu Hu, Yijing Ren, Dimitrios Kollias, Oya Celiktutan

机构 * King’s College London（伦敦国王学院） ； Queen Mary University of London（伦敦女王学院） 纠错

专题命中 预训练与数据 ：language model(title,abstract)

AI总结 本文提出一种无需标注数据的训练自由去偏方法，在跨模态空间中获得帕累托最优公平性，同时保持有限的实用性损失，实验显示其在多种公平度量和任务中优于现有方法。

RECAP: Reproducing Copyrighted Data from LLMs Training with an Agentic Pipeline

RECAP：通过代理流水线从LLM训练中重现受版权保护的数据

André V. Duarte, Xuying li, Bin Zeng, Arlindo L. Oliveira, Lei Li, Zhuo Li

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Instituto Superior Técnico/INESC-ID（里斯本技术大学/INESC-ID） ； Hydrox AI 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 RECAP通过代理流水线从LLM输出中提取和验证记忆的训练数据，利用反馈循环和对抗模块提升版权文本提取效果，实验显示其在ROUGE-L评分上显著提升。

Learning from Child-Directed Speech in Two-Language Scenarios: A French-English Case Study

在双语场景中学习儿童引导的口语：一项法语-英语案例研究

Liel Binyamin, Elior Sulem

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了在严格数据匹配条件下，扩展BabyBERTa至英法双语场景的紧凑语言模型，对比儿童口语与多领域语料对语法和语义任务的影响，发现儿童口语在单语任务中表现更优，双语预训练对文本蕴含任务有显著提升。

Comments Accepted to Findings of EACL 2026

Mocap-2-to-3: Multi-view Lifting for Monocular Motion Recovery with 2D Pretraining

Mocap-2-to-3：多视角提升用于单目运动恢复的2D预训练

Zhumei Wang, Zechen Hu, Ruoxi Guo, Huaijin Pi, Ziyong Feng, Liang Zhang, Mingtao Pei, Siyuan Huang

机构 * Beijing Institute of Technology（北京理工大学） ； State Key Laboratory of General Artificial Intelligence, BIGAI（国家一般人工智能重点实验室，BIGAI） ； Deep Glint ； Zhejiang University（浙江大学） ； The University of Hong Kong（香港大学） ； Shandong Agricultural University（山东农业大学） 纠错

专题命中 预训练与数据 ：pretraining(title)

AI总结 本文提出Mocap-2-to-3框架，通过多视角合成过程和分阶段训练提升单目运动恢复的精度与泛化能力，实现更精确的物理空间定位。

Comments Project page: https://wangzhumei.github.io/mocap-2-to-3/

Larger Datasets Can Be Repeated More: A Theoretical Analysis of Multi-Epoch Scaling in Linear Regression

更大的数据集可以重复更多次：线性回归中多轮缩放的理论分析

Tingkai Yan, Haodong Wen, Binghui Li, Kairong Luo, Wenguang Chen, Kaifeng Lyu

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文理论分析了在线性回归中，通过多次训练同一数据集的常见方法如何改变数据缩放规律。研究发现，当训练轮数K较小时，数据有效重复率E(K,N)近似为K，而随着K增加，E(K,N)趋于一个随数据规模N增长的值。

Interrogating Design Homogenization in Web Vibe Coding

审视网络 vibe 编码中的设计同质化

Donghoon Shin, Alice Gao, Rock Yuren Pang, Jaewook Lee, Katharina Reinecke, Emily Tseng

机构 * University of Washington（华盛顿大学） ； Microsoft Research（微软研究院） 纠错

专题命中 预训练与数据 ：prompting(abstract)；分类 cs.AI

AI总结 本文探讨了生成式AI在复杂结构任务如网络设计中的同质化影响，分析了vibe编码生命周期中的风险阶段，并提出通过引入productive friction来缓解同质化问题的框架。

Forecasting Epileptic Seizures from Contactless Camera via Cross-Species Transfer Learning

通过无接触摄像头进行癫痫发作的跨物种迁移学习预测

Mingkai Zhai, Wei Wang, Zongsheng Li, Quanying Liu

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出基于视频的癫痫发作预测任务，利用短预发作视频片段预测后续5秒内是否会发作，通过跨物种迁移学习利用大量啮齿类动物视频数据提升预测准确性，实验结果显示在纯视频设置下预测准确率超过70%。

Omni-Video 2: Scaling MLLM-Conditioned Diffusion for Unified Video Generation and Editing

Omni-Video 2：基于MLLM条件扩散模型的统一视频生成与编辑扩展

Hao Yang, Zhiyu Tan, Jia Gong, Luozheng Qin, Hesen Chen, Xiaomeng Yang, Yuqing Sun, Yuetan Lin, Mengping Yang, Hao Li

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文提出Omni-Video 2，通过连接预训练多模态大语言模型与视频扩散模型，实现视频生成与编辑的统一。核心方法是利用MLLM生成明确的目标描述以指导生成过程，并通过轻量适配器高效注入多模态条件token，提升复杂编辑任务性能。

Comments Technical Report, Project: https://howellyoung-s.github.io/Omni-Video2-project/

EMGauss: Continuous Slice-to-3D Reconstruction via Dynamic Gaussian Modeling in Volume Electron Microscopy

EMGauss：通过动态高斯建模在体积电子显微镜中实现连续切片到三维重建

Yumeng He, Zanwei Zhou, Yekun Zheng, Chen Liang, Yunbo Wang, Xiaokang Yang

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 EMGauss通过动态高斯建模方法，解决体积电子显微镜中切片到三维重建的异质性限制，提升插值质量并实现连续切片合成。

Comments Accepted by CVPR 2026. Project page: https://raynehe.github.io/EMGauss/