语言大模型 / LLM

Probabilistic "Copies" in Generative AI Models

生成式人工智能模型中的概率性“复制”

Mark A. Lemley, A. Feder Cooper

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 研究探讨生成式人工智能模型中概率性“复制”问题，指出能从大语言模型提取版权作品文本，因其权重存储令牌统计关系影响概率性生成过程。版权法对此判定重要但现有法律难助力，认为可能采取功能性方法，还建议了法律变革。

Comments Forthcoming, Berkeley Technology Law Journal

Personalizing Incremental Video Search with Hybrid Text and ID Embeddings

使用混合文本和ID嵌入个性化增量视频搜索

Vivek Kanojiya, Vishalaksh Aggarwal, Daeho Baek, Lyndon Kennedy, Xuetao Yin

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 研究针对增量视频搜索中意图不明的问题，提出结合语义与协作信号的个性化系统。通过学习文本和ID嵌入空间构建用户表示，注入相似度到排名器。实验表明离线提升了NDCG@10和MRR，在线提高了点击率、转化率和排名位置，还分析了嵌入权衡与质量。

Comments Accepted to the Industry Track of the 20th ACM Conference on Recommender Systems (RecSys 2026)

Executable JavaScript as a Checkable Specification Language: A JS-SAM Case Study on SysMoBench

可执行JavaScript作为一种可检查的规范语言：关于SysMoBench的JS-SAM案例研究

Jean-Jacques Dubray

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 研究大语言模型用不同语言为真实系统写规范的情况，以SysMoBench为平台，通过添加JS-SAM进行控制比较，涵盖多个模型和系统，发现一致性是区分模型关键，规范契约决定保真度，最小契约有转录无语义推导，将可执行JavaScript作为规范基础作案例研究。

Comments 34 pages, 9 tables, no figures. Code, trace corpora, and replication guide: https://github.com/jdubray/SysMoBench-1 (branch js-sam-tla-phase3) . Companion study on a production payment system: arXiv:2607.05076

Open-Source Intelligence for Code Provenance and the Security Patterns that Separate Human and Large-Language-Model Implementations of Common Programming Tasks

用于代码溯源的开源情报以及区分人类和大语言模型对常见编程任务实现的安全模式

Mohammadreza Rashidi

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 研究开发者代码来源（人类答案和大语言模型输出）的差异，利用开源构建管道收集样本，训练分类器区分溯源，报告安全差异，通过案例研究发现修复情况及问题，管道数据驱动可添加新任务或语言。

Comments 25 pages, 10 figures

Confidence Scores in Open-Vocabulary Detection Are a Biased Mixture of Scale and Semantics

开放词汇检测中的置信度分数是尺度和语义的有偏混合

Yi Tang Soon, Jun-Wei Hsieh

机构 * Institute of Intelligence Systems, National Yang Ming Chiao Tung University（国立阳明交通大学智能系统研究所） ； College of Artificial Intelligence and Green Energy, National Yang Ming Chiao Tung University（国立阳明交通大学人工智能与绿色能源学院） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 研究开放词汇检测中置信度分数问题，通过实验表明其是尺度和语义的有偏混合，两种偏差源于CLIP图像级预训练，阈值调整无法消除，无参数温度缩放校正可部分改善小物体召回率并揭示相关限制。

Comments ICPR Workshop 2026 (FMVA)

Learning Anatomy-Grounded CT Vision-Language Representations with Organ-Hierarchical Report Knowledge

利用器官分层报告知识学习基于解剖学的CT视觉语言表征

Guoliang You, Hongming Li, Yuanwang Zhang, Yong Fan

机构 * Department of Radiology, Perelman School of Medicine, University of Pennsylvania（放射科，佩尔曼医学院，宾夕法尼亚大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；pretraining(abstract)

AI总结 研究利用CT图像与放射学报告进行医学视觉语言预训练，提出OKA-CT框架，通过转化报告为器官条件知识，分阶段学习，在数据集上实现零样本异常诊断高AUROC，优于基线，提升报告-图像对齐。

Comments 9 pages, 6 figures, 4 tables

From Foundation to Application: Improving VLA Models in Practice

从基础到应用：在实践中改进VLA模型

Wei Wu, Fangjing Wang, Fan Lu, He Sun, Shi Liu, Yunnan Wang, Yibin Yan, Yong Wang, Shuailei Ma, Xinyang Wang, Yibin Liu, Shuai Yang, Tianxiang Zhou, Kejia Zhang, Lei Zhou, Cheng Su, Nan Xue, Bin Tan, Han Zhang, Youchao Zhang, Fei Liao, Xing Zhu, Yujun Shen, Kecheng Zheng

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 针对VLA模型实验室与实际应用差距问题，提出LingBot-VLA 2.0。通过改进数据处理、扩展动作空间及预测动力学建模等方法，经GM-100基准测试验证，提升了模型跨实体长距离移动操作能力。

Comments Website: https://technology.robbyant.com/lingbot-vla-v2, Github: https://github.com/robbyant/lingbot-vla-v2, Checkpoints: https://huggingface.co/collections/robbyant/lingbot-vla-v2

SAMPLe: SAM-based Optimizer for Prompt Learning in VLMs

SAMPLe：基于SAM的视觉语言模型提示学习优化器

Hossein Rajoli, Fatemeh Lotfi, Niloufar Alipour Talemi, Hossein Kashiani, Xiaolong Ma, Fatemeh Afghah

机构 * Clemson University（克莱姆森大学） ； Siemens Energy (AI Lab)（西门子能源（人工智能实验室）） ； University of Arizona（亚利桑那大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；foundation model(abstract)

AI总结 研究VLM提示学习中性能与泛化的困境，提出SAMPLe优化器，通过考虑损失曲面锐度平衡探索与利用，减少过拟合，提升泛对未见能力，在多种提示学习框架中表现出色，优于现有优化器。

Comments The manuscript has been accepted to ECCV and will be presented at the conference and published in the main proceedings

Can Code Specify a System Precisely Enough to Formally Verify It?

代码能否精确指定系统以进行形式化验证？

Jean-Jacques Dubray

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 研究评估生产软件支付工作流，通过手工模型验证核心协议正确性，发现故障处理差距并修复；生产支付沙盒探针暴露问题；还复制了关于大语言模型规范可靠性受合同结构而非语言影响的结论。

Comments 25 pages, 3 figures, 5 tables. Artifacts and reference models at https://github.com/jdubray/SysMoBench-1

Conversational Human Audio-visual Talking Dialogue Generation

对话式人类视听对话生成

Junhao Song, Lluis Guasch, Xilin He, Zhongyu Yang, Yingfang Yuan, Weicheng Xie, Linlin Shen, Haijun Lin, Shizhe Liu, Wei Pang, Siyang Song

机构 * Department of Computing, Imperial College London（伦敦帝国理工学院计算系） ； Department of Earth Science & Engineering, Imperial College London（伦敦帝国理工学院地球科学与工程系） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Department of Computer Science, Heriot-Watt University（赫瑞瓦特大学计算机科学系） ； School of Computer Science, Northumbria University（诺森比亚大学计算机科学学院） ； College of Computer Science & Software Engineering, Shenzhen University（深圳大学计算机科学与软件学院） ； School of Artificial Intelligence, Shenzhen University（深圳大学人工智能学院） ； Guangdong Provincial Key Laboratory of Intelligent Information Processing, Shenzhen University（深圳大学广东省智能信息处理重点实验室） ； School of Engineering and Design, Hunan Normal University（湖南师范大学工程与设计学院） ； Department of Computer Science, University of Oxford（牛津大学计算机科学系） ； Department of Computer Science, University of Exeter（埃克塞特大学计算机科学系） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 提出CHAT框架，统一大语言模型和说话人脸模型，通过交互音频和面部行为细化模块，从单一文本提示生成多样、配对且相互响应的语音-面部对话片段，优于现有方法，合成数据集可作预训练数据。

Comments Accepted to ECCV 2026 as a main paper

AgentFlow: Building Agent Dependency Graphs for Static Analysis of Agent Programs

AgentFlow：构建用于智能体程序静态分析的智能体依赖图

Shenao Wang, Xinyi Hou, Yanjie Zhao, Xiao Cheng, Haoyu Wang

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 提出AgentFlow，首个从智能体程序中恢复和分析智能体依赖的静态分析框架，通过构建框架无关的智能体依赖图（ADG）支持智能体治理和安全分析，在5399个真实程序中验证了其有效性。

SPAR: Semantic-Pixel Self-Alignment and Adaptive Routing for Unified Multimodal Models

SPAR: 语义-像素自对齐与自适应路由的统一多模态模型

Hongxiang Li, Hongxu Chen, Chenyang Zhu, Xiaoshuang Huang, Jiayin Cai, Xiaolong Jiang, Yao Hu, Long Chen

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； Xiaohongshu Inc.（小红书公司） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 提出SPAR框架，通过非对称双流统一分词器协调语义感知与像素重建，利用自对齐生成范式消除外部依赖，并引入动态令牌路由实现灵活多模态交互，在统一架构中达到生成、重建与视觉理解的最优性能。

Comments ECCV2026

Unveiling Transferability in Trajectory Prediction via Latent Scene Embeddings

通过潜在场景嵌入揭示轨迹预测中的可迁移性

Theodor Westny, David Axelsson, Björn Olofsson, Erik Frisk

机构 * Linköping University（林雪平大学） ； Lund University（隆德大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 提出一个学习数据集潜在表示并用量化分布指标衡量相似性的框架，在24个数据集上验证迁移分数与跨数据集模型性能强相关，为数据集选择、预训练和基础模型提供指导。

Comments Accepted to ECCV 2026

Direct Action-Head Injection of A Grounded 3D Point Unlocks Spatial and Task Generalization

直接动作头注入接地3D点实现空间与任务泛化

Shiang-Feng Tsai, Jin-Cheng Jhang, Yen-Ling Tai, Jia-Hong Lai, Shih-Yun Wong, KangTung-Hsu, Yi-Ting Chen

机构 * National Tsing Hua University（国立清华大学） ； National Yang Ming Chiao Tung University（国立阳明交通大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；prompting(abstract)

AI总结 提出轻量级模块，将3D点表示的接地信号通过自适应层归一化直接注入VLA模型的动作头，在LIBERO-PRO上显著提升空间和任务泛化性能。

Inside Crypter-as-a-Service: An Ecosystem Analysis of the exploit.in Underground Forum Research Talks

加密器即服务：exploit.in 地下论坛的生态系统分析研究讲座

Mathieu Jeannot, Jean-Yves Marion, Manon Pamar, Maira Nassau, Pierre Marty, Romain Guittienne

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 通过分析俄语网络犯罪论坛 exploit.in 上的491个帖子和2949条回复，揭示了加密器即服务（CraaS）生态系统的特征，包括服务化运营、信任机制和分层市场结构。

Journal ref Workshop on Attackers and Cyber-Crime Operations, IEEE European Symposium on Security and Privacy, Jul 2026, Lisbon (Portugal), Portugal

ScratchLens: Lens-Parametric Behavioral Equivalence for Scratch Programs

ScratchLens: 用于 Scratch 程序的透镜参数化行为等价性

Yuan Si, Jialu Zhang

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 针对块编程语言中程序等价性判定问题，提出透镜参数化等价框架SPECTRA，通过因果IR、规范化和Mazurkiewicz迹商等技术，实现高精度行为等价判定。

Modeling Engagement with Brand and Organizational TikTok Videos Using Machine-Assisted Theory-Ensemble Annotation

使用机器辅助理论集成标注建模品牌和组织TikTok视频的参与度

Sander Paekivi, Andres Karjus

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 利用多模态大语言模型标注77个理论驱动的结构变量，分析约1万个TikTok视频，以预测参与度并探索短视频文化差异。

CPS4: Class Prompt driven Semi-Supervised Spine Segmentation with Class-specific Consistency Constraint

CPS4: 基于类别提示的半监督脊柱分割与类别特定一致性约束

Qingtao Pan, Hongzan Sun, Bing Ji, Shuo Li

机构 * School of Control Science and Engineering, Shandong University（山东大学控制科学与工程学院） ； Department of Nuclear Medicine, Shengjing Hospital of China Medical University（中国医科大学附属盛京医院核医学科） ； Department of Computer and Data Science, Case Western Reserve University（凯斯西储大学计算机与数据科学系） ； Department of Biomedical Engineering, Case Western Reserve University（凯斯西储大学生物医学工程系） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)

AI总结 提出CPS4，首个利用文本类别提示增强伪标签质量的半监督脊柱分割网络，通过两阶段训练（VLM预训练和半监督分割）实现，仅用5%标注数据即达80.44% Dice。

Stability and Political Orientation of International LLMs: An Exploratory Multi-Run Study Conducted in French

国际大语言模型的稳定性与政治倾向：一项在法语中进行的探索性多轮研究

Gabriel Hanna, Pierre Hanna

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本研究通过政治指南针问卷在法语环境下测试11个国际大语言模型，分析其政治回答的稳定性和隐含倾向，发现模型间及运行间存在显著差异。

Comments 21 pages. Also available in French

A Unified Subject Map for 130 Years of Physics

130年物理学的统一学科地图

Khoa Nguyen, Pragyan Pandey, Sophie Li, Eric Y. Ma

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 利用前沿大语言模型为美国物理学会历史档案统一分配现代物理主题词表，生成1893-2025年所有论文的学科地图，支持量化分析和数据驱动研究。

SentTrack: Sentiment-Driven Bottleneck Detection in GitHub Issue Repositories

SentTrack: GitHub问题仓库中情感驱动的瓶颈检测

Xinyu Hu, Ali Behbahani, Daniel Moon, Yaren Dogan, Nasir U. Eisty

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 提出SentTrack双管道框架，结合大语言模型摘要与ABCDE交互分类，从约9000个GitHub问题线程中检测社会技术瓶颈，发现49%线程停滞，仅13%解决，并通过加权评分引擎优先处理高摩擦讨论。

Two Bridges, One Pathway: From VLMs to Generalizable VLAs with Embodied Trajectory-Coupled Data

两座桥梁，一条路径：从VLM到具有具身轨迹耦合数据的可泛化VLA

Linqi Yin, Shiduo Zhang, Shenling Qiu, Chenxin Li, Zhaoyang Fu, Lei Xiao, Xiang Wang, Chenchen Yang, Zhe Xu, Pengfang Qian, Jingjing Gong, Xipeng Qiu, Xuanjing Huang, Yu-Gang Jiang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)

AI总结 提出具身轨迹耦合（ETC）数据作为中间桥梁，通过三阶段训练策略（分布桥接、目标桥接、保留适应）将视觉语言模型（VLM）逐步转化为可泛化的视觉语言动作模型（VLA），解决从VLM到VLA的双重鸿沟。

Item Response Scaling Laws: A Measurement Theory Approach for Efficient and Generalizable Neural Scaling Estimation

项目反应缩放定律：一种高效且可泛化的神经缩放估计的测量理论方法

Sang Truong, Yuheng Tu, Rylan Schaeffer, Sanmi Koyejo

机构 * Stanford University（斯坦福大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出项目反应缩放定律（IRSL），将项目反应理论融入缩放定律框架，通过Beta-IRT模型利用语言模型的概率响应，将参数复杂度从O(M×N)降至O(M+N)，在预训练和测试时缩放场景中仅用50个问题即可实现可靠估计。

Compute-Optimal Network Design for Echocardiography Myocardial Segmentation and Perfusion Quantification using Neural Scaling Laws

基于神经缩放定律的超声心动图心肌分割与灌注量化的计算最优网络设计

Clara Rodrigo González, Matthieu Toulemonde, Lasha Gvinianidze, Cameron A. B. Smith, Oscar Bates, Roxy Senior, Fu Siong Ng, Meng-Xing Tang

机构 * Department of Bioengineering, Imperial College London（生物工程系，帝国理工学院伦敦分校） ； National Heart and Lung Institute, Imperial College London（国家心脏和肺 institute，帝国理工学院伦敦分校） ； Guy’s and St. Thomas’ NHS Foundation Trust（圣泰莫斯国家健康服务信托基金） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 应用神经缩放定律预测心肌分割性能，在CAMUS和CEUS数据集上确定最优网络大小，实现参数减少240倍且性能达最优，自动分割在心肌灌注量化中与资深心脏病专家等效。

Comments 15 pages, 4 figures, 5 tables, journal

DRIFT: From Robustness Gaps to Invariance Manifolds for AI-Generated Image Detection

DRIFT: 从鲁棒性差距到AI生成图像检测的不变流形

Abhishek Ameta, Sayan Banerjee, Shreyas Pandith, Harshit, Ankita Chatterjee, Akshay Janardan Bankar, Amit Satish Unde

机构 * Samsung Research Institute, Bangalore, India（三星研究所，班加罗尔，印度） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 提出DRIFT方法，通过冻结视觉基础模型并学习真实图像的结构化不变流形，利用鲁棒和脆弱子空间分解及排序间隔实现AI生成图像检测，在未见生成器和分辨率上表现优异。

Comments Submitted to ECCV 2026

Towards Retrieving Interaction Spaces for Agentic Search

面向智能体搜索的交互空间检索

Shengyao Zhuang, Yuansheng Ni, Hengxin Fun, Jimmy Lin, Xueguang Ma

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 提出RISE方法，通过BM25构建有边界的交互空间，并预处理文档支持shell式导航，在BrowseComp-Plus上以约四分之一成本达到78%准确率，优于纯shell基线。

Lost in Reconstruction: Aligning Action Representations with Language in Vision-Language-Action Models

在重建中迷失：将视觉-语言-动作模型中的动作表示与语言对齐

Li Wenjie, Yash Jangir, Ignacy Stepka, Yash Agarwal, Marion Kipsang, Yonatan Bisk

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对视觉-语言-动作模型中动作表示与语言脱节的问题，提出SALT语义对齐动作标记器，在SimplerEnv中使策略平均成功率达71.9%，显著优于基线方法。

Why the Third Axis Is Freedom

为何第三轴是自由

Michael Timothy Bennett

机构 * The Australian National University（澳大利亚国立大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本研究指出生成式训练中XM的第三轴实际是自由，通过理论与实验证明自由选择优于MDL，且在分布偏移下针对自由度的选择可提升XM表现。

Comments Experiment code available on GitHub, in the papers folder: https://github.com/ViscousLemming/Technical-Appendices

Towards Trustworthy Hypergraph Neural Networks under Label Noise

面向标签噪声下可信赖的超图神经网络

Mengyao Zhou, Zhiheng Zhou, Xiao Han, Guiying Yan

机构 * Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of Mathematics and Statistics, Shandong University（山东大学数学与统计学院） ； School of Artificial Intelligence, Beihang University（北京航空航天大学人工智能学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文针对标签噪声下超图节点分类问题，提出超图鲁棒框架HyperTrust，通过估计超边可信赖性及两个协同模块优化超图结构，在多数据集多噪声设置下验证了其有效性。

Comments 20 pages, 7 figures

Looped Transformers with Source-Centered State Evolution

以源为中心的状态演化循环Transformer

Bum Jun Kim, Kohei Hayashi, Shunsuke Kamiya, Masanori Koyama, Yusuke Iwasawa, Yutaka Matsuo

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出以源为中心的状态演化（SCSE）循环Transformer，解决输入条件与共享循环参考的协调问题，在多个文本任务中提升了可控循环质量，验证了其设计的有效性。

Comments 24 pages, 5 figures