arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-11 至 2026-08-11 共收录 780 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 58 篇

2507.11687 2026-08-11 cs.SE cs.CL cs.LG 版本更新 73%

MetaLint: Easy-to-Hard Generalization for Code Linting

MetaLint: 代码检查的易到难泛化

Atharva Naik, Lawanya Baghel, Dhakshin Govindarajan, Darsh Agrawal, Yiqing Xie, Daniel Fried, Carolyn Rose

机构 * Carnegie Mellon University(卡内基梅隆大学)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 MetaLint通过元学习框架将代码检查转化为指令遵循任务,能根据自然语言规范评估代码是否符合最佳实践,实现无需重新训练的泛化能力,且在不同编程语言和场景中表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22510 2026-08-11 cs.LG cs.AI 版本更新 73%

Shattered Compositionality: Counterintuitive Learning Dynamics of Transformers for Arithmetic

破碎的组合性:变换器在算术中的反直觉学习动态

Xingyu Zhao, Darsh Sharma, Rheeya Uppaal, Yiqiao Zhong

机构 * University of Wisconsin–Madison(威斯康星大学麦迪逊分校) Department of Computer Sciences, University of Wisconsin–Madison(威斯康星大学麦迪逊分校计算机科学系) Department of Statistics, University of Wisconsin–Madison(威斯康星大学麦迪逊分校统计学系)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本研究发现变换器在学习算术任务时表现出反直觉的组合性,其学习动态受训练数据相关性影响而非因果或程序性组合。

Comments 37 pages, 29 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09526 2026-08-11 cs.CR cs.AI 新提交 70%

RangeFactory: Scalable Construction of Multi-Hop Cyber Ranges

RangeFactory:可扩展多跳网络靶场构建框架

Hanlin Jiang, Puyi Wang, Jiandong Jin, Shaofei Li, Zhan Shen, Pengli Wang, Ziming Wang, Yifeng Cai, Ning Jia, Yuxin Ren, Peng Jiang, Yao Guo, Ding Li

专题命中 预训练与数据 :LLM(abstract,abstract_cn);分类 cs.AI

AI总结 RangeFactory是自动化网络靶场编排框架,可规模化构建多跳靶场;其构建的RangeBench含1148个靶场实例,发现智能体存在持续入侵差距,还生成了攻击轨迹语料库。

Comments 16 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09049 2026-08-11 cs.CL 新提交 70%

Security and Privacy Taxonomy Generation from Mobile App Reviews

从移动应用评论生成安全与隐私分类体系

Moghis Fereidouni, Vinaik Chhetri, Umar Farooq, A. B. Siddique

专题命中 预训练与数据 :LLM(abstract,abstract_cn);分类 cs.CL

AI总结 针对现有安全隐私分类体系手工构建、无法适配海量应用评论的问题,提出TaxoScale流程,筛选60万条相关评论构建语料库,其在多指标上优于基线且发现新分支。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07540 2026-08-11 cs.AI 新提交 70%

TREAT: Evaluating Access to Formal Knowledge across Equivalent Mathematical Representations

TREAT:评估等价数学表示下的形式知识获取能力

Fateme Mazdarani, Carlos Toxtli

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本研究提出基准TREAT,测试大型语言模型从保等价数学变换中识别定理身份的能力,发现模型表现不佳且存在多种失败模式,凸显形式知识表示鲁棒性的重要性。

Comments Accepted at 28th International Symposium on Symbolic and Numeric Algorithms for Scientific Computing (SYNASC 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.19766 2026-08-11 cs.CL 版本更新 70%

PAM: Training Policy-Aligned Moderation Filters at Scale

PAM:在大规模上训练策略对齐的 moderation 过滤器

Masoomali Fatehkia, Enes Altinisik, Mohamed Osman, Husrev Taha Sencar

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 PAM 提出了一种灵活的框架,用于训练基于用户定义策略的定制 moderation 过滤器,能够在大规模上实现更广泛的对齐需求,并在多个基准测试中表现优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09474 2026-08-11 cs.CV 新提交 67%

FaLCon: Facet-Anchored Retrieval with Late Consensus for Sim2Real Text-Based Person Anomaly Search

FaLCon:用于Sim2Real基于文本的行人异常搜索的基于面锚定的后期共识检索

Hieu Dinh Trung Pham, Phuong Huu Vu Tran, Thuan Duc Mai, Son Nguyen Minh Le, Khang Le Minh, Hoang Vo, Minh-Chi Phung, Huy Minh Nhat Nguyen, Cuong Tuan Nguyen

机构 * Vietnamese-German University(越南-德国大学) Ho Chi Minh City University of Technology(胡志明市技术大学) University of Information Technology(信息技术大学) Ho Chi Minh city University of Science(胡志明市科学大学)

专题命中 预训练与数据 :large language model(abstract);language model(abstract)

AI总结 该研究针对Sim2Real基于文本的行人异常搜索的挑战,提出FaLCon框架,结合全局匹配与细粒度验证,在PAB基准上取得优异性能,代码将开源。

Comments accepted to the ECCV 2026 AI City Challenge Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.10744 2026-08-11 cs.CV cs.RO 版本更新 67%

Traj-VLN: Learning Pixel-Space Interaction via Autoregressive Trajectory Generation

Traj-VLN:通过自回归轨迹生成学习像素空间交互

Changfei Fu, Guangcheng Chen, Aoxiang Gu, Haoxiang Liang, Wenjun Xu, Hong Zhang

机构 * Southern University of Science and Technology(南方科技大学) Peng Cheng National Laboratory(鹏城国家实验室) Guangdong University of Technology(广东工业大学)

专题命中 预训练与数据 :large language model(abstract);language model(abstract)

AI总结 研究连续环境中视觉与语言导航问题,提出通过自回归轨迹生成在2D像素空间微调视觉语言模型来学习导航交互的方法,实验验证该方法能显著提升性能,旗舰模型在有限资源和数据下达最优水平。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08067 2026-08-11 cs.CL cs.AI 新提交 62%

DialectS2S: End-to-End Speech Dialogue Modeling for Low-Resource Chinese Dialects

DialectS2S:面向低资源汉语方言的端到端语音对话建模

Yi Shu, Tianyu Peng, Yingzhuo Deng, Wen Yang, Jun Lin, Changming Xie, Xinyu Yu, Jiajun Zhang

专题命中 预训练与数据 :post-training(abstract);分类 cs.CL、cs.AI

AI总结 针对低资源汉语方言语音数据稀缺及语义不一致问题,提出DialectS2S模型,通过合成流水线与自对齐后训练策略提升方言语音生成质量,开源框架实现性能突破。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.01401 2026-08-11 cs.LG cs.AI cs.CV 版本更新 62%

NeuroBridge: Bridging Multi-Task MRI Knowledge for Neurodegenerative Disease Diagnosis

NeuroBridge:桥接多任务MRI知识用于神经退行性疾病诊断

Mengyu Li, Guoyao Shen, Chad W. Farris, Xin Zhang

机构 * Department of Mechanical Engineering, Boston University(波士顿大学机械工程系) The Photonics Center, Boston University(波士顿大学光子中心) Rafik B. Hariri Institute for Computing and Computational Science & Engineering, Boston University(波士顿大学拉菲克·B·哈里里计算与计算科学与工程研究所) Department of Radiology, Boston University Chobanian & Avedisian School of Medicine(波士顿大学切博尼亚与阿维迪亚安医学学院放射科) Department of Radiology, Boston Medical Center(波士顿医学中心放射科) Department of Electrical and Computer Engineering, Boston University(波士顿大学电气与计算机工程系) Department of Biomedical Engineering, Boston University(波士顿大学生物医学工程系) Division of Materials Science and Engineering, Boston University(波士顿大学材料科学与工程系)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.AI、cs.LG

AI总结 提出NeuroBridge框架,通过大规模自监督MRI预训练与多任务学习(海马分割、萎缩分类、重建)及门控融合微调,在AD和MCI诊断中达到88.17%准确率,优于单任务方法。

Comments 5 figures. 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.27341 2026-08-11 cs.AI cs.CV cs.LG 版本更新 62%

A Comparative Study in Surgical AI: Potential and Limitations of Data, Compute, and Scaling

外科AI的比较研究:数据、计算和扩展的潜力与局限

Kirill Skobelev, Eric Fithian, Yegor Baranovski, Jack Cook, Sandeep Angara, Shauna Otto, Zhuang-Fang Yi, John Zhu, Neeraj Mainkar, Margaux Masson-Forsythe, Daniel A. Donoho, X. Y. Han

机构 * Center for Applied AI, Chicago Booth(应用人工智能中心,芝加哥商学院) Surgical Data Science Collective(外科数据科学集体) Children’s National Hospital(儿童医学中心) Operations Management & Tolan Center for Healthcare, Chicago Booth(运营管理与托兰医疗中心,芝加哥商学院)

专题命中 预训练与数据 :language model(abstract);分类 cs.AI、cs.LG

AI总结 本文通过2026年最先进的AI方法,研究了外科手术工具检测中的性能和限制,发现即使使用多十亿参数模型和大量训练数据,当前的视觉语言模型在神经外科手术工具检测任务中仍表现不足,且模型规模和训练时间的增加对性能提升效果有限,表明当前AI在手术应用中仍面临显著挑战。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08554 2026-08-11 eess.SP cs.LG 新提交 57%

Transfer Learning-Enabled Distortion Compensation for Amplitude-Phase-Time Block Modulation-Based Nonlinear Single-Carrier Wireless Communications

基于幅度-相位-时间块调制的非线性单载波无线通信中,启用迁移学习的失真补偿

Guoxing Duan, Min Fan, Cheng Yi, Bensheng Yang, Wei Xu, Haiming Wang, Xiaohu You

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 针对非线性单载波通信中PA的非线性与记忆效应问题,提出迁移学习驱动的APTBM收发协同失真补偿方法,可在30-dBc ACLR约束下实现2 dB输入回退的可靠传输,性能优于传统DPoD方案。

Comments 13 pages, 14 figures, 1 table

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09921 2026-08-11 cs.AI 新提交 57%

GENCO - A Unified Neural Solver Embedded in a Development Framework for Steady-State Grid Analysis

GENCO — 嵌入开发框架的稳态电网分析统一神经求解器

Alban Puech, Matteo Mazzonelli, Tamara R. Govindasamy, Mangaliso Mngomezulu, Héctor Maeso-García, Thomas Tolhurst, Javad Bayazi, Ali Moeini, Naomi Simumba, Celia Cintas, David Nelischer, Romeo Kienzler, Jonas Weiss, Anna Varbella, Florian Dörfler, Gabriela Hug, Martin Mevissen, Juan Bernabé-Moreno, François Mirallès, Hendrik F. Hamann, Etienne Vos, Thomas Brunschwiler

机构 * IBM Research(IBM研究院) Hydro-Québec Research Institute(魁北克水电研究院) ETH Zurich(苏黎世联邦理工学院) Stony Brook University(石溪大学) Brookhaven National Laboratory(布鲁克海文国家实验室)

专题命中 预训练与数据 :foundation model(abstract);分类 cs.AI

AI总结 研究人员推出统一神经求解器GENCO及开源GridFM开发框架,其可处理电网PF、OPF、SE任务,在基准测试中提速显著且性能优于经典求解器,降低电网分析门槛。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09158 2026-08-11 cs.SD cs.AI 新提交 57%

From Inaudible Inputs to Model Failures: Low-Frequency Safety Risks in LALMs

从不可听输入到模型失效:LALMs中的低频安全风险

Yuanhe Zhang, Weiliu Wang, Jie Ren, Liang Lin, Zhenhong Zhou, Haoran Gao, Kun Wang, Chen Li, Li Sun, Sen Su

机构 * Beijing University of Posts and Telecommunications(北京邮电大学) Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) Nanyang Technological University(南洋理工大学) JIUTIAN Research(九天研究院) Tencent ARC Lab(腾讯ARC实验室) Chongqing University of Posts and Telecommunications(重庆邮电大学)

专题命中 预训练与数据 :language model(abstract);分类 cs.AI

AI总结 本文提出不可听红队测试方法ILL评估LALMs的低频安全风险,发现其可降低LALMs准确率达67个百分点,同时提出DRG防护方法可提升受攻击后的准确率,明确了LALMs此前被忽视的安全风险。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09100 2026-08-11 cs.LG cs.CV 新提交 57%

Real Data Closes Synthetic-to-Real Gap in Optical Chemical Structure Recognition

真实数据缩小光学化学结构识别中的合成到真实的差距

Yani Guan, Dengpan Dong, Zi Wei, Shuang Luo, Dan Hannah, Yumin Zhang, Kang Xu

机构 * SES AI Corporation(SES AI公司)

专题命中 预训练与数据 :language model(abstract);分类 cs.LG

AI总结 该研究针对光学化学结构识别中合成与真实数据的性能差距,通过微调不同视觉语言模型,发现标注真实训练数据可大幅提升性能,且模型与适配策略的选择需结合目标任务评估。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08139 2026-08-11 cs.AI 新提交 57%

TokenPrint: A Calibrated Token-Space Fingerprint for Language-Model Provenance

TokenPrint:用于语言模型溯源的校准标记空间指纹

Yuqi Wu, Shengming Zhao, Jie Chen

机构 * College of Biomedical Engineering, Fudan University(复旦大学生物医学工程学院)

专题命中 预训练与数据 :language model(abstract);分类 cs.AI

AI总结 本研究提出无需训练的语言模型溯源指纹TokenPrint,基于250个固定知识探针的隐藏状态投影,可有效检索谱系、区分模型相关性,且对量化稳定,在32个开放权重模型上验证了其性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08090 2026-08-11 cs.CL 新提交 57%

Wisdom in Unity: The Role of Multilingual Training in Figurative Language Identification in Proverbs

团结的智慧:多语言训练在谚语比喻语言识别中的作用

Rama Alomair, Remas Alsubaie, Walaa Saifalislam, Rima Alsonbul, Mona Alnajjar, Razan Aldossari, Haya Alibrahim, Abeer Aldayel

专题命中 预训练与数据 :LLM(abstract_cn);分类 cs.CL

AI总结 该研究以7种语言的6787个谚语实例为对象,评估多语言模型在比喻语言识别中的表现,发现约50%多语言训练数据可实现近最优性能,文化特异性比喻形式收益最大,推动相关框架向多维概念模型发展。

Comments This paper is under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.30465 2026-08-11 cs.CL 版本更新 57%

Knowledge Graph-Enhanced Zero-Shot Topic Classification: A Multi-Strategy Comparative Study

知识图谱增强的零样本主题分类:多策略比较研究

Shahana Akter, Yatharth Vohra, Ankita Shukla, Souvika Sarkar

机构 * A2I Lab, School of Computing, Wichita State University(A2I实验室,计算学院,威斯康星州立大学) EIS Lab, College of Engineering, University of Nevada, Reno(EIS实验室,工程学院,内华达大学,里诺)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.CL

AI总结 提出零样本多标签主题分类框架,通过知识图谱增强文档表示,实验表明对小型模型有正面影响,对大型模型有负面影响。

Comments 12 pages, 1 figure, IEEE TDKE format. This paper proposes a KG-augmented zero-shot multi-label topic classification framework and evaluates multiple strategies

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20004 2026-08-11 cs.DB cs.CL 版本更新 57%

Human-Level Text-to-SQL via Reinforcement Learning on Verified Data, Without Pipeline Engineering

ReViSQL:实现人水平的文本到SQL

Yuxuan Zhu, Tengjun Jin, Yoojin Choi, Daniel Kang

机构 * UIUC(伊利诺伊大学厄巴纳-香槟分校)

专题命中 预训练与数据 :LLM(abstract);分类 cs.CL

AI总结 本文提出ReViSQL框架,通过高质量训练数据提升SQL推理能力,首次在BIRD基准上达到人水平准确率,且在不同模型规模下均表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.00884 2026-08-11 cs.LG 版本更新 57%

Test-time Generalization for Physics through Neural Operator Splitting

通过神经算子分裂实现物理中的测试时泛化

Louis Serrano, Jiequn Han, Edouard Oyallon, Shirley Ho, Rudy Morel

机构 * Flatiron Institute, New York(Flatiron 机构,纽约) New York University(纽约大学) Princeton University(普林斯顿大学) Sorbonne Université, CNRS, ISIR, Paris(索邦大学,CNRS,ISIR,巴黎)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 本文提出通过神经算子分裂在测试时增强泛化能力,实现零样本泛化并恢复底层PDE参数。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09691 2026-08-11 cs.CV 新提交 50%

Diffuse the object, keep its label: curating detector training data from a few unlabeled photographs via VLM-built 3D vegetation scenes

扩散目标,保留其标签:通过VLM构建的3D植被场景从少量未标记照片中整理检测器训练数据

Mario Malizia, Marnix Enting, Rob Haelterman, Ken Hasselmann

机构 * Royal Military Academy(皇家军事学院) KU Leuven(鲁汶大学) Flanders Make(佛兰德制造研究院)

专题命中 预训练与数据 :language model(abstract)

AI总结 本研究针对植被中小物体标记图像稀缺导致检测器跨站点泛化差的问题,通过VLM构建3D植被场景合成标记训练图像,实现无监督站点适应,在排雷基准上性能优于传统跨站点标签复用。

Comments Accepted at the Curated Data for Efficient Learning (CDEL) Workshop @ ECCV 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09522 2026-08-11 cs.CV 新提交 50%

TriView-YOLO: Early Multi-View Fusion for Ground Penetrating Radar Cavity Detection in Soft, High-Water-Content Soils

TriView-YOLO:软质高含水量土壤中探地雷达空洞检测的早期多视图融合方法

Suphawut Thawinutchokaudom, Sompote Youwai, Warat Kongkitkul, Mitsumasa Yamashina, Jose M. D. S. Rodrigues Neto, Jun Shinohara

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出TriView-YOLO多视图YOLOv12检测器,通过融合三种配准的GPR视图实现软质高含水量土壤的道路空洞检测,在专属野外测试集上取得0.558±0.028的mAP50,性能优于单视图方案,公开及合成训练图像等优化手段无增益。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09381 2026-08-11 cs.RO 新提交 50%

JEPA-WAM: Learning Vision-Language-Action Policies with Joint-Embedding World Modeling

JEPA-WAM:基于联合嵌入世界建模的视觉-语言-动作策略学习

Yihan Lin, Jiawei He, Shifeng Bao, Chen Zhao, Yang Li, Xiaobo Wang, Yan Wang, Cheng Chi, Jing Zhang

机构 * XYZ Embodied AI(XYZ具身智能)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 该研究提出JEPA-WAM,一种构建于预训练V-JEPA空间的隐式WAM,通过共享预测器耦合隐式转移预测与动作生成,在LIBERO-Plus等数据集上取得优异的机器人操作策略性能,且泛化能力强。

Comments 22 pages, 7 figures. Project page: https://spritewithoutice.github.io/JEPA_WAM/

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08663 2026-08-11 cs.HC cs.CV 新提交 50%

A Dynamic-Semantics Framework for Grounding Human Referring Expressions in Visual Perceptual Data

用于在视觉感知数据中建立人类指代表达式基础的动态语义框架

Joseph Bingham

专题命中 预训练与数据 :language model(abstract)

AI总结 本文提出动态语义框架,通过显式约定状态绑定集合与感知对齐流程,解决视觉-语言模型在词汇同步任务中的不足,在斯坦福重复参考游戏语料库上达到83.56%的top-5准确率,核心是透明符号层与可检查感知通道的结合。

Comments 23 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08487 2026-08-11 cs.CV 新提交 50%

RenderMatte: Exact-Alpha Rendering and Group-Relative Alignment for Image Matting

RenderMatte:用于图像抠图的精确Alpha渲染与组相对对齐

Zecheng Ren, Yafei Hu, Jianing Zhao, Ruichen Cong, Qun Jin, Yiren Song

专题命中 预训练与数据 :post-training(abstract)

AI总结 本文提出RenderMatte框架,通过微调FLUX.1 Kontext实现精确Alpha渲染,引入组相对Alpha对齐优化,并构建专属数据集,在抠图基准测试中取得最优性能,解决开放世界场景的抠图难题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07916 2026-08-11 cs.CV 新提交 50%

SegDem: Segmentation helps Demosaicing

SegDem:分割任务助力去马赛克

Ping Chen, Xiangming Wang, Yongyong Chen, Jiezhang Cao, Kai Zhang, Jingyong Su, Jie Liu, Haijin Zeng

机构 * Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳)) Shanghai Jiao Tong University(上海交通大学) Nanjing University (Suzhou)(南京大学(苏州))

专题命中 预训练与数据 :pretraining(abstract)

AI总结 该研究提出SegDem框架,通过实例分割与跨任务解码器表示迁移,结合DINOv2共享表示空间,在单/四拜耳去马赛克任务上,于多类数据集实现不同架构下的性能稳定提升。

Comments 20 pagess

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07863 2026-08-11 cs.CV eess.IV 新提交 50%

LHSDet: High-Resolution AI-Generated Image Detection via Visual Question Answering

LHSDet:基于视觉问答的高分辨率AI生成图像检测方法

Qian Yao, Jun-Jie Huang, Yongjun Wang, Luming Yang

机构 * College of Computer Science and Technology, National University of Defense Technology(国防科技大学计算机学院) Academy of Military Science(军事科学院)

专题命中 预训练与数据 :language model(abstract)

AI总结 针对现有AI生成图像检测方法忽略高分辨率细节、难以应对未知生成模型的问题,提出LHSDet,将检测任务转为视觉问答,采用三分支架构,在各类生成模型上实现高检测准确率与稳健性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.14166 2026-08-11 cs.SE cs.CR cs.DC 版本更新 50%

Stop Means Stop: Measuring and Repairing the Enforcement Gap in Agent-Framework Control Primitives

停止即停止:测量和修复智能体框架控制原语中的执行差距

Sajjad Khan

专题命中 预训练与数据 :LLM(abstract)

AI总结 研究生产型大语言模型智能体框架控制原语执行差距,用无模型差分探针发现漏洞及差距,提出SOUNDGATE修复,能强制执行多种属性,端到端阻止违规,释放合法效果。

Comments 32 pages, 3 figures, 11 tables. Code: pip install soundgate (PyPI)

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 指令微调 59 篇

2505.24273 2026-08-11 cs.AI 版本更新 94%

How Much Backtracking is Enough? Exploring the Interplay of SFT and RL in Enhancing LLM Reasoning

回溯应达到何种程度?探索SFT与RL在增强大语言模型推理能力中的相互作用

Hongyi James Cai, Junlin Wang, Xiaoyin Chen, Bhuwan Dhingra

机构 * Duke University(杜克大学) Mila - Quebec AI Institute(魁北克人工智能研究所)

专题命中 指令微调 :SFT(title,title_cn);LLM(title,summary_cn);large language model(abstract);language model(abstract)

AI总结 本研究探索SFT与RL在LLM推理中的相互作用,提出回溯是关键算子,发现最优回溯深度随任务难度变化,引入以回溯为核心的训练方案,证实合理回溯可提升模型推理能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.16097 2026-08-11 cs.LG cs.AI cs.CL 版本更新 94%

Understanding Reasoning from Pretraining to Post-Training

理解从预训练到训练后阶段的推理

Jingyan Shen, Ang Li, Salman Rahman, Yifan Sun, Micah Goldblum, Matus Telgarsky, Pavel Izmailov

机构 * New York University(纽约大学) Modal Labs(模态实验室) University of California, Los Angeles(加州大学洛杉矶分校) University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) Columbia University(哥伦比亚大学)

专题命中 指令微调 :SFT(summary_cn,abstract);pretraining(title,abstract);post-training(title,abstract);LLM(abstract,abstract_cn)

AI总结 研究强化学习在大语言模型从预训练到训练后阶段对推理的作用,以国际象棋为测试平台,按标准流程训练模型,发现预训练损失可预测RL后性能,RL奖励曲线斜率与预训练令牌有关,还揭示RL对SFT策略的影响,且在数学领域也有相同模式。

详情

展开后加载摘要…

URL PDF HTML 收藏