arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Peking University(北京大学)

共收录 3015
2410.00713 2026-07-27 cs.CV 版本更新

RAD: A Dataset and Benchmark for Real-Life Anomaly Detection with Robotic Observations

RAD:面向机器人观测的真实异常检测数据集与基准

Kaichen Zhou, Xinhai Chang, Taewhan Kim, Jiadong Zhang, Yang Cao, Chufei Peng, Fangneng Zhan, Hao Zhao, Hao Dong, Kai Ming Ting, Ye Zhu

机构 * Massachusetts Institute of Technology(麻省理工学院) Peking University(北京大学) Carnegie Mellon University(卡内基梅隆大学) Great Bay University(大湾大学) Harvard University(哈佛大学) Tsinghua University(清华大学) Nanjing University(南京大学) Deakin University(德克萨斯大学)

AI总结 提出RAD数据集,包含13类日常物体和4种缺陷,从60多个机器人视角在非受控光照下采集,用于评估2D特征、3D重建和视觉语言模型在姿态无关的异常检测中的表现,发现2D方法优于3D和VLM方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.13899 2026-07-27 cs.CV 版本更新

CARE: Anti-entanglement Ultrasound Image Segmentation via Channel-Aware Region Extrication

CARE:通过通道感知区域提取实现抗纠缠超声图像分割

Weixin Xu, Yuting Lu, Luqi Gong, Qing Guo, Ziliang Wang, Yun Xing

机构 * Beihang University(北航) Peking University(北京大学)

AI总结 研究针对超声图像分割中目标与背景纠缠问题,提出通道感知区域提取(CARE)框架,通过分离编码响应及区域交互恢复病变线索,在多个基准实验中表现卓越,有效解决了视觉模糊性问题。

Comments 10 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.21570 2026-07-24 cs.CL cs.HC 新提交

MedGame: Storytelling Gamification Empowered by Large Language Models for Medical Education

MedGame:由大语言模型赋能的用于医学教育的故事化游戏化

Qian Wu, Xinrong Zhou, Zizhan Ma, Kai Chen, Zheyao Gao, Xun Lin, Hongqiu Wu, Longfei Gou, Yixiao Liu, Ann Sin Nga Lau, Qi Dou

机构 * CUHK(香港中文大学) Southern Medical University(南方医科大学) Peking University(北京大学) Tencent(腾讯)

AI总结 研究旨在利用大语言模型助力医学教育,提出MedGame框架,通过双引擎设计将临床病例转化为故事化游戏,构建MedGame Bench进行评估,实验显示特定任务微调提升开源模型表现,学生研究表明其更具吸引力和实用性。

Comments Work in Progress; an explorational design and study on AI+Education+Game

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.21370 2026-07-24 cs.CV 新提交

ASTRA-Net: Anatomy-Specific Transfer and Representation Alignment for Drug-Induced Sleep Endoscopy Segmentation

ASTRA-Net:用于药物诱导睡眠内镜分割的特定解剖结构转移与表示对齐

Suhua Sun, Yuqiao Wang, Sheng Liu, Rui Fan, Jiajun Wang, Ruoyan Xu, Yixin Chen, Tao Li, Yan Yan

机构 * Department of Otolaryngology, Peking University Third Hospital(北京大学第三医院耳鼻咽喉科) Institute of Medical Technology, Peking University Health Science Center(北京大学医学部医学技术研究所) National Biomedical Imaging Center, College of Future Technology, Peking University(北京大学未来技术学院国家生物医学影像中心)

AI总结 针对像素级DISE注释稀缺、手动勾勒轮廓限制定量评估可扩展性的问题,开发ASTRA-Net,通过虚拟与真实帧特征对齐及多目标监督微调解码器,在真实注释有限时支持DISE边界描绘,取得良好分割和分类准确率。

Comments 20 pages, 6 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.21239 2026-07-24 cs.CV 新提交

Stokes-Informed Diffusion for Robust Linear Polarization Estimation

用于稳健线性偏振估计的斯托克斯信息扩散

Yidong Luo, Chenggong Li, Yuchao Feng, Boxin Shi, Junchao Zhang, Xin Yuan

机构 * Zhejiang University(浙江大学) School of Engineering, Westlake University(西湖大学工学院) School of Automation, Central South University(中南大学自动化学院) College of Computer Science and Technology, Zhejiang University of Technology(浙江工业大学计算机科学与技术学院) School of Computer Science, Peking University(北京大学计算机科学学院)

AI总结 研究从单张RGB图像估计线性偏振问题,提出基于穆勒形式主义的GenPolar框架,通过预测斯托克斯分量并结合可观测性感知损失监督偏振角,采用两阶段训练策略,在多数据集实验中性能达先进水平,提升下游应用效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.21085 2026-07-24 cs.CV 新提交

Geo3R: Mitigating Spatial Reasoning Hallucination in Multimodal Large Language Models

Geo3R:减轻多模态大语言模型中的空间推理幻觉

Mingyu Wang, Weilin Jin, Wenbo Li, Haoyang Huang, Tong Jia, Ying Li

机构 * Peking University(北京大学) Joy Future Academy(京东探索研究院)

AI总结 多模态大语言模型推理空间关系易产生幻觉,现有方法效果有限。本文定义空间推理幻觉及常见场景,提出无训练的Geo3R框架,结合几何证据和结构化3D推理减轻幻觉,实验证明该框架显著减少幻觉,优于现有模型和方法。

Comments Accepted by ACM MM 2026. This is the arXiv preprint version, not the camera-ready

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.21023 2026-07-24 cs.CV 新提交

WAT3R: Feedforward Underwater 3D Reconstruction

WAT3R:前馈水下三维重建

Jiayi Xu, Jiahao Lu, Ziqiang Zheng, Yihao Tan, Yaolong Zhu, Yuan Liu, Sai-Kit Yeung

机构 * The Hong Kong University of Science and Technology(香港科技大学) The Chinese University of Hong Kong(香港中文大学) Peking University(北京大学)

AI总结 针对水下光衰减等导致三维重建难的问题,提出WAT3R前馈框架,利用退化适应及轻量级神经适应模块,单次前向传播直接输出三维点图和相机姿态,实验证明其在多类三维重建任务中优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.20594 2026-07-24 cs.LG cs.AI stat.ML 新提交

When Does Recurrence Become an Algorithm? Convergence Selection in Weight-Tied Looped Transformers

循环何时成为一种算法?权重绑定循环变换器中的收敛选择

Tong Zhang, Junhao Hu, Yun Peng, Tao Xie

机构 * Fudan University(复旦大学) Peking University(北京大学)

AI总结 研究权重绑定循环变换器何时实现算法,通过群字问题得出预算定律、架构先验决定算法等四个发现,介绍收敛时间缩放工具并验证其因果关系,结果可复现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.20465 2026-07-24 cs.LG cs.CL 新提交

DataPrep-Bench: Benchmarking LLMs as Training Data Preparators

数据准备基准:评估作为训练数据准备者的大语言模型

Hao Liang, Qifeng Cai, Yibo Lin, Jianzhuo Du, Qifeng Xia, Sizhe Qiu, Linzhuang Sun, Meiyi Qiang, Zhaoyang Han, Xiaochen Ma, Bohan Zeng, Ruichuan An, Conghui He, Wentao Zhang

机构 * Peking University(北京大学) Institute for Advanced Algorithms Research(先进算法研究院) OriginHub Technology(源创科技)

AI总结 研究LLMs作为训练数据准备者的表现,引入DataPrep - Bench统一基准,涵盖数据构建与质量评估,在多领域和模型上评估,发布相关智能体和评估器,为衡量LLM驱动数据准备能力提供框架。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.20887 2026-07-24 cs.LG cs.AI math.AG 新提交

TwistedMerge: Certified Higher-Order Diagnostics and Abstention for Model Merging

TwistedMerge:用于模型合并的经过认证的高阶诊断与弃权

Ting Gong, Shitan Xu

机构 * Department of Mathematics, University of Washington(华盛顿大学数学系) Beijing International Center for Mathematical Research, Peking University(北京大学北京国际数学研究中心)

AI总结 研究模型合并中全局对齐问题,提出TwistedMerge认证管道,将合并视为有限下降问题,经多测试提升残差为上同调类,证明相关定理,通过实验展示该方法在处理多种情况时的表现,定位下降理论为可证伪框架。

Comments 34 Pages, Comments welcome!

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.09635 2026-07-24 cs.CL 版本更新

K12-KGraph: A Curriculum-Aligned Knowledge Graph for Benchmarking and Training Educational LLMs

K12-KGraph:一种对齐课程的图谱用于基准测试和训练教育大语言模型

Hao Liang, Qihan Lin, Zhaoyang Han, Xiaochen Ma, Zhen Hao Wong, Meiyi Qiang, Linzhuang Sun, Wentao Zhang

机构 * Peking University(北京大学) Institute for Advanced Algorithms Research(先进算法研究所) OriginHub Technology(OriginHub技术) Zhongguancun Academy(中关村学院)

AI总结 本文提出K12-KGraph,基于中小学教材构建的课程对齐知识图谱,用于构建多选基准测试K12-Bench和训练数据集K12-Train,验证课程结构监督在教育模型训练中的高效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21778 2026-07-24 cs.NE cs.LG 版本更新

Error Amplification Limits ANN-to-SNN Conversion in Continuous Control

误差放大限制了连续控制中的ANN到SNN转换

Zijie Xu, Zihan Huang, Yiting Dong, Kang Chen, Wenxuan Liu, Zhaofei Yu

机构 * Institute for Artificial Intelligence, Peking University, Beijing, China(人工智能研究院,北京大学,北京,中国) Beijing Key Laboratory of Brain-inspired Spiking Large Models, School of Computer Science, Peking University, Beijing, China(脑启发式脉冲大规模模型北京重点实验室,计算机科学学院,北京大学,北京,中国)

AI总结 针对连续控制中ANN到SNN转换性能差的问题,提出跨步残差电位初始化(CRPI)机制,通过抑制时间相关误差恢复性能。

Comments Accepted by ICML2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.16615 2026-07-24 cs.CV 版本更新

Trainable Log-linear Sparse Attention for Efficient Diffusion Transformers

用于高效扩散变压器的可训练对数线性稀疏注意力

Yifan Zhou, Zeqi Xiao, Tianyi Wei, Shuai Yang, Xingang Pan

机构 * S-Lab, Nanyang Technological University(南洋理工大学S实验室) Wangxuan Institute of Computer Technology, Peking University(北京大学王萱计算机技术研究所)

AI总结 研究针对扩散变压器二次自注意力成本限制长序列扩展问题,提出可训练的对数线性稀疏注意力机制LLSA,通过分层结构降低成本,经实验验证其能加速注意力推理和DiT训练,为高效训练长序列DiTs提供方向。

Comments Code is available at: https://github.com/SingleZombie/LLSA

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19437 2026-07-23 eess.IV cs.CV cs.MM 新提交

Group-of-Latents: Perceptual Video Compression at Extreme Bitrates via Masked Latent Generative Modeling

潜在组:通过掩码潜在生成建模实现极端比特率下的感知视频压缩

Shaokang Wang, Jinchang Xu, Peidong Jia, Zhijian Hao, Siyuan Qian, Fei Zhao, Rui Ma, Xiaozhu Ju, Jian Tang, Xiaodong Xie, Shanghang Zhang, Huizhu Jia

机构 * State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University, Beijing, China(多媒体信息处理国家重点实验室,计算机科学学院,北京大学,北京,中国) State Key Discipline Laboratory of Wide Band-Gap Semiconductor Technology, School of Microelectronics, Xidian University, Xi'an, China(宽带隙半导体技术重点学科实验室,微电子学院,西安电子科技大学,西安,中国)

AI总结 针对极低比特率视频压缩未充分探索的问题,提出统一生成框架,通过潜在组策略、深度压缩模块和统一潜在去噪模块,在极低比特率下实现高感知质量,有丰富空间细节和强大时间一致性,达到最新水平。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.20061 2026-07-23 cs.RO 新提交

ReferTrack: Referring Then Tracking for Embodied Visual Tracking

ReferTrack:用于具身视觉跟踪的先指认后跟踪

Hanjing Ye, Tianle Zeng, Jiazhao Zhang, Shaoan Wang, Zibo Zhang, Weisi Situ, Yuchen Zhou, Yonggen Ling, Hong Zhang

机构 * SUSTech(南方科技大学) Tencent Robotics X(腾讯机器人X实验室) Peking University(北京大学) Futian Laboratory(福田实验室)

AI总结 研究针对具身视觉跟踪问题,提出ReferTrack先指认后跟踪范式,用单个摄像头,先选目标再解码跟踪航点,通过滑动窗口队列保留运动线索,经数据集协同训练增强识别,在EVT - Bench上达先进单视图性能并验证了迁移能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19879 2026-07-23 cs.CV 新提交

Current Injection Spiking Neural Network for Infrared and Visible Image Fusion

用于红外与可见光图像融合的电流注入脉冲神经网络

Rui Zhao, Zhuoyuan Li, Wenrui Li, Yanchen Dong, Yajing Zheng, Giuseppe Valenzise, Weisi Lin

机构 * College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院) The Hong Kong Polytechnic University(香港理工大学) Harbin Institute of Technology(哈尔滨工业大学) State Key Laboratory for Multimedia Information Processing, School of Computer Science, Peking University(北京大学计算机科学学院多媒体信息处理国家重点实验室)

AI总结 研究红外与可见光图像融合问题,提出CIS - Fuse脉冲网络,通过电流注入脉冲算子在膜电位水平实现跨模态融合,构建双向跨模态融合模块并部署在双分支架构上,实验表明其融合质量与基于ANN的方法相当且更节能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19843 2026-07-23 cs.SE cs.AI 新提交

Beyond Fail-to-Pass: Iterative Hardening of Co-Generated Bug Reproduction Tests and Fixes

超越未通过测试:协同生成的错误重现测试与修复的迭代强化

Yuhao Tan, Zhibang Yang, Fangkai Yang, Yuan Yao, Yu Kang, Lu Wang, Pu Zhao, Xin Zhang, Xiaoxing Ma, Qingwei Lin, Saravan Rajmohan, Dongmei Zhang

机构 * Nanjing University(南京大学) Peking University(北京大学) Microsoft(微软公司)

AI总结 研究自动化程序修复中错误重现测试问题,指出仅用未通过到通过标准不足。提出CoHarden框架,先生成测试再迭代强化测试与修复,实验证明该框架在解决率等方面优于现有基线。

Comments 29 pages, 5 figures, preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19395 2026-07-23 cs.LG cs.AI 新提交

From Trajectories to Prefixes: Reusing Teacher Trajectories via Replayed Prefixes and Online Continuation

从轨迹到前缀:通过重放前缀和在线延续复用教师轨迹

Yihan Wang, Zhong Guan, Haoran Sun, Jiale Huang, Likang Wu, Hongke Zhao

机构 * Tianjin University(天津大学) Peking University(北京大学) Tianjin University of Technology(天津工业大学)

AI总结 研究针对小语言模型蒸馏低效问题,提出Prefix-GRPO强化学习框架,将教师轨迹分解,通过重放前缀恢复中间状态并在线延续,统一前缀与延续学习,实验证明其优于蒸馏和标准RL基线,凸显前缀令牌优化的重要性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19816 2026-07-23 physics.chem-ph cs.LG physics.comp-ph physics.data-an 新提交

Hypothesis-and-Refinement Learning of Organic Structures from Multimodal Spectroscopic Data

基于多模态光谱数据的有机结构假设与细化学习

Chengchun Liu, Zhiyuan Yan, Li Yuan, Hao Li, Boxuan Zhao, Yonghong Tian, Bartosz A. Grzybowski, Fanyang Mo

机构 * State Key Laboratory of Advanced Waterproof Materials, School of Materials Science and Engineering, Peking University(先进防水材料国家重点实验室,材料科学与工程学院,北京大学) School of Electronic and Computer Engineering, Peking University Shenzhen Graduate School(电子与计算机工程学院,北京大学深圳研究生院) Peng Cheng Laboratory(鹏城实验室) IBS Center for Algorithmic and Robotized Synthesis (CARS), UNIST(算法与机器人化合成中心(CARS),UNIST) Department of Chemistry, UNIST(化学系,UNIST) School of Advanced Materials, Peking University Shenzhen Graduate School(先进材料学院,北京大学深圳研究生院)

AI总结 该研究针对从光谱数据确定分子结构的难题,提出假设细化范式,构建QM9SPIN数据集,引入SpectroMol和MS - Mol2Mol,集成系统在模拟基准上准确率达93.8%,能适应实验光谱并改进预测,为有机结构解析提供可扩展途径。

Comments 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18865 2026-07-23 quant-ph cs.LG physics.chem-ph physics.comp-ph 版本更新

Enhanced Neural Quantum State via Annealed Gradient Descent

通过退火梯度下降增强神经量子态

Shiwei Zhou, Yiming Huang, Xiao Yuan, Xiaoxia Cai

机构 * Institute of High Energy Physics, Chinese Academy of Sciences, Beijing 100049, China(中国科学院高能物理研究所) China Center of Advanced Science(中国先进科学研究中心) Center on Frontiers of Computing Studies, School of Computer Science, Peking University, Beijing 100871, China(前沿计算研究中心,北京大学计算机学院)

AI总结 研究针对神经量子态实际精度受随机优化限制的问题,提出退火梯度下降方法,通过增加低概率构型贡献,抑制亚稳态捕获,使紧凑神经量子态在多模型上达到化学精度和先进性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25674 2026-07-23 cs.CL cs.IR 版本更新

BitNet Text Embeddings

BitNet 文本嵌入

Zhen Li, Xin Huang, Liang Wang, Nan Yang, Ting Song, Yan Xia, Xun Wu, Shaohan Huang, Huishuai Zhang, Furu Wei, Dongyan Zhao

机构 * Peking University(北京大学) Microsoft Research(微软研究院)

AI总结 提出BITEMBED框架,通过将预训练LLM转换为BitNet风格编码器并联合训练,实现低比特文本嵌入,在MMTEB基准上性能接近全精度模型,同时降低存储和计算开销。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.00337 2026-07-23 cs.LG 版本更新

FES-FM: Free Energy Surface Sampling via Reduced Flow Matching

通过降维流匹配进行自由能表面采样

Zichen Liu, Tiejun Li

机构 * Center for Data Science, Peking University(北京大学数据科学中心) School of Mathematical Sciences, Peking University(北京大学数学科学学院) Center for Machine Learning Research, Peking University(北京大学机器学习研究中心)

AI总结 本文提出FES-FM方法,通过在集体变量空间中训练动力学传输映射,实现自由能表面的高效采样,同时利用Hessian构造先验分布,提升计算效率和准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.01051 2026-07-23 cs.LG 版本更新

SwiftRepertoire: Few-Shot Immune-Signature Synthesis via Dynamic Kernel Codes

SwiftRepertoire: 通过动态核码实现少样本免疫特征合成

Rong Fu, Yang Li, Yabin Jin, Jiekai Wu, Chunlei Meng, Youjin Wang

机构 * University of Macau(澳门大学) Peking University(北京大学) University of Chinese Academy of Sciences(中国科学院大学) The First People’s Hospital of Foshan(佛山第一人民医院) Juntendo University(立命馆大学) Shanghai AI Laboratory(上海人工智能实验室) Fudan University(复旦大学) Renmin University of China(中国人民大学) Minzu University of China(民族大学) Tsinghua University(清华大学) Capital Medical University(首都医科大学)

AI总结 本文提出SwiftRepertoire框架,通过动态核码实现少样本免疫特征合成,利用轻量任务描述符和原型字典生成紧凑任务特定参数化,实现快速适应新任务,提升临床和研究场景下的模型实用性与可解释性。

Comments 19 pages, 8 figures, 8 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18979 2026-07-22 cs.AI 新提交

Fishing Out Free Riders: Shapley-Based Reward Attribution for Parallel Reasoning via Reinforcement Learning

揪出搭便车者:基于夏普利值的强化学习并行推理奖励归因

Wentao Zhang, Haoyu Zhang, Xinke Jiang, Yuxuan Cheng, Yuhan Pan, Miao Li, Zhipeng Qiao, Tao Feng, Zhen Tao, Dengji Zhao

机构 * ShanghaiTech University(上海科技大学) City University of Hong Kong(香港城市大学) Peking University(北京大学) The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) Zhejiang University(浙江大学)

AI总结 研究大型语言模型多步推理中并行推理路径贡献难区分问题,提出基于夏普利值的强化学习框架并行夏普利值方法,通过量化边际贡献等实现按比例分配奖励,实验证明其优于基线且能改进多路径推理。

Comments 19 pages, 4 figures, 8 Tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18875 2026-07-22 cs.CV 新提交

Wave2Body: Rethinking mmWave Human Pose Estimation as Radar-to-Body Token Translation

Wave2Body:将毫米波人体姿态估计重新思考为雷达到身体的令牌转换

Bo Liang, Chen Gong, Wei Gao, Chenren Xu

机构 * School of Computer Science, Peking University(北京大学计算机科学学院) University of Pittsburgh(匹兹堡大学) Key Laboratory of High Confidence Software Technologies, Ministry of Education (PKU)(教育部高可信软件技术重点实验室(北京大学))

AI总结 针对毫米波雷达人体姿态估计问题,提出Wave2Body框架,通过自监督毫米波令牌器等解耦学习目标,在M4Human和mmBody实验中展现出比以往方法更强的跨域泛化能力及更低计算成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18801 2026-07-22 cs.CV 新提交

ZeroSplat: Generalized Referring Segmentation in 3D Gaussian Splatting

ZeroSplat:3D高斯点云渲染中的广义指代分割

Jiayu Ding, Meilu Song, Xiaoyi Zhang, Hongbo Jin, Yichen Jin, Xiangtian Si

机构 * Peking University(北京大学) North China Electric Power University(华北电力大学) China University of Geosciences(中国地质大学)

AI总结 针对现有指代3D高斯点云渲染方法局限,提出ZeroSplat框架,通过多视图几何约束将2D视觉语言模型先验提升至3D空间,无需额外特征存储,在广义和单目标场景中显著优于现有方法,且效率高。

Comments Accepted to ECCV 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18715 2026-07-22 cs.AI 新提交

DWM: Separating World Effects from Actions in Latent World Models

DWM:在潜在世界模型中分离世界效应与动作

Yi-Ge Zhang, Tianqi Du, Qi Zhang, Yisen Wang

机构 * Peking University(北京大学)

AI总结 研究在潜在世界模型中分离世界效应与动作的问题,提出DWM框架,通过辅助世界头和正交性约束实现预测转换的显式加法分解,在构建的W变体基准测试中取得更好效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18413 2026-07-22 cs.CL 新提交

Convolution for Large Language Models

大语言模型中的卷积

Yuchuan Tian, Yingte Shu, Wei He, Shuo Zhang, Tianchen Zhao, Chao Xu, Xinghao Chen, Yunhe Wang, Hanting Chen, Yu Wang

机构 * Peking University(北京大学) Huawei Technologies(华为技术有限公司) Tsinghua University(清华大学)

AI总结 研究大语言模型中,轻量级深度卷积能否在不大幅增模型大小的情况下提供局部归纳偏差。通过实验发现特定位置应用卷积效果最佳,采用特定残差深度卷积设计,在多个模型和数据预算下提升了下游基准平均准确率,支持其作为自注意力补充建模短程交互。

Comments 12 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19241 2026-07-22 cs.LG physics.comp-ph physics.flu-dyn 新提交

Thermodynamics-Informed Input Reparameterization for Neural Prediction of Real-Fluid Thermodynamic Properties in Supercritical Combustion

用于超临界燃烧中真实流体热力学性质神经预测的热力学信息输入重新参数化

Haoze Zhang, Han Li, Ke Xiao, Yangchen Xu, Runze Mao, Zhi X. Chen

机构 * State Key Laboratory of Turbulence and Complex Systems, College of Engineering, Peking University(湍流与复杂系统国家重点实验室,北京大学工学院) AI for Science Institute (AISI)(科学智能研究院)

AI总结 研究超临界燃烧模拟中真实流体热力学性质评估成本高的问题,提出TAIR策略,通过用目标匹配的热力学坐标替换原始焓坐标,降低了预测温度、密度和压缩系数的RMSE,证明收益源于热力学匹配的输入设计。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.10481 2026-07-22 cs.LG cs.AI cs.CL 版本更新

ARMOR: Stabilizing On-Policy LLM RL with Off-Policy Anchor Samples

ARMOR:使用离策略锚样本稳定在线大语言模型强化学习

Kexin Huang, Junkang Wu, Jinda Lu, Shuo Yang, Chiyu Ma, Jiancan Wu, Xiang Wang, Xiangnan He, Guoyin Wang, Jingren Zhou

机构 * University of Science and Technology of China(中国科学技术大学) Peking University(北京大学) Dartmouth College(达特茅斯学院)

AI总结 研究大语言模型强化学习训练不稳定问题,提出ARMOR框架,通过锚展开利用离策略数据保留解决方案模式,混合优化重新制定策略目标实现可控探索,经实验验证可有效减轻验证崩溃,提升性能。

详情

展开后加载摘要…

URL PDF HTML 收藏