arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-06-04 至 2026-06-04 共收录 358 信号源:cs.CL, cs.AI, cs.LG

1. 知识编辑与模型理解 23 篇

2606.04180 2026-06-04 cs.LG cs.IT math.IT 79%

KODA: Contrastive Representation Comparison and Alignment for Vision-Language Foundation Models

KODA: 视觉-语言基础模型的对比表示比较与对齐

Youqi Wu, Mohammad Jalali, Farzan Farnia

机构 * University of California, Berkeley(加州大学伯克利分校)

专题命中 知识编辑与模型理解 :foundation model(title,abstract);分类 cs.LG

AI总结 提出KODA框架,通过核优化方法对比分析视觉-语言基础模型的表示差异,并识别弱聚类与强聚类的样本子集,实现表示对齐。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16331 2026-06-04 q-bio.BM cs.AI 79%

Retrieval and competition: how a protein foundation model starts a protein

检索与竞争:蛋白质基础模型如何启动蛋白质

Piotr Jedryszek, Oliver M. Crook

机构 * Department of Biology, University of Oxford, Oxford, UK(牛津大学生物学系) Kavli Institute for Nanoscience Discovery, University of Oxford, Oxford, UK(牛津大学纳科学发现研究所) Department of Chemistry, University of Oxford, Oxford, UK(牛津大学化学系)

专题命中 知识编辑与模型理解 :foundation model(title);language model(abstract);分类 cs.AI

AI总结 通过追踪ESM2-8M预测蛋白质起始甲硫氨酸的计算路径,发现模型依赖位置先验检索而非直接识别,揭示了模型置信度与生物学证据之间的脱节。

Comments updated figure 4

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.13796 2026-06-04 cs.CL cs.CV 79%

The Mechanistic Emergence of Symbol Grounding in Language Models

语言模型中符号接地机制的涌现

Shuyu Wu, Ziqiao Ma, Xiaoxi Luo, Yidong Huang, Josue Torres-Fonseca, Freda Shi, Joyce Chai

机构 * University of Science and Technology of China(中国科学技术大学)

专题命中 知识编辑与模型理解 :language model(title,abstract);分类 cs.CL

AI总结 通过机械因果分析,发现符号接地在语言模型的中层计算中通过注意力头聚合环境信息实现,并在多模态对话和多种架构中复现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.29076 2026-06-04 cs.CL cs.AI cs.LG 75%

Structured Prompt Optimization Meets Reinforcement Learning for Global and Local Interpretability over Complex Text

结构化提示优化结合强化学习实现复杂文本的全局与局部可解释性

Tianyang Zhou, Wenbo Chen, Pierre Jinghong Liang, Leman Akoglu

机构 * Carnegie Mellon University(卡内基梅隆大学) Amazon(亚马逊)

专题命中 知识编辑与模型理解 :LLM(abstract,abstract_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 提出eXTC框架,通过结构化提示优化、基于SOP的推理蒸馏和强化学习扩展,在分类性能和解释质量上显著优于现有范式。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.25402 2026-06-04 cs.CV cs.AI 74%

Anatomy-Anchored Self-Supervision: Distilling Vision Foundation Models for Invariant Ultrasound Representation

解剖锚定的自监督:蒸馏视觉基础模型用于不变超声表示

Chunzheng Zhu, Yijun Wang, Jianxin Lin, Feng Wang, Hongwei Wang, Lei Zhao, Shengli Li, Kenli Li

机构 * Hunan University(湖南大学) Shenzhen Maternity and Child Healthcare Hospital(深圳妇幼保健医院)

专题命中 知识编辑与模型理解 :foundation model(title);分类 cs.AI

AI总结 提出解剖锚定的超声自监督框架ANAUS,通过可学习潜在提示引擎和领域自适应实现无标注解剖分割,并设计双策略自监督学习(语义感知解剖分离对齐和上下文核心区域预测)来增强表示学习,在六个公开数据集上超越现有方法。

Comments MICCAI 2026 Accepted Paper; Anatomy-Anchored Ultrasound Self-Supervision

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04612 2026-06-04 cs.CL 70%

Hybrid Adversarial Defence for Natural Language Understanding Tasks

混合对抗防御用于自然语言理解任务

Manar Abouzaid, Yang Wang, Chenghua Lin, Stuart E. Middleton

机构 * School of Electronics and Computer Science, University of Southampton, UK(南安普顿大学电子与计算机科学学院) Department of Computer Science, University of Manchester, UK(曼彻斯特大学计算机科学系)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 提出一种结合熵、不确定性和几何特征的混合防御框架,在多个自然语言理解数据集上同时提升了干净任务性能和对抗鲁棒性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.03799 2026-06-04 cs.CL cs.SY eess.SY 70%

Enhancing Hallucination Detection through Noise Injection

通过噪声注入增强幻觉检测

Litian Liu, Reza Pourreza, Sunny Panchal, Apratim Bhattacharyya, Yubing Jian, Yao Qin, Roland Memisevic

机构 * Qualcomm AI Research(高通人工智能研究)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 提出一种基于贝叶斯模型不确定性的无训练噪声注入方法,通过扰动模型参数或隐藏单元激活来改进采样过程,显著提升大语言模型幻觉检测性能。

Comments ICLR 2026 main conference paper

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.17064 2026-06-04 cs.AI 70%

BRAINCELL-AID: An Agentic AI Created Brain Cell Type Resource for Community Annotation

BRAINCELL-AID:用于社区注释的由AI代理创建的脑细胞类型资源

Rongbin Li, Wenbo Chen, Zhao Li, Rodrigo Munoz-Castaneda, Jinbo Li, Neha S. Maurya, Arnav Solanki, Huan He, Hanwen Xing, Meaghan Ramlakhan, Zachary Wise, Nelson Johansen, Zhuhao Wu, Hua Xu, Michael Hawrylycz, W. Jim Zheng

机构 * McWilliams School of Biomedical Informatics, University of Texas Health Science Center at Houston(德克萨斯大学健康科学中心休斯顿分校麦克威廉斯生物医学信息学学院) Appel Alzheimer’s Disease Research Institute, Feil Family Brain and Mind Research Institute, Weill Cornell Medicine(艾伯神经变性病研究机构、费尔家庭脑与心灵研究机构、韦尔·科恩医学中心) Department of Biomedical Informatics and Data Science, School of Medicine, Yale University(耶鲁大学医学院生物医学信息学与数据科学系) Allen Institute for Brain Science(艾伦脑科学研究所)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 提出一种多智能体AI系统BRAINCELL-AID,结合检索增强生成和自由文本描述与本体标签,实现对单细胞RNA测序数据中基因集注释的准确性和鲁棒性提升,并应用于小鼠脑细胞图谱的注释。

Comments 23 pages, 6 figures, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.14177 2026-06-04 cs.CV 67%

Improving Semantic Uncertainty Quantification in LVLMs with Semantic Gaussian Processes

利用语义高斯过程改进LVLM中的语义不确定性量化

Joseph Hoche, Andrei Bursuc, David Brellmann, Gilles Louppe, Pavel Izmailov, Angela Yao, Gianni Franchi

机构 * AMIAD, Pôle Recherche, Palaiseau(AMIAD研究部,Palaiseau) valeo.ai Safran Tech University of Liège(利耶大学) New York University(纽约大学) National University of Singapore(新加坡国立大学) ENSTA Paris(巴黎ENSTA)

专题命中 知识编辑与模型理解 :LLM(abstract_cn);language model(abstract)

AI总结 提出语义高斯过程不确定性(SGPU)框架,通过分析答案嵌入的几何结构来量化语义不确定性,避免脆弱的聚类方法,在多个模型和数据集上实现了最先进的校准和判别性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.05109 2026-06-04 cs.LG 57%

RePercENT: Scaling Disentangled Representation Learning Beyond Two Modalities

RePercENT:将解耦表示学习扩展到两种模态之外

Vasiliki Rizou, Pascal Frossard, Dorina Thanou

机构 * EPFL(瑞士联邦理工学院)

专题命中 知识编辑与模型理解 :foundation model(abstract);分类 cs.LG

AI总结 提出RePercENT框架,通过多模态即插即用架构和联合优化目标,实现超过两种模态的可扩展成对解耦,无需联合预训练并降低计算复杂度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04391 2026-06-04 cs.AI 57%

Online Skill Learning for Web Agents via State-Grounded Dynamic Retrieval

基于状态接地动态检索的Web代理在线技能学习

Jiaxi Li, Ke Deng, Yun Wang, Jingyuan Huang, Yucheng Shi, Qiaoyu Tan, Jin Lu, Ninghao Liu

机构 * University of Georgia(佐治亚大学) Tencent America(腾讯美国) New York University(纽约大学) The Hong Kong Polytechnic University(香港理工大学)

专题命中 知识编辑与模型理解 :language agent(abstract);分类 cs.AI

AI总结 提出状态接地动态检索(SGDR)方法,通过逐步技能重用提升Web代理在多步自动化任务中的表现,在WebArena上平均成功率分别达到37.5%(GPT-4.1)和24.3%(Qwen3-4B)。

Comments 17 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24782 2026-06-04 cs.LG 57%

The Perception-Physics Paradox: Probing Scientific Alignment with TC-Bench

感知-物理悖论:用TC-Bench探究科学对齐

Dingling Yao, Andrea Polesello, Adeel Pervez, Caroline Muller, Francesco Locatello

机构 * ETH Zurich(苏黎世联邦理工学院) DeepMind University of Cambridge(剑桥大学) University of Amsterdam(阿姆斯特丹大学) University of Toronto(多伦多大学)

专题命中 知识编辑与模型理解 :foundation model(abstract);分类 cs.LG

AI总结 本文提出科学对齐概念,通过结构同构性构建层次化必要条件,并发布TC-Bench基准数据集,揭示视觉基础模型在极端条件下依赖视觉捷径而非科学推理。

Comments Accepted at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15741 2026-06-04 cs.CV 50%

HyperDiT: Hyper-Connected Transformers for High-Fidelity Pixel-Space Diffusion

HyperDiT: 用于高保真像素空间扩散的超连接Transformer

Yu He, Lichen Ma, Zipeng Guo, Xinyuan Shan, Jingling Fu, Dong Chen, Junshi Huang, Yan Li

机构 * University of Science and Technology of China(中国科学技术大学)

专题命中 知识编辑与模型理解 :foundation model(abstract)

AI总结 针对像素空间扩散模型中全局语义与细粒度细节难以兼顾的粒度困境,提出HyperDiT框架,通过超连接跨尺度交互和尺度感知旋转位置编码,结合预训练视觉基础模型的密集语义,在像素空间实现高保真生成,在ImageNet 256×256上取得1.56的SoTA FID。

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 其他LLM 15 篇

2606.04057 2026-06-04 cs.SE cs.AI cs.LG 91%

The Invisible Lottery: How Subtle Cues Steer Algorithm Choice in LLM Code Generation

隐形彩票:微妙线索如何引导LLM代码生成中的算法选择

Akanksha Narula, Mofasshara Binte Rafique, Laurent Bindschaedler

机构 * University of Washington(华盛顿大学) Google Research(谷歌研究院)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 通过大量控制实验,发现提示中的偶然线索(如上下文词或元数据)会系统性地改变LLM在代码生成中选择的算法族分布,影响性能、安全性和可维护性,而直接命名算法是最可靠的缓解措施。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04027 2026-06-04 cs.CR cs.AI 88%

MaskForge: Structure-Aware Adaptive Attacks for Jailbreaking Diffusion Large Language Models

MaskForge:用于越狱扩散大语言模型的结构感知自适应攻击

Yingzi Ma, Zhengyue Zhao, Xiaogeng Liu, Minhui Xue, Yue Zhao, Chaowei Xiao

机构 * University of Wisconsin-Madison(威斯康星大学麦迪逊分校) Johns Hopkins University(约翰霍普金斯大学) University of Southern California(南加州大学) Responsible AI Research (RAIR) Centre, The University of Adelaide(阿德莱德大学负责任人工智能研究中心)

专题命中 其他LLM :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 提出MaskForge,一种全黑盒自适应攻击方法,通过优化结构模式库实现扩散大语言模型的红队测试,平均攻击成功率达79.3%。

Comments 28 pages, 7 figures, 11 tables. Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04056 2026-06-04 cs.SE cs.MA cs.PL 87%

Token Budgets: An Empirical Catalog of 63 LLM-Agent Budget-Overrun Incidents, with an Affine-Typed Rust Mitigation as a Case Study

Token Budgets: 63个LLM-Agent预算超支事件的实证目录,以及一个仿射类型化Rust缓解案例研究

Sajjad Khan

专题命中 其他LLM :LLM(title,title_cn)

AI总结 通过分析21个编排框架中的63个生产事故,提出一个八类故障分类法,并构建一个基于仿射类型的Rust库(token-budgets)来在编译时防止预算超支,实验证明其不可绕过性。

Comments 26 pages. Artifact (catalog CSV, Rust crate, formal proofs): https://github.com/sajjadanwar0/token-budgets

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11510 2026-06-04 cs.CL cs.AI cs.LG 87%

Policy Split: Incentivizing Dual-Mode Exploration in LLM Reinforcement with Dual-Mode Entropy Regularization

策略分裂:通过双模式熵正则化激励大语言模型强化学习中的双模式探索

Jiashu Yao, Heyan Huang, Daiqing Wu, Zeming Liu, Yuhang Guo

机构 * Beijing Institute of Technology(北京理工大学) Tsinghua University(清华大学) Beihang University(北航)

专题命中 其他LLM :LLM(title,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 提出Policy Split方法,将策略分裂为正常和高熵两种模式,通过协作双模式熵正则化在保持准确性的同时促进多样化探索,实验表明在通用和创造性任务上优于现有基线。

Comments preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.15676 2026-06-04 cs.LG cs.AI cs.CL 83%

KITE: Kernelized and Information Theoretic Exemplars for In-Context Learning

KITE: 基于核方法和信息论的上下文学习示例选择

Vaibhav Singh, Soumya Suvra Ghosal, Kapu Nirmal Joshua, Soumyabrata Pal, Sayak Ray Chowdhury

机构 * IIT Bombay(印度比哈尔理工学院) UMD College Park(马里兰大学 College Park 分校) IIT Kanpur(印度坎普尔理工学院) Adobe Research(Adobe 研究)

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 针对上下文学习中的示例选择问题,提出一种基于信息论和核方法的贪心算法,通过最小化查询特定预测误差并引入多样性正则化,显著提升分类性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04459 2026-06-04 cs.CR cs.AI cs.CC cs.CL 81%

Token Rankings are Unforgeable Language Model Signatures

Token排名是不可伪造的语言模型签名

Matthew Finlayson, Andreas Grivas, Xiang Ren, Swabha Swayamdipta

机构 * University of Southern California(南加州大学) University of Edinburgh(爱丁堡大学)

专题命中 其他LLM :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文发现语言模型的token排名(按概率排序)构成唯一且不可伪造的签名,并研究了在限制API下如何平衡签名展示与参数泄露。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.17354 2026-06-04 eess.SP 80%

Toward Multi-Functional LAWNs with ISAC: Opportunities, Challenges, and the Road Ahead

迈向具有ISAC的多功能低空无线网络:机遇、挑战与未来之路

Jun Wu, Weijie Yuan, Xiaoqi Zhang, Yaohuan Yu, Yuanhao Cui, Fan Liu, Geng Sun, Jiacheng Wang, Dusit Niyato, Dong In Kim

专题命中 其他LLM :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文探讨了集成感知与通信(ISAC)在低空无线网络(LAWN)中的节点级和网络级作用,提出了扩展控制、计算、无线能量传输和基于大语言模型智能的多功能LAWN框架,并通过案例研究展示了其优势。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04385 2026-06-04 cs.CV 78%

Geometry-Preserving Unsupervised Alignment for Heterogeneous Foundation Models

保持几何结构的异质基础模型无监督对齐

Shuwen Yu, Zhanxuan Hu, Yi Zhao, Yonghang Tai, Huafeng Li

机构 * Yunnan Normal University, Kunming, China(云南师范大学,昆明,中国) Kunming University of Science and Technology, Kunming, China(昆明理工大学,昆明,中国)

专题命中 其他LLM :foundation model(title,abstract)

AI总结 提出GPUA框架,通过正交映射将视觉基础模型特征对齐到视觉语言模型语义空间,无需标签或参数更新,提升跨模型兼容性并在零样本识别与分割任务中取得显著增益。

Comments Accepted at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04051 2026-06-04 cs.LG cs.AI cs.CR 73%

RUBAS: Rubric-Based Reinforcement Learning for Agent Safety

RUBAS: 基于评分标准的强化学习用于智能体安全

Xian Qi Loye, Qinglin Su, Zhexin Zhang, Shiyao Cui, Qi Zhu, Fei Mi, Hongning Wang, Minlie Huang

机构 * The Conversational AI (CoAI) group, DCST, Tsinghua University(清华大学对话人工智能(CoAI)组,DCST,清华大学) Huawei Noah’s Ark Lab(华为诺亚实验室)

专题命中 其他LLM :LLM(abstract,abstract_cn);分类 cs.AI、cs.LG

AI总结 提出RUBAS框架,通过将智能体行为分解为四个维度的评分标准提供细粒度奖励,利用强化学习在保证任务完成的同时提升工具使用安全性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.25860 2026-06-04 cs.CL cs.AI cs.CY 73%

Luminol-AIDetect: Fast Zero-shot Machine-Generated Text Detection based on Perplexity under Text Shuffling

Luminol-AIDetect: 基于文本打乱下困惑度的快速零样本机器生成文本检测

Lucio La Cava, Andrea Tagarelli

机构 * DIMES Dept., University of Calabria(卡塔尼亚大学DIMES部门)

专题命中 其他LLM :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 提出Luminol-AIDetect,一种通过随机打乱文本并利用困惑度变化来区分机器生成文本与人类写作的零样本统计方法,在多个领域和攻击下达到SOTA性能。

Comments Under Review

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.05134 2026-06-04 cs.CL cs.LG 62%

Activation-Based Active Learning for In-Context Learning: Challenges and Insights

基于激活的主动学习用于上下文学习:挑战与见解

Yaseen M. Osman, Geoff V. Merrett, Stuart E. Middleton

机构 * School of Electronics and Computer Science (ECS), University of Southampton(电子与计算机科学学院(ECS),南安普顿大学)

专题命中 其他LLM :LLM(abstract);分类 cs.CL、cs.LG

AI总结 本文研究了基于MLP激活的深度主动学习方法在上下文学习中的应用,发现激活信号与示例质量或任务性能相关性弱,表明此类方法不适用于上下文学习。

Comments 9 pages, 3 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04939 2026-06-04 eess.AS 50%

UAT: Unified Audio-Text Diffusion for Audio Generation, Editing, and Captioning

UAT: 统一音频-文本扩散用于音频生成、编辑和字幕生成

Hui Wang, Yifan Yang, Zeyue Tian, Yuhang Jia, Jinghua Zhao, Long Zhou, Bing Han, Cheng Liu, Jiaming Zhou, Geng Tu, Yong Qin

专题命中 其他LLM :language model(abstract)

AI总结 提出UAT框架,通过连续潜扩散和掩码离散扩散实现音频生成、编辑和字幕生成的统一,在保持高保真音频合成的同时取得有竞争力的字幕性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.04264 2026-06-04 cs.CV 50%

UniCanvas: A Diffusion-base Unified Model for Text-in-Image Joint Generation

UniCanvas: 一种基于扩散的图文联合生成统一模型

Zeyuan Yang, Hao-Wei Chen, Xueyang Yu, Yuncong Yang, Haoyu Zhen, Ziqiao Ma, Maohao Shen, Chuang Gan

机构 * UMass Amherst(马萨诸塞大学阿默斯特分校) University of Michigan(密歇根大学) MIT(麻省理工学院)

专题命中 其他LLM :language model(abstract)

AI总结 提出UniCanvas,通过扩散模型在像素画布上以文本嵌入图像的方式实现图文联合生成,解决现有模型在视觉与文本生成上的不足。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.01573 2026-06-04 cs.CV 50%

$\text{VG}^2$GT: Voxel-Gaussian Splatting Visual Geometry Grounded Transformer

VG²GT: 体素-高斯泼溅视觉几何基础变换器

Yibin Zhao, Yihan Pan, Jun Nan, Wenli Yang, Liwei Chen, Jianjun Yi

机构 * East China University of Science and Technology(东华大学) Shanghai Open University(上海开放大学) Shanghai Xiaoyuan Innovation Center(上海小元创新中心)

专题命中 其他LLM :foundation model(abstract)

AI总结 提出VG²GT,利用冻结的视觉基础模型、多尺度可微体素模块和体素特征直接回归高斯原语参数,通过随机实体体渲染监督深度图,实现几何精确的高斯场景重建,在多个数据集上达到最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.20753 2026-06-04 stat.AP 50%

Algorithmic Bias in Lending: Evidence from a Fintech Audit

借贷中的算法偏见:来自金融科技审计的证据

Madison Coots, Robert Bartlett, Julian Nyarko, Sharad Goel

专题命中 其他LLM :prompting(abstract)

AI总结 本研究利用美国金融科技平台约8万笔个人贷款数据,审计发现算法承保模型对男性和黑人借款人的风险校准偏差导致其获得相对优惠的定价,并指出纳入种族和性别可纠正这种偏差,揭示了不同公平概念之间的冲突。

详情

展开后加载摘要…

URL PDF HTML 收藏