语言大模型 / LLM

A Systematic Evaluation of Trajectory Data Curation for LoRA Fine-Tuning of Code Agents

代码智能体LoRA微调的轨迹数据管理系统评估

Yunze Han

专题命中 指令微调 ：SFT(abstract)；分类 cs.AI

AI总结 研究代码智能体LoRA微调中轨迹数据管理，提出效率和风格两轴质量评分框架，经16个控制实验评估，揭示规模依赖的质量-数量权衡及错误重试率是主要子维度，为代码智能体监督微调提供可行手段与评估协议。

Comments 12 pages, 2 figures. Author's accepted manuscript of a paper published in the ICIC 2026 proceedings (oral presentation)

Journal ref In: Huang, D.S., Li, B., Zhang, Q., Bao, W. (eds) Advanced Intelligent Computing Technology and Applications. ICIC 2026. Lecture Notes in Computer Science, vol 16669, pp. 39-50. Springer, Singapore (2027)

AI Agents Do Not Fail Alone:The Context Fails First

人工智能智能体并非独自失败：上下文首先失败

Fouad Bousetouane

机构 * The University of Chicago（芝加哥大学） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI

AI总结 研究人工智能智能体可靠性，通过ProofAgent-Harness评估上下文七个标准，验证上下文工程质量是智能体可靠性的领先指标，经受控研究表明上下文质量标准可预测行为结果，确立其为预检信号及可审计层。

Comments 24 pages, 1 figure

SeeSE3: Emergence of 3D Space in Vision Features

SeeSE3：视觉特征中3D空间的出现

Caroline Chen, Sayna Ebrahimi, Fedor Kitashov, Ming-Hsuan Yang, Leonidas Guibas, Viorica Pătrăucean, Maks Ovsjanikov

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI

AI总结 研究视觉基础模型构建的表征与3D欧几里得空间内在属性的关系，提出从拓扑和几何角度评估的探测器，发现自监督视觉模型有相关潜在子空间，并基于此提出“潜在空间导航”技术用于视觉里程计和定位。

Screening of Biosecurity Features in Metagenomic Data with Evo 2 Probes

使用Evo 2探针筛选宏基因组数据中的生物安全特征

Jeremy Guntoro, Alexander Dack, Dylan Danno, Michaela Jančovičová, Križan Jurinović, Vanessa Smilansky

机构 * Department of Bioengineering, Imperial College London（帝国理工学院生物工程系） ； John Innes Centre（约翰·英尼斯研究中心） ； Independent Research Scientist（独立研究者） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 研究利用Evo 2探针在宏基因组数据中筛选生物安全特征，通过训练线性和注意力探针检测抗菌抗性及细菌毒力等，发现其在检测AMR等方面效果良好，可作为快速低成本首过检测层，明确了该方法的优势与局限。

TRACE: Turn-level Reward Assignment via Credit Estimation for Long-Horizon Agents

TRACE：通过信用估计进行长期奖励分配的回合级奖励分配

Leitian Tao, Baolin Peng, Wenlin Yao, Tao Ge, Hao Cheng, Mike Hang Wang, Jianfeng Gao, Sharon Li

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Microsoft Research（微软研究院） 纠错

专题命中 指令微调 ：post-training(abstract)；分类 cs.LG

AI总结 研究针对多轮智能体训练后的信用分配难题，提出TRACE方法，通过特定状态转换、对数概率获取及转换等步骤进行奖励分配。该方法无需额外训练，在长期复杂搜索任务中显著提升基础模型工具使用能力，在基准测试中表现良好且学习曲线更佳。

Comments 26 pages

Do LLMs Need Architectural Changes for Simultaneous Speech Translation? A Prefix-to-Prefix Data Driven Approach

语言模型进行同步语音翻译需要架构改变吗？一种前缀到前缀的数据驱动方法

Junkun Chen, Jian Xue, Ming Tang, Abdel Heba, Hoda Gholami, Ruchao Fan, Jinyu Li

机构 * Microsoft（微软） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.CL

AI总结 研究同步语音翻译中仅解码器语言模型面临的挑战，提出基于固定长度块、回退前缀及教师标记前缀到前缀目标的CSSEL-P2P方法，经实验其在可比延迟下提升了流质量，证明无需架构改变可有效实现同步语音翻译。

Accepted Prefixes Are Not All You Need: A Negative Result on PEFT-Based Block-Diffusion Drafting

接受前缀并非全部所需：基于PEFT的块扩散草稿生成的负面结果

Abdurrahman Javat, Allan Kazakov

机构 * Bahçeşehir University（巴赫切希尔大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 研究基于PEFT - BD的推测性解码方法，虽有避免分词器不匹配等优点，但在Qwen3 - 0.6B实验中未实现实际加速，因草稿生成器计算不高效。结果表明成功推测性解码需草稿生成器执行成本远低于验证器。

StoryTeller: Training-Free Narrative Grounding for Long-Form Audio Description

StoryTeller：用于长格式音频描述的免训练叙事接地

Seung Hyun Hahm, Minh T. Dinh, SouYoung Jin

机构 * Dartmouth College（达特茅斯学院） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 研究针对长格式音频描述问题，提出免训练的StoryTeller框架。它通过维护叙事记忆跨场景传递信息，仅用原始视频和标题，经语义过滤等确保信息准确。引入StoryAD-QA基准测试，实验证明该框架显著提升了叙事相关能力。

Comments Accepted to the European Conference on Computer Vision (ECCV) 2026

Language Re-generation: An investigation into information locality effects on reconstruction

语言再生：信息局部性对重构影响的研究

Amirhossein Mohammadi, Laurence E. Frank, Albert Gatt, Robert A. Bagheri

机构 * Utrecht University（乌得勒支大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 研究信息局部性对语言模型恢复自然语言的影响，通过微调预训练的GPT-2模型从三种扰动类型重构自然英语，发现恢复结构有局部性偏好，揭示架构偏差，且恢复难度与可学习性难度相关，表明信息局部性是共同约束。

EmoStyle: Affective Conditioning of Style-Specialist Experts for Emotional Image Generation

EmoStyle：用于情感图像生成的风格专家情感调节

Dexiang Hong, Yijie Guo, Weidong Chen, Xinyan Liu, Zixuan Zou, Zhendong Mao, Yongdong Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI

AI总结 针对情感感知艺术图像生成中训练与测试时属性不一致造成的控制差距问题，提出EmoStyle框架，利用语言模型推理器预测情感线索，编码情感字段指导生成，训练专用LoRA适配器结合风格表达情感，经视觉语言模型引导排序，在挑战赛中获佳绩。

An Emergent Mirage: Is Emergent Misalignment and Realignment Indeed a Robust Phenomenon?

一种新兴的海市蜃楼：新兴的错位与重新对齐真的是一种稳健的现象吗？

Abhinav Rao, Liancheng Gong, Bin Hu, Atharva Naik

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 研究新兴错位与重新对齐现象，通过受控微调循环研究其循环过程及相关表现，发现错位和重新对齐对数据集表面特征敏感，先前机制特征与行为错位不始终相关，指出当前EM证据欠稳健，需控制数据集伪像的评估协议。

CLAP: Direct VLM-to-VLA Adaptation via Language-Action Grounding

CLAP：通过语言-动作基础实现从视觉语言模型到视觉语言动作模型的直接适配

Yuri Ishitoya, Jeremy Siburian, Masashi Hamaya, Kuniaki Saito, Cristian C. Beltran-Hernandez, Mai Nishimura

机构 * Ochanomizu University（御茶水女子大学） ； University of Tokyo（东京大学） ； OMRON SINIC X Corp（欧姆龙（中国）有限公司） 纠错

专题命中 指令微调 ：post-training(abstract)；分类 cs.AI

AI总结 研究如何将预训练视觉语言模型直接转换为视觉语言动作模型，核心方法是提出CLAP，通过在数字动作序列前加自然语言描述来解决输出分布不匹配问题，单轮微调效果良好，还将发布多尺度紧凑VLA家族助力能力转移分析。

Comments Project website: https://omron-sinicx.github.io/clap/

Large Behavior Model: A Promptable Digital Twin of the Retail Customer

大型行为模型：零售客户的可提示数字孪生体

Wachiravit Modecrua, Krittin Pachtrachai, Touchapon Kraisingkorn

机构 * Amity Research and Application Center (ARAC), Amity AI Holdings Co., Ltd.（友好研究与应用中心（ARAC），友好人工智能控股有限公司） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 研究旨在解决客户行为建模问题，提出大型行为模型（LBM），通过统一公式从零售交易学习客户决策，经多种训练方式优化。该模型在多任务中表现出色，消融研究揭示各因素作用，为客户数字孪生体和行为模拟提供可扩展基础。

Comments 17 pages, 5 figures

Write-Protected Discrete Bottlenecks for Language-Grounded World Models: A Structural Limitation and Sufficient Fix

用于语言基础世界模型的写保护离散瓶颈：一种结构限制及充分修复

Jiayi Fang

机构 * Shanghai University of Finance and Economics（上海金融学院） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.LG

AI总结 研究语言与世界模型离散符号系统的交互问题，提出防止基于Gumbel-softmax的离散符号瓶颈失败的三个约束，经实验验证该方法能实现高基础准确率，且修复参数少、无需微调。

Comments 20 pages, 7 figures. Preprint

Evaluating Fine-Tuning and Metrics for Neural Decompilation of Dart AOT Binaries

评估Dart AOT二进制文件神经反编译的微调与指标

Raafat Abualazm, Ayman AboElhassan, Amr G. Wassal

机构 * Cairo University Computer Engineering Department, Faculty of Engineering（开罗大学计算机工程系，工程学院） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI

AI总结 研究针对Dart AOT二进制文件神经反编译，在新基准上用三个指标评估六种微调模型变体，发现无微调配置能显著提升pass@k，存在跨语言干扰及指标差异，指出汇编序列长度是任务难度关键预测指标，贡献新基准等并明确pass@k为主要评估指标。

Comments Under review at ACM Transactions on Software Engineering and Methodology (TOSEM)

Harnessing Generative Image Models for Training-Free Primitive Shape Abstraction

利用生成式图像模型进行无训练的原始形状抽象

Gregor Kobsik, Tim Elsner, Leif Kobbelt

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 研究如何利用生成式图像模型进行无训练的原始形状抽象，通过渲染多视图图像、分析语义部分、绘制分割掩码、重新投影和拟合超二次基元的流程，实现与类别无关且方向不变，在相关数据集上Chamfer距离最低。

Comments 13 pages, 9 figures, 3 tables

CanvasAgent: Enabling Complex Image Creation and Editing via Visual Tool Orchestration

CanvasAgent：通过视觉工具编排实现复杂图像创建和编辑

Hairui Zhu, Yiying Yang, Tengjin Weng, Ziyu Lu, Xiao Yao, Xiaoyang Ye, Lin Ma, Wenhao Jiang

机构 * Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.AI

AI总结 研究复杂图像创建编辑问题，提出CanvasAgent代理，通过多轮交互编排异构视觉工具，先经监督微调学习轨迹，再用广义信赖域策略优化器结合多种信号优化，结合CanvasCraft数据集进行实验，证明其对复杂多工具图像创建工作流程有效。

Comments 18pages, 5 figures

Formal Disco: Scalable Open-Ended Generation of Formally Verified Programs

形式化迪斯科：可扩展的形式化验证程序的开放式生成

Gabriel Poesia, Simon Henniger, Tzu-Han Hsu, Yilun Du, Nada Amin

机构 * Kempner Institute, Harvard University（坎普纳研究所，哈佛大学） ； School of Engineering and Applied Sciences, Harvard University（工程与应用科学学院，哈佛大学） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI

AI总结 针对生成程序质量保证落后及形式验证数据稀缺问题，提出Formal Disco分布式系统，协调三类工人，记录痕迹用于改进，提出最大熵原则，发布数据集并微调模型，为形式推理领域大规模创建合成数据。

Comments Code: https://github.com/metareflection/formal-disco Datasets: https://huggingface.co/collections/metareflection/formal-disco

TokAN: Accent Normalization Using Self-Supervised Speech Tokens

TokAN：使用自监督语音令牌进行口音归一化

Qibing Bai, Shuai Wang, Yuhan Du, Bohan Li, Yannan Wang, Haizhou Li

机构 * School of Data Science (SDS), The Chinese University of Hong Kong, Shenzhen (CUHKSZ)（香港中文大学（深圳）数据科学学院） ； Tencent Ethereal Audio Lab, Tencent（腾讯虚幻音频实验室） ； School of Intelligence Science and Technology, Nanjing University, Suzhou（南京大学苏州校区智能科学与技术学院） ； Shenzhen Loop Area Institute（深圳河套学院） ； X-LANCE Lab, School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院X-LANCE实验室） ； School of Artificial Intelligence (SAI), CUHKSZ（香港中文大学（深圳）人工智能学院） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） 纠错

专题命中 指令微调 ：post-training(abstract)；分类 cs.AI

AI总结 研究提出TokAN框架，基于自监督离散语音令牌，用自回归编解码器转换口音，引入强化学习后训练，还用流匹配合成器和持续时间预测器，实验表明其在降低字错误率和提升可懂度上优于基线。

Comments Submitted to IEEE Transactions on Audio, Speech, and Language Processing (TASLP)

USE: A Unified Self-Ensembling Framework for Test-Time Prompt Tuning

USE：一种用于测试时提示调整的统一自集成框架

Siru Jiang, Jian Liang, Ran He, Tieniu Tan

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） ； NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所国家智能机器人实验室及模式识别实验室） ； Nanjing University（南京大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.LG

AI总结 重新审视测试时提示调整（TPT），揭示其优化可视为从自生成伪标签隐式学习，在此基础上提出统一自集成框架（USE），优化时引入自集成策略，实验表明USE及其自集成策略表现出色。

Comments ICML 2026

Reinforcement Learning for Data-Efficient Code-Switched ASR

用于数据高效代码混合自动语音识别的强化学习

Ziwei Ye, Peter Vickers

机构 * Spotify Canada（加拿大声田公司） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 研究针对代码混合语音识别中音频语言模型解码问题，提出基于强化学习的方法，结合错误率奖励、脚本保真度奖励及两阶段过程，用少量数据训练达全量数据微调效果，且增益可零样本转移。

Comments Accepted at Interspeech 2026

Xiaomi-GUI-0 Technical Report

Xiaomi-GUI-0 技术报告

Wanxia Cao, Chengzhen Duan, Pei Fu, Pengzhi Gao, Niu Lian, Fazhan Liu, Hui Liu, Heng Qu, Qinzhuo Wu, Zhehao Yu, Tongbo Chen, Shiqi Cui, Anan Du, Shukai Jia, Yuanfa Li, Wei Liu, Yike Liu, Wenchao Lu, Zhenbo Luo, Haoyuan Sun, Jiatong Sun, Cheng Tan, Yajie Wang, Changqiao Wu, Tao Xiong, Jiahui Yang, Yuxuan Yuan, Ruoceng Zhang, Shaojie Zhang, Jian Zhu, Jian Luan, Cong Zou

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 提出Xiaomi-GUI-0，一种在真实移动设备上训练和评估的原生多模态GUI智能体，通过真实设备主导的混合基础设施、多源训练数据和渐进式三阶段训练，在真实任务中实现72.0%成功率，显著提升执行稳定性和异常状态识别。

Inherited Circuits, Learned Semantics: How Fine-Tuning Creates Evasion Vulnerabilities Invisible to Standard Evaluation

继承的电路，学习的语义：微调如何创建标准评估不可见的规避漏洞

Ryan Fetterman

机构 * Cisco Talos（思科 Talos） 纠错

专题命中 指令微调 ：LLM(abstract_cn)；分类 cs.AI

AI总结 研究微调如何引入安全分类模型的规避漏洞，通过因果干预定位继承电路，提出预部署监测方法，发现微调扩展了规避面。

Closing the Quality Gap in Low-Resource Text-to-Speech: LoRA Fine-Tuning of VoxCPM2 for Khmer and Korean

缩小低资源文本转语音的质量差距：针对高棉语和韩语的VoxCPM2 LoRA微调

Phannet Pov, Sovandara Chhoun, Hyun Woo Park, Wan-Sup Cho, Saksonita Khoeurn

机构 * Department of Big Data, Chungbuk National University（Chungbuk National University大数据系） ； Institute of Digital Research and Innovation, Cambodia Academy of Digital Technology（柬埔寨数字技术研究院） ； Department of Management Information Systems, Chungbuk National University（Chungbuk National University管理信息系） ； BigData Labs Co., Ltd.（BigData Labs公司） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 针对高棉语和韩语，使用LoRA微调VoxCPM2模型，在仅训练0.19%-3.03%参数的情况下，高棉语MOS从3.85提升至4.23，而韩语无提升，表明适配主要帮助基础模型表现差的语言。

Comments 5 pages, 1 figure, 4 tables. IEEE conference format (IEEEtran)

SoK: AI Secure Code Generation: Progress, Pitfalls, and Paths Forward

SoK：AI安全代码生成：进展、陷阱与前进之路

Rupam Patir, Keyan Guo, Haipeng Cai, Hongxin Hu

专题命中 指令微调 ：prompting(abstract)；分类 cs.AI

AI总结 本文系统化分析AI安全代码生成的进展、陷阱与前进方向，提出三层次框架衡量模型对安全编码原则的理解、代码级执行及两者间的知识-执行差距，发现原则理解是代码安全性的强预测因子，但存在显著知识-执行差距。

SteerVTE: Seamless Video Text Editing with Style and Glyph Control

SteerVTE: 具有风格和字形控制的无缝视频文本编辑

Kai Zeng, Moran Li, Zhengwei Wang, Yingchen Yu, Yiheng Lin, Ruichuan An, Ming Lu, Qi She, Wentao Zhang

机构 * Peking University（北京大学） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI

AI总结 提出SteerVTE框架，通过风格编码器和双粒度字形编码器控制冻结视频扩散模型，结合字形感知空间焦点损失和三阶段渐进训练，实现精确、连贯的视频文本编辑。

Enhancing LLMs for Graph Tasks via Graph-aware LoRA Generation

通过图感知的LoRA生成增强LLMs的图任务能力

Junshu Sun, Wanxing Chang, Qingming Huang, Shuhui Wang

机构 * State Key Lab. of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所人工智能安全国家重点实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； DAMO Academy, Alibaba Group（阿里巴巴集团达摩院） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.LG

AI总结 提出GaRA模型，通过生成任务特定的低秩权重更新注入全图信息，避免信息损失，在零样本图学习任务上优于基线方法。

Comments Accepted by ICML 2026

Dissecting Agentic RAG: A Component Ablation for Multi-Hop QA with a Local 7B Model

解析智能体RAG：基于本地7B模型的多跳问答组件消融研究

Sheroz Shaikh

机构 * Independent Researcher（独立研究员） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 通过消融实验，发现固定混合检索和短检索循环对多跳问答贡献最大，自适应路由和深度循环并非必要。

Comments 8 pages, 4 figures, 4 tables. Code: https://github.com/sherozshaikh/agentic-rag-eval

Topic-to-Timestamp Alignment by Constrained Evidence Selection

通过约束证据选择的主题到时间戳对齐

Zeynep Yılbırt, Marina Litvak, Michael Färber

机构 * TU Dresden（德累斯顿工业大学） ； SpeechMind GmbH（SpeechMind 公司） ； Shamoon College of Engineering（沙蒙工程学院） ； ScaDS.AI Dresden/Leipzig（ScaDS.AI 德累斯顿/莱比锡） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 针对会议记录中主题到时间戳的对齐问题，提出将时间戳预测重构为约束时间候选选择，通过检索时间戳转录块并选择最佳候选而非生成时间码，显著提升召回率和解析输出数量。

Predicting Mergeability of Parameter-Efficient Fine-Tuning Updates

预测参数高效微调更新的可合并性

Lin Tang, Wei Zhang, Jing Li, Hongyu Chen, Ming Zhao, Yuxuan Wang

机构 * Sichuan University（四川大学） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.LG

AI总结 提出MergeProbe，通过训练初期信号预测LoRA适配器的可合并性，在MERGE-PEFT基准上实现最佳平均和最差保留性能。