Generative Job Recommendations with Large Language Model
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);SFT(abstract)
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);SFT(abstract)
专题命中 指令微调 :LLM(title,abstract);instruction tuning(title);large language model(abstract);language model(abstract)
Comments AAAI 2025; Project Page: https://cit-llm-routing.github.io
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract,comments);分类 cs.CL、cs.AI、cs.LG
Comments Preliminary Version, Code at [this url](https://github.com/ruocwang/llm-symbolic-program)
构建它、攻破它、重复它:基准测试与改进大语言模型生成的社交媒体虚假信息检测
专题命中 指令微调 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 该研究提出BiBiR迭代框架测试虚假信息检测器鲁棒性,结合回译与LLM角色改写的攻破技术实现95%标签翻转率,DASS架构三元组对比模型准确率72.68%,优于基线模型。
Comments Under review
PTP:基于前序令牌预测的大语言模型反演方法,用于近精确提示重构
机构 * IIT Bombay(印度理工学院孟买分校) ; Adobe Research(奥多比研究中心)
专题命中 指令微调 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.LG
AI总结 提出PTP方法,在黑盒场景下从零训练逆语言模型,通过前序令牌预测实现近精确提示重构,泛化性与迁移性良好,性能优于现有LLM反演工作。
探究推理性能的起源:强化学习(RL)与监督微调(SFT)模型在数学问题求解中的表征质量
专题命中 指令微调 :SFT(title,title_cn);分类 cs.CL、cs.AI
AI总结 本研究探究RL与SFT微调模型数学推理性能差异的机制,发现RL模型的表征更具线性可分性、深层重要性更高,其token分配变异性或反映在线策略推理的分布。
Comments Second Workshop on XAI4Science, AAAI 2026
DS@GT ARC在CheckThat! 2026中的应用:基于大语言模型的多语言数值声明验证的推理轨迹排序和分组奖励建模
机构 * Georgia Institute of Technology(佐治亚理工学院)
专题命中 指令微调 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 针对多语言数值声明验证,探索基于大语言模型(LLM)的推理轨迹排序和分组奖励建模两种方法。LLM方法用LoRA微调验证器评分,还尝试子声明分解;奖励模型用TF-IDF及特征评分。结果显示LLM方法多数指标更优,阿拉伯语中AraBERT表现更佳且子声明分解未提升性能。
Comments 10 pages, 2 figures. Accepted at CLEF 2026 CheckThat!. To appear in CEUR Workshop Proceedings
基于美国核管理委员会反应堆操作员执照考试的多模态语言模型微调与检索策略基准测试
机构 * organization= Department of Nuclear Engineering, Hanyang University , addressline= 222 Wangsimni-ro , postcode= 04763 , state= Seongdong-gu , city= Seoul , country= South Korea ; organization= The Grainger College of Engineering, Nuclear, Plasma \& Radiological Engineering, University of Illinois Urbana-Champaign , city= Urbana , state= IL , country= USA
专题命中 指令微调 :SFT(summary_cn,abstract);language model(title,abstract);large language model(abstract);分类 cs.CL、cs.AI
AI总结 该研究针对美国核管理委员会反应堆操作员执照考试,评估310亿参数多模态模型应用核知识的能力,通过对比基础模型与多种微调及检索配置,发现固定大小分块RAG的SFT配置表现最佳,并揭示了分块策略规律及RAFT与SFT的性能差异。
LLM-INSTRUCT在UZH 2026共享任务中的应用:用于段落级论证挖掘的约束感知检索和选择性辩论
机构 * Vietnamese-German University(越南-德国大学) ; RMIT University Vietnam(皇家墨尔本理工大学越南分校) ; VANGIA INNOVATIONS(VANGIA创新公司)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI
AI总结 本文介绍了在UZH 2026共享任务中用于段落级论证挖掘的获胜系统LLM-INSTRUCT,通过元数据感知检索、约束解码等方法缩小决策空间,提高了准确性和提交稳健性,在官方排行榜上取得优异成绩。
Comments Accepted to the 13th Workshop on Argument Mining (ArgMining 2026) at ACL 2026
CreativityNeuro: 引导语言模型权重以改善发散思维并减少模式崩溃
机构 * Center for Brain Science, Harvard University(哈佛大学脑科学中心) ; CBS-NTT Program in Physics of Intelligence, Harvard University(哈佛大学CBS-NTT智能物理项目) ; Prior Computers ; AI Innovation Institute, Stony Brook University(石溪大学人工智能创新研究所)
专题命中 指令微调 :LLM(summary_cn,abstract);language model(title,abstract);large language model(abstract);分类 cs.AI、cs.LG
AI总结 提出数据无关的对比权重引导方法CreativityNeuro,通过调整LLM权重增强发散思维,在多项创造力测试中提升原创性并减少模式崩溃,无需重新训练或微调。
Comments Accepted at ICML 2026 Workshop on Creativity & Generative AI
无基座的人格:体制依赖性与LLM个体化问题
机构 * Harbin Institute of Technology(哈尔滨工业大学)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI
AI总结 通过实验揭示LLM个体化问题中跨体制共指假设的漏洞,提出体制索引个体化框架,将表征内容的身份单位视为(载体,体制)对。
Comments 30 pages, 2 figures, 1 table. Replies to Beckmann & Butlin (arXiv:2604.17031)
大语言模型微调的双层数据策展:离线选择与在线自优化生成
机构 * Cornell University(康奈尔大学) ; Cisco Research(思科研究)
专题命中 指令微调 :LLM(title,abstract);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 提出双层框架结合离线数据选择与在线自优化生成,提升微调数据质量,理论证明优于直接混合,实验验证效果。
Comments updated the theories and experiments
告知、指导、共情、倾听:审计LLM护理支持角色
机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校) ; OSF HealthCare(OSF医疗集团) ; Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校)
专题命中 指令微调 :LLM(title,title_cn);language model(abstract);prompting(abstract);分类 cs.CL、cs.AI
AI总结 本研究通过操作化四种社会支持角色(告知、指导、共情、倾听),评估大型语言模型在非正式护理对话中的安全概况,发现支持角色系统性地影响交互风险,且存在感知质量-安全性权衡。
StepPRM-RTL:基于逐步过程奖励引导的LLM微调以增强RTL综合
机构 * IBM Research San Jose CA USA(IBM研究院圣何塞加州美国)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI
AI总结 提出StepPRM-RTL框架,结合逐步轨迹建模、过程奖励模型和检索增强微调,通过密集反馈和蒙特卡洛树搜索探索推理路径,提升LLM生成RTL代码的功能正确性和推理保真度,在基准数据集上相比先前方法提升超10%。
Comments 6 pages, 2 figures, DAC'2026
ReLoRA: 面向演化LLM服务快速部署的知识复用适配
机构 * School of Computer Science and Technology, University of Science and Technology of China(计算机科学与技术学院,中国科学技术大学) ; Suzhou Institute for Advanced Research, University of Science and Technology of China(苏州先进研究院,中国科学技术大学)
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 针对基础模型频繁更新导致已有LoRA适配器失效的问题,提出ReLoRA框架,通过贝叶斯优化初始化与调度正则化微调,实现知识复用与快速重新适配,降低计算开销并提升性能。
对抗性输入流引导LLM智能体决策偏离其默认行为
机构 * Independent Researcher(独立研究者)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI
AI总结 本研究通过控制实验揭示,外部输入流的组成和排序能因果性地改变LLM智能体的下游决策,存在对抗性屈服、默认饱和及默认方向不对称三种响应模式,且该效应在多个决策领域普遍存在。
Comments 14 pages, 5 figures. Code, post pools, and 2,785 decision rollouts: https://github.com/ranausmanai/recommenders-as-control-surfaces
揭秘数据组织以增强大语言模型训练
机构 * Nanyang Technological University(南洋理工大学) ; Microsoft Research(微软研究院) ; The Hong Kong University of Science and Technology(香港科技大学)
专题命中 指令微调 :LLM(title,abstract);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 本文系统探索数据组织对大语言模型训练的影响,提出边界锐化、循环调度、课程连续性和局部多样性四项优化准则,并基于此设计了两种新的数据排序方法STR和SAW,实验验证了其在预训练和微调阶段的有效性。
Comments ACL 2026 Main Conference
微小大脑,巨大影响:仅用少量提示揭示LLM的关键神经元
机构 * National University of Singapore(新加坡国立大学) ; Beijing University of Posts and Telecommunications(北京邮电大学) ; University of Science and Technology of China(中国科学技术大学)
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);pretraining(abstract)
AI总结 本研究通过跨任务激活强度分析,发现大型语言模型中存在一组极其稀疏的关键神经元,其移除会导致模型行为崩溃,并基于此提出仅更新关键神经元的微调方法,在少量参数修改下达到与全参数微调相当或更优的任务性能。
GroundAct:LLM智能体能否在环境状态中实现动作落地?
机构 * Zhejiang University(浙江大学)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI
AI总结 本研究提出GroundAct基准,通过1500个场景和16592个任务实例评估15个LLM,发现动作落地能力是多维挑战,不能仅通过模型规模解决。
Comments Project Page: https://zju-real.github.io/OmniEmbodied Code: https://github.com/ZJU-REAL/OmniEmbodied
数据难度与LLM微调中的泛化-外推权衡
机构 * IIIS, Tsinghua University(清华大学人工智能学院) ; College of AI, Tsinghua University(清华大学人工智能学院) ; Shanghai Qi Zhi Institute(上海启智研究院) ; Amazon AGI SF Lab(亚马逊AGI旧金山实验室)
专题命中 指令微调 :LLM(title,title_cn);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 本文通过实证和理论分析,研究了监督微调中数据难度对模型行为的影响,发现数据难度与数据量共同决定泛化与外推之间的权衡,并存在最优难度随数据量增加而向更难数据偏移的规律。
Comments Accepted to ICML 2026
记忆定理而非实例:通过数学推理探究SFT泛化
机构 * Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院) ; Huawei Technologies(华为技术)
专题命中 指令微调 :SFT(title,title_cn);分类 cs.AI、cs.LG
AI总结 针对监督微调(SFT)损害推理泛化的问题,提出Theorem-SFT方法,通过显式定理应用训练,在多个基准上取得显著提升,并揭示前馈层是推理规则的主要存储位置。
用于多轮LLM微调的合成轨迹的双层优化
机构 * Harvard University(哈佛大学) ; Georgia Institute of Technology(佐治亚理工学院)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.AI、cs.LG
AI总结 提出BOOST双层优化框架,通过内层加权训练和外层轻量级重加权头学习,解决合成轨迹质量异质性导致的LLM多轮交互性能下降问题。
移动众包中用于LLM微调的诚实在线偏好聚合
机构 * Singapore University of Technology and Design(新加坡科技设计大学) ; Hong Kong University of Science and Technology(香港科技大学)
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 针对移动众包中工人可能策略性谎报偏好反馈的问题,提出一种动态贝叶斯博弈模型和在线加权聚合机制,确保工人诚实反馈并实现次线性遗憾。
Scaling-Aware Adapter for Structure-Grounded LLM Reasoning
机构 * Department of Computer Science, Western University, London, Canada(加拿大伦敦西方大学计算机科学系) ; Department of Biochemistry, Western University, London, Canada(加拿大伦敦西方大学生物化学系)
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 提出Cuttlefish,一种统一多模态大语言模型,通过缩放感知适配器和几何基础适配器,自适应调整结构令牌数量并注入几何线索,以提升异构结构推理性能。
Comments Accepted by ICML 2026
扩散语言模型的可学习性感知微调
机构 * Department of Computer Science and Engineering, Texas A\&M University, College Station, TX, USA(计算机科学与工程系,德克萨斯A&M大学,College Station, TX, USA) ; Department of Electrical and Computer Engineering, Texas A\&M University, College Station, TX, USA(电气与计算机工程系,德克萨斯A&M大学,College Station, TX, USA)
专题命中 指令微调 :SFT(summary_cn,abstract);language model(title,abstract);post-training(abstract);分类 cs.CL、cs.LG
AI总结 针对扩散语言模型(DLM)推理能力提升问题,提出基于可学习性感知的微调算法LIFT,通过在不同扩散时间步对齐训练与信息可用性,在六个推理基准上超越现有SFT基线,在AIME'24和AIME'25上实现高达3倍的相对提升。
面向目标的监督学习用于大语言模型微调
机构 * The University of Texas at Austin(德克萨斯大学奥斯汀分校) ; Intuit AI Research(Intuit人工智能研究)
专题命中 指令微调 :LLM(title,abstract);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 本文提出目标条件监督学习(GCSL)框架,通过将反馈信号作为显式目标,利用监督学习生成高质量响应,改进了传统监督微调和直接偏好优化的局限性。
从反馈循环到政策更新:基于强化微调的LLM驱动的alpha因子发现
机构 * Peking University(北京大学) ; Alibaba Group(阿里巴巴集团) ; Nanjing University(南京大学) ; University of Illinois Chicago(伊利诺伊大学香槟分校)
专题命中 指令微调 :LLM(title,title_cn);分类 cs.CL、cs.AI
AI总结 本文提出QuantEvolver框架,通过强化微调将可执行量化评估转化为策略更新,提升LLM在alpha因子发现中的表现,生成高质量且互补的因子池。
参数效率不等于内存效率:重新思考设备端LLM适应的微调
机构 * MIT CSAIL(MIT计算机科学与人工智能实验室) ; Harvard SEAS(哈佛大学科学、工程与应用数学系)
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 本文挑战参数效率等同于内存效率的假设,提出LARS框架通过约束激活子空间降低内存消耗,实验证明在不同设备上均能提升内存效率和性能。
利用大型语言模型分类德语语言水平
机构 * Computer Science Department University of Münster(穆尔斯特大学计算机科学系)
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
AI总结 本文利用大型语言模型对德语文本进行CEFR水平分类,通过多种方法提升分类性能,展示了LLMs在语言水平评估中的应用潜力。
Comments Accepted at 3rd International Conference on Foundation and Large Language Models (FLLM2025), Vienna (Austria)
机构 * The Ohio State University(俄亥俄州立大学) ; Imperial College London(伦敦帝国理工学院) ; The University of Hong Kong(香港大学) ; University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
专题命中 指令微调 :instruction tuning(title,abstract);large language model(title);language model(title);分类 cs.CL、cs.LG
Comments ACL 2025