LMTuner: An user-friendly and highly-integrable Training Framework for fine-tuning Large Language Models
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);instruction tuning(abstract);分类 cs.CL、cs.AI
Comments 10 pages, 8 figures
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
Comments 22 pages, 4 figures
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
Comments 28th International Conference on Intelligent User Interfaces (IUI '23 Companion), March 27--31, 2023, Sydney, NSW, Australia
专题命中 指令微调 :prompting(title,abstract);LLM(title);large language model(abstract);language model(abstract)
Comments 10 pages, LaTeX; typos corrected, using the correct term 'system prompting' instead of 'soft prompting'
PolicyGuard:面向LLM编码智能体的可配置提示语义数据防泄漏方案
专题命中 指令微调 :LLM(title,title_cn)
AI总结 针对LLM编码智能体的PolicyGuard框架,以自然语言策略文件引导LLM分类用户提示,在冻结测试集和隐藏保留集上表现优异,泛化与跨模型能力突出。
Comments This paper is being withdrawn because it was submitted prior to completion of a required institutional review process. The authors intend to resubmit after the review is complete
Think2Go:基于大语言模型推理的生成式下一个兴趣点(POI)推荐
专题命中 指令微调 :SFT(summary_cn,abstract);LLM(title);large language model(abstract);language model(abstract)
AI总结 Think2Go框架统一SFT与RL推理,通过优势加权机制校准策略优化,解决现有POI推荐模型的意图捕捉不足问题,提升推荐性能与稳健性。
Comments Accepted by KDD 2026 Research Track Cycle 1 (Oral presentation)
Bio-SFT:用于稳健 HDR 重建的不对称皮层引导和视网膜适应
机构 * College of Physics and Information Engineering, Fuzhou University(福州大学物理与信息工程学院) ; School of Computer Science, Nankai University(南开大学计算机科学学院) ; School of Electrical and Information Engineering, Tianjin University(天津大学电气与信息工程学院)
专题命中 指令微调 :SFT(title,title_cn)
AI总结 研究针对单图像 HDR 重建难题,提出 Bio-SFT 方法,它包含可学习的视网膜适应前端、小细胞 - 大细胞分裂引导及事件驱动的 SNN 硬门控模块,经训练能有效抑制暗区噪声,提高感知质量,减少伪影传播。
D-LiFT:通过代码质量驱动的微调改进基于大语言模型的反编译器后端
专题命中 指令微调 :LLM(title,summary_cn);large language model(abstract);language model(abstract)
AI总结 研究针对反编译器输出质量问题,提出D-LIFT方法。通过代码质量感知强化学习微调LLM,利用D-Score综合评估系统指导,在保持准确性的同时提升可读性,实验证明该方法有效提高了反编译代码质量。
强化微调自然缓解持续训练中的遗忘
专题命中 指令微调 :post-training(title,abstract);large language model(abstract);language model(abstract);foundation model(abstract)
AI总结 本文比较了监督微调与强化微调在持续训练中的影响,发现强化微调能有效保留先验知识,优于监督微调和多任务训练,且在标准基准上提升模型通用知识。
当聚合者作弊:联邦LLM问答系统中的无数据后门
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract)
AI总结 针对联邦学习问答系统中恶意聚合者植入广告后门的问题,提出利用客户端梯度恢复样本并构造中毒数据集的两阶段攻击方法,实现高攻击成功率且几乎不影响正常性能。
Comments Accepted at the 35th USENIX Security Symposium (USENIX Security 2026)
EvoPref:多目标进化优化发现超越梯度下降的多样化大语言模型对齐
机构 * The University of Hong Kong(香港大学) ; Stellaris AI Limited(Stellaris AI有限公司)
专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);preference optimization(abstract)
AI总结 EvoPref通过多目标进化算法在帮助性、无害性和诚实性目标上优化LoRA适配器,发现比梯度下降更丰富的对齐方式,实验显示其在偏好覆盖和崩溃率上均有显著提升。
Comments 10 pages, 2 figures, 6 tables, 1 algorithm. Accepted to GECCO 2026
SkillMutator: 基准测试与防御针对LLM代理技能的语言与代码跨模态攻击
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract)
AI总结 提出SkillMutator基准,模拟13类跨模态攻击,并设计四阶段推理轨迹蒸馏框架,将检测率从17.1%提升至88.2%,超越GPT-4o-mini。
基于LLM的通过去优化和再优化将优化C++移植到CUDA
专题命中 指令微调 :LLM(title,title_cn)
AI总结 提出Deopt-Reopt工作流,通过先简化CPU优化代码再重新翻译优化为CUDA,利用LLM提升移植性能,实验表明该方法在部分内核上有效但非普遍适用。
UNISON: 通过深度LLM融合的统一声音生成与编辑框架
机构 * The Chinese University of Hong Kong(香港中文大学) ; The Hong Kong Polytechnic University(香港理工大学) ; City University of Hong Kong(香港城市大学) ; The Hong Kong University of Science and Technology(香港科学与技术大学) ; Tsinghua University(清华大学) ; Huawei Research Hong Kong(华为香港研究)
专题命中 指令微调 :LLM(title,title_cn)
AI总结 提出UNISON,一个基于潜在扩散的统一框架,通过层间深度LLM融合和多任务架构,实现语音生成、声音生成和音频编辑,在多个任务上达到或超越专业模型性能,且参数量减少约4倍。
有害意图作为LLM残差流中的几何可恢复特征
机构 * Independent Researcher(独立研究员)
专题命中 指令微调 :LLM(title,title_cn);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 研究通过几何方法识别LLM残差流中有害意图的特征,发现其在不同模型架构中线性可分离,并通过优化策略实现高检测性能。
Comments 26 pages, 1(+6) figures, 4(+14) tables. Code at https://github.com/isaac-6/harm-directions
代理预编码:基于LLM的多智能体系统用于预编码优化
专题命中 指令微调 :LLM(title,title_cn);large language model(abstract);language model(abstract)
AI总结 本文提出AgenticPrecoding框架,通过多智能体系统自动推导端到端预编码,提升未来6G网络中异构场景的适应性。
通过安全感知探测实现安全的大语言模型微调
机构 * School of Mathematical Sciences, Peking University(北京大学数学科学学院)
专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);post-training(abstract)
AI总结 本文探讨了非有害数据微调为何可能降低安全性,提出安全感知探测框架,通过对比安全信号定位安全相关方向,优化轻量级探针以引导参数更新远离有害轨迹,提升安全与性能的平衡。
DarwinTOD: 基于LLM的持续自我进化任务导向对话系统
专题命中 指令微调 :LLM(title,title_cn)
AI总结 DarwinTOD通过整合进化计算与LLM驱动的自我改进,提出一种持续自我进化对话框架,实现零样本基础下的持续策略优化,无需任务特定微调。
Comments Accepted in ACL2026 main
葡萄酒中的真理与漏洞:通过醉酒语言诱导检验LLM安全性
机构 * School of Computer Science and Engineering, UNSW Sydney(计算机科学与工程学院,新南威尔士大学悉尼分校) ; School of Computing and Information System, the University of Melbourne(计算与信息系统学院,墨尔本大学)
专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);post-training(abstract)
AI总结 本文通过诱导LLM产生醉酒语言,研究其安全漏洞,发现其易受劫持攻击和隐私泄露,揭示了LLM安全性的潜在风险。
Comments WIP
机构 * Dhruv Atreja(独立研究者)
专题命中 指令微调 :language model(title,abstract);LLM(abstract);large language model(abstract);SFT(abstract)
机构 * Institute for Language, Cognition and Computation (ILCC), University of Edinburgh, United Kingdom(语言、认知与计算研究所(ILCC),爱丁堡大学,英国) ; Institute for Logic, Language and Computation (ILLC), University of Amsterdam, Netherlands(逻辑、语言与计算研究所(ILLC),阿姆斯特丹大学,荷兰)
专题命中 指令微调 :SFT(title,abstract);LLM(abstract);large language model(abstract);language model(abstract)
Journal ref Actionable Interpretability Workshop ICML 2025
机构 * Massachusetts Institute of Technology, Boston, MA, USA(麻省理工学院) ; Harvard University, Boston, MA, USA(哈佛大学) ; MIT-IBM Watson AI Lab, Boston, MA, USA(MIT-IBM Watson AI实验室) ; University of Illinois Urbana-Champaign, Urbana, IL, USA(伊利诺伊大学厄巴纳-香槟分校)
专题命中 指令微调 :language model(title,abstract);LLM(abstract);large language model(abstract);SFT(abstract)
Comments 28 pages, 12 figures
Journal ref International Conference on Machine Learning (ICML'2025)
专题命中 指令微调 :foundation model(title,abstract);large language model(abstract);language model(abstract);SFT(abstract)
专题命中 指令微调 :instruction tuning(title,abstract);LLM(abstract);large language model(abstract);language model(abstract)
Comments Accepted to NeurIPS 2024
专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);post-training(abstract)
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract)
Comments Accepted by NDSS Symposium 2025. Please cite this paper as "Tian Dong, Minhui Xue, Guoxing Chen, Rayne Holland, Yan Meng, Shaofeng Li, Zhen Liu, Haojin Zhu. The Philosopher's Stone: Trojaning Plugins of Large Language Models. In the 32nd Annual Network and Distributed System Security Symposium (NDSS 2025)."
专题命中 指令微调 :language model(title,abstract);LLM(abstract);large language model(abstract);instruction tuning(abstract)
Comments ICLR 2024 Camera Ready version. With respect to the original submission, we added text generation experiments, plots of entire accuracy distributions for each task + stdev computations, and prompt length correlation with spread analysis