Oracle（甲骨文）

Controlling Distributional Bias in Multi-Round LLM Generation via KL-Optimized Fine-Tuning

通过KL优化微调控制多轮LLM生成的分布偏倚

Yanbei Jiang, Amr Keleg, Ryandito Diandaru, Jey Han Lau, Lea Frermann, Biaoyan Fang, Fajri Koto

机构 * University of Melbourne（墨尔本大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Oracle（甲骨文公司） 纠错

AI总结 本文提出通过KL优化微调结合语义对齐的方法，解决多轮LLM生成中分布控制问题，实验显示其在属性生成任务中表现优异。

Comments Accepted at ACL Main Conference