Are Dilemmas and Conflicts in LLM Alignment Solvable? A View from Priority Graph
对LLM对齐中的困境和冲突是否可解?一种优先图的视角
机构 * The Hong Kong University of Science and Technology(香港科学与技术大学) ; The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州)) ; New York University(纽约大学) ; National University of Singapore(新加坡国立大学)
AI总结 本文通过优先图模型分析LLM在不同场景中的冲突与困境,揭示了统一稳定对齐的挑战及优先黑客的潜在风险,并提出运行时验证机制以提升鲁棒性。