大模型对齐与安全

PCS-UQ: Uncertainty Quantification via the Predictability-Computability-Stability Framework

PCS-UQ：基于可预测性-可计算性-稳定性框架的不确定性量化

Abhineet Agarwal, Fange Xiao, Rebecca Barter, Omer Ronen, Boyu Fan, Bin Yu

机构 * Department of Statistics, University of California, Berkeley（加州大学伯克利分校统计学系） ； Department of Epidemiology, University of Utah（犹他大学流行病学系） ； Department of Electrical Engineering and Computer Science, University of California, Berkeley（加州大学伯克利分校电气工程与计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；trustworthy(abstract)；分类 cs.LG

AI总结 提出PCS-UQ框架，通过预测检查、bootstrap采样和乘法校准实现不确定性量化，在回归和分类任务中优于或媲美共形预测方法，并提供理论保证。