大模型对齐与安全

Knowledge-Level Consistency Reinforcement Learning: Dual-Fact Alignment for Long-Form Factuality

知识级一致性强化学习：长形式事实性的双事实对齐

Junliang Li, Yucheng Wang, Yan Chen, Yu Ran, Ruiqing Zhang, Jing Liu, Hua Wu, Haifeng Wang

机构 * Baidu Inc.（百度公司） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；RLHF(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出KLCF框架，通过双事实对齐机制提升长形式生成的事实性，有效缓解幻觉和保守倾向，提升精度与召回率。

Comments 32 pages

Prediction and Empowerment: A Theory of Agency through Bridge Interfaces

预测与赋能：通过桥接接口的代理理论

Richard Csaky

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了在确定性物理或模拟世界中部分可观测性下的代理问题，通过桥接接口模型，证明了预测、压缩和赋能之间的分离关系，并提出了一种设计原则以区分隐藏状态识别、接口细化、任务相关可控性和简单覆盖控制。

Comments This is a working draft: feedback and criticism is most welcome

When Quantization Is Free: An int4 KV Cache That Outruns fp16 on Apple Silicon

量化为何免费：一种int4 KV缓存性能超越fp16的苹果硅芯片

Mohamed Amine Bergach

机构 * Illumina 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种int4 KV缓存方法，在苹果硅芯片上实现比fp16更快的性能，通过融合金属内核和内存压缩，保持质量并提升效率。