Lifted State Hypothesis in Large Language Models
语言模型中的提升表示假设
机构 * KAIST AI(韩国科学技术院人工智能研究所)
AI总结 研究大型语言模型中结构的存储、选择和修正问题,提出提升表示假设,通过多种实验评估其提升和细化情况,发现数据受嵌套规则和异常支配时模型存在问题,强调需研究数据与规则结构关系。
Comments 24 pages, 13 figures
高校专区
语言模型中的提升表示假设
机构 * KAIST AI(韩国科学技术院人工智能研究所)
AI总结 研究大型语言模型中结构的存储、选择和修正问题,提出提升表示假设,通过多种实验评估其提升和细化情况,发现数据受嵌套规则和异常支配时模型存在问题,强调需研究数据与规则结构关系。
Comments 24 pages, 13 figures
LLM 能否可靠地自我报告对抗性预填充,以及如何实现?
机构 * KAIST(韩国科学技术院)
AI总结 研究LLM在安全场景中识别自身输出是否受对抗性预填充攻击的能力,发现模型平均27.3%声称预填充输出有意图,且内省信号主要来自安全/拒绝推理,LoRA微调方法扩大了意图-篡改探针差距并提高了攻击成功率。
Comments Under review
AirSplat:基于鲁棒前馈3D高斯散射的对齐与评分
机构 * KAIST(韩国科学技术院)
AI总结 本文提出AirSplat框架,通过自一致性姿态对齐和基于评分的透明度匹配技术,提升无姿态视角合成的重建质量。
Comments Project page: https://kaist-viclab.github.io/airsplat-site, accepted to ECCV 2026
采样决策:精确路径空间校正、先验抵消和局部玻尔兹曼引导
机构 * Program in Applied Mathematics and Department of Mathematics, University of Arizona(应用数学项目和数学系,亚利桑那大学) ; Graduate School of AI at KAIST(韩国科学技术院人工智能研究生院)
AI总结 研究如何校正离散空间便宜但有偏差的顺序有限时间范围采样器,核心方法是将采样决策公式化为路径空间相对熵投影,引入相关先验和校正。实验表明单例积先验有问题,局部玻尔兹曼引导效果好,确定了相关前缀引导对顺序采样的决定性作用。
Comments 35 pages, 7 figures