Knowledge Knows, Verbalization Tells: Disentangling Latent Directions for Mathematical Solvability in LLMs
知识所知,语言所表:解开大语言模型中数学可解性的潜在方向
机构 * Institute for Language and Speech Processing, Athena Research Center(语言与语音处理研究所,雅典娜研究中心)
专题命中 机器人操作 :manipulation(abstract);分类 cs.LG
AI总结 研究大语言模型数学推理中数学问题可解性判定难题,通过分别探究可解性知识与语言表达的表征,揭示二者在模型隐藏状态中可分离,还表明提示不可解线索等可减少编造,操纵表征能改善模型弃权。
Comments 14 pages, 9 Figures