How Hard Does It Think? Analyzing Step-Aware Reasoning Energy in LLM Chain-of-Thought Trajectories
它认为有多难?分析大型语言模型思维链轨迹中感知步骤的推理能量
机构 * UC Merced(加州大学默塞德分校) ; UC San Diego(加州大学圣迭戈分校) ; UIUC(伊利诺伊大学厄巴纳-香槟分校) ; Adobe Research(奥多比研究院)
专题命中 推理评测 :reasoning(title,abstract);chain-of-thought(title,abstract);CoT(abstract,abstract_cn);分类 cs.CL、cs.AI、cs.LG
AI总结 该研究提出SARE框架量化LLM思维链各步骤的推理能量,发现推理能量不均匀、错误轨迹关键节点能量更低,SARE特征性能优于或匹配输出置信度基线,揭示内部几何动态含预测信息。
Comments 13 pages, 3 figures