语言大模型 / LLM

Evidence from fMRI Supports a Two-Phase Abstraction Process in Language Models

fMRI证据支持语言模型中的两阶段抽象过程

Emily Cheng, Richard J. Antonello

机构 * Universitat Pompeu Fabra Barcelona（巴塞罗那庞培乌法布拉大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究通过fMRI数据表明，语言模型中存在两阶段抽象过程，中间层在预测自然语言刺激脑响应方面表现更优，且抽象过程随训练进行自然形成，与表示的内在维度性有关。

Comments Equal contribution from both authors. Submitted to NeurIPS NeuroAI workshop 2024

Journal ref Best abstract at NeurIPS UniReps 2024

ESG-Bench: Benchmarking Long-Context ESG Reports for Hallucination Mitigation

ESG-Bench: 对长上下文 ESG 报告进行基准测试以缓解幻觉

Siqi Sun, Ben Peng Wu, Mali Jin, Peizhen Bai, Hanpei Zhang, Xingyi Song

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出 ESG-Bench 数据集，用于评估大语言模型在解析 ESG 报告和减少幻觉方面的能力，通过人工标注的 QA 对和细粒度标签，系统评估模型提取和推理 ESG 内容的能力。

Comments To be published in the AAAI 2026 proceedings

MoKus: Leveraging Cross-Modal Knowledge Transfer for Knowledge-Aware Concept Customization

MoKus: 利用跨模态知识迁移实现知识感知的概念定制

Chenyang Zhu, Hongxiang Li, Xiu Li, Long Chen

机构 * Tsinghua University（清华大学） ； HKUST（香港科技大学） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MoKus框架，通过跨模态知识迁移实现知识感知的概念定制，解决稀有token在预训练数据中缺失导致的性能不稳定问题，并引入KnowCusBench基准测试，验证了方法在概念定制任务中的优越性。

Comments Project Page: https://chenyangzhu1.github.io/MoKus/

TerraFlow: Multimodal, Multitemporal Representation Learning for Earth Observation

TerraFlow：用于地球观测的多模态、多时间序列表示学习

Nazar Puriy, Johannes Jakubik, Benedikt Blumenstiel, Konrad Schindler

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 TerraFlow提出了一种新的多模态、多时间序列学习方法，适用于地球观测，能够处理变长输入，优于现有模型，在GEO-Bench-2基准测试中表现优异，并在自然灾害风险地图预测中取得进展。