StreamingThinker: Large Language Models Can Think While Reading
StreamingThinker: 大语言模型在阅读时可以思考
机构 * Shanghai Jiao Tong University(上海交通大学) ; Eastern Institute of Technology, Ningbo(宁波东部技术研究院) ; Ningbo Key Laboratory of Spatial Intelligence and Digital Derivative, Institute of Digital Twin(宁波空间智能与数字衍生关键实验室,数字孪生研究院) ; Hong Kong Polytechnic University(香港理工大学) ; Munich Center for Machine Learning, LMU(慕尼黑机器学习中心,莱茵-慕尼黑大学)
专题命中 推理与问题求解 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL
AI总结 本文提出StreamingThinker框架,使大语言模型在阅读过程中实现流式思考,通过流式CoT生成、流式约束训练和并行推理提升效率,减少延迟并保持性能。
Comments ICLR 2026