SambaNova Systems

SETA: Scaling Environments for Terminal Agents

SETA：终端智能体的扩展环境

Qijia Shen, Zhiqi Huang, Vamsidhar Kamanuru, Aznaur Aliev, Jay Rainton, Ahmed Awelkair, Zhichen Zeng, Jiajun Li, Shi Dong, Yueming Yuan, Boyuan Ma, Qizheng Zhang, Jiwei Fu, Yuzhen Mao, Wendong Fan, Ping Nie, Philip Torr, Bernard Ghanem, Changran Hu, Jonathan Lingjie Li, Urmish Thakker, Guohao Li

机构 * Imperial College London（帝国理工学院） ； University College London（伦敦大学学院） ； SambaNova（桑巴诺瓦公司） ； KAUST（阿卜杜拉国王科技大学） ； Stanford University（斯坦福大学） ； University of Oxford（牛津大学） ； University of Waterloo（滑铁卢大学） ； RadixArk（基数方舟公司） 纠错

AI总结 研究针对终端智能体训练扩展难的问题，提出SETA框架，含SETA - Synth和SETA - Evol两个管道及统一验证机制，构建了SETA - Env数据集。实验显示该数据集能为终端智能体提供优质训练环境，推动相关研究发展。

LongAttnComp: Cross-Family Context Compression for Long-Context Reasoning

LongAttnComp：跨族上下文压缩用于长上下文推理

Mengmeng Ji, Ravi Shanker Raju, Jonathan Lingjie Li, Chen Wu

机构 * SambaNova Systems, Inc.（SambaNova系统公司） 纠错

AI总结 提出LongAttnComp方法，通过微调轻量级交叉注意力评分层并引入令牌级分块、令牌预算top-p算法、位置重排序和格式无关查询解析器，结合两阶段微调策略，在长上下文推理任务中实现与全上下文相当或更优的准确率。

Comments Under review

CORAL: Towards Autonomous Multi-Agent Evolution for Open-Ended Discovery

CORAL：迈向自主多智能体进化以实现开放性发现

Ao Qu, Han Zheng, Zijian Zhou, Yihao Yan, Yihong Tang, Shao Yong Ong, Fenglu Hong, Kaichen Zhou, Chonghe Jiang, Minwei Kong, Jiacheng Zhu, Xuan Jiang, Sirui Li, Cathy Wu, Bryan Kian Hsiang Low, Jinhua Zhao, Paul Pu Liang

机构 * MIT（麻省理工学院） ； NUS（新加坡国立大学） ； MiniMax ； McGill（麦吉尔大学） ； Stanford（斯坦福大学） ； SambaNova ； Meta ； Singapore-MIT Alliance for Research and Technology（新加坡-麻省理工联合研究技术联盟） ； Amazon（亚马逊） ； Microsoft（微软） 纠错

AI总结 本文提出CORAL框架，通过自主多智能体进化方法，实现了在开放性问题上的发现，展示了智能体自主性和多智能体进化对提升开放性发现的显著效果。

SnapStream: Efficient Long Sequence Decoding on Dataflow Accelerators

SnapStream: 在数据流加速器上高效处理长序列解码

Jonathan Li, Nasim Farahini, Evgenii Iuliugin, Magnus Vesterlund, Christian Häggström, Guangtao Wang, Shubhangi Upasani, Ayush Sachdeva, Rui Li, Faline Fu, Chen Wu, Ayesha Siddiqua, John Long, Tuowen Zhao, Matheen Musaddiq, Håkan Zeffer, Yun Du, Mingran Wang, Qinghua Li, Bo Li, Urmish Thakker, Raghu Prabhakar

机构 * SambaNova Systems, Inc.（SambaNova系统公司） ； Microsoft AI（微软人工智能） ； Meta Platforms, Inc.（Meta平台公司） 纠错

AI总结 本文探讨了在数据流加速器上实现长序列解码的效率与准确性，提出SnapStream方法，通过压缩KV缓存提升芯片内存利用率，减少精度损失。

Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models

代理情境工程：为自我改进语言模型演化情境

Qizheng Zhang, Changran Hu, Shubhangi Upasani, Boyuan Ma, Fenglu Hong, Vamsidhar Kamanuru, Jay Rainton, Chen Wu, Mengmeng Ji, Hanchen Li, Urmish Thakker, James Zou, Kunle Olukotun

机构 * Stanford University（斯坦福大学） ； SambaNova Systems, Inc.（SambaNova Systems公司） ； UC Berkeley（加州大学伯克利分校） 纠错

AI总结 本文提出ACE框架，通过生成、反思和整理的模块化过程，使情境持续进化，提升语言模型在代理和领域推理中的性能，减少适应延迟和成本。

Comments ICLR 2026; 32 pages

Test-Time Adaptation via Many-Shot Prompting: Benefits, Limits, and Pitfalls

通过多示例提示进行测试时适应：益处、限制与陷阱

Shubhangi Upasani, Chen Wu, Jay Rainton, Bo Li, Urmish Thakker, Changran Hu, Qizheng Zhang

机构 * SambaNova Systems, Inc（SambaNova系统公司） ； Stanford University（斯坦福大学） 纠错

AI总结 研究通过多示例提示在不同任务和模型中分析测试时适应的性能变化，探讨其有效性及限制，指出其在结构化任务中的优势及在开放生成任务中的不足。

The Limits of Long-Context Reasoning in Automated Bug Fixing

长上下文推理在自动化Bug修复中的局限性

Ravi Raju, Mengmeng Ji, Shubhangi Upasani, Bo Li, Urmish Thakker

机构 * SambaNova Systems（SambaNova系统） 纠错

AI总结 本研究发现长上下文推理在自动化Bug修复中存在显著局限，现有模型在长上下文下的表现远低于预期。

Comments Accepted to ICLR 2026 ICBINB workshop

FuseFlow: A Fusion-Centric Compilation Framework for Sparse Deep Learning on Streaming Dataflow

FuseFlow：一种面向稀疏深度学习的流数据流编译框架

Rubens Lacouture, Nathan Zhang, Ritvik Sharma, Marco Siracusa, Fredrik Kjolstad, Kunle Olukotun, Olivia Hsu

机构 * Stanford University（斯坦福大学） ； SambaNova Systems, Inc.（SambaNova系统公司） ； Barcelona Supercomputing Center（巴塞罗那超级计算中心） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 FuseFlow是一种用于稀疏深度学习的编译框架，通过融合稀疏操作提升模型效率，展示了融合粒度对模型性能的影响。

When Judgment Becomes Noise: How Design Failures in LLM Judge Benchmarks Silently Undermine Validity

Benjamin Feuer, Chiung-Yi Tseng, Astitwa Sarthak Lathe, Oussama Elachqar, John P Dickerson

机构 * Stanford University（斯坦福大学） ； SambaNova ； Mozilla AI（Mozilla人工智能） 纠错

Chip Placement with Diffusion Models

Vint Lee, Minh Nguyen, Leena Elzeiny, Chun Deng, Pieter Abbeel, John Wawrzynek

机构 * Department of EECS, UC Berkeley, CA, USA（UC伯克利电子工程与计算机科学系） ； SambaNova Systems Inc., Palo Alto, CA, USA（SambaNova Systems公司） ； Computer Science Department, Stanford University, CA, USA（斯坦福大学计算机科学系） 纠错

Comments Code available at https://github.com/vint-1/chipdiffusion

CoopetitiveV: Leveraging LLM-powered Coopetitive Multi-Agent Prompting for High-quality Verilog Generation

Zhendong Mi, Renming Zheng, Haowen Zhong, Yue Sun, Seth Kneeland, Sayan Moitra, Ken Kutzer, Zhaozhuo Xu Shaoyi Huang

机构 * Stevens Institute of Technology（史蒂文斯理工学院） ； University of Washington（华盛顿大学） ； Amazon（亚马逊） ； SambaNova Systems（SambaNova系统） 纠错

Synthetic Document Question Answering in Hungarian

Jonathan Li, Zoltan Csaki, Nidhi Hiremath, Etash Guha, Fenglu Hong, Edward Ma, Urmish Thakker

机构 * SambaNova Systems, Inc.（SambaNova系统公司） ； University of Washington（华盛顿大学） 纠错

DataComp-LM: In search of the next generation of training sets for language models

Jeffrey Li, Alex Fang, Georgios Smyrnis, Maor Ivgi, Matt Jordan, Samir Gadre, Hritik Bansal, Etash Guha, Sedrick Keh, Kushal Arora, Saurabh Garg, Rui Xin, Niklas Muennighoff, Reinhard Heckel, Jean Mercat, Mayee Chen, Suchin Gururangan, Mitchell Wortsman, Alon Albalak, Yonatan Bitton, Marianna Nezhurina, Amro Abbas, Cheng-Yu Hsieh, Dhruba Ghosh, Josh Gardner, Maciej Kilian, Hanlin Zhang, Rulin Shao, Sarah Pratt, Sunny Sanyal, Gabriel Ilharco, Giannis Daras, Kalyani Marathe, Aaron Gokaslan, Jieyu Zhang, Khyathi Chandu, Thao Nguyen, Igor Vasiljevic, Sham Kakade, Shuran Song, Sujay Sanghavi, Fartash Faghri, Sewoong Oh, Luke Zettlemoyer, Kyle Lo, Alaaeldin El-Nouby, Hadi Pouransari, Alexander Toshev, Stephanie Wang, Dirk Groeneveld, Luca Soldaini, Pang Wei Koh, Jenia Jitsev, Thomas Kollar, Alexandros G. Dimakis, Yair Carmon, Achal Dave, Ludwig Schmidt, Vaishaal Shankar

机构 * University of Washington（华盛顿大学） ； Apple（苹果公司） ； Toyota Research Institute（丰田研究院） ； UT Austin（得克萨斯大学） ； Tel Aviv University（特拉维夫大学） ； Columbia University（哥伦比亚大学） ； Stanford（斯坦福） ； UCLA（加州大学洛杉矶分校） ； JSC ； LAION ； AI2 ； TUM（慕尼黑技术大学） ； CMU（卡内基梅隆大学） ； Hebrew University（希伯来大学） ； SambaNova ； Cornell（康奈尔大学） ； USC（南加州大学） ； Harvard（哈佛大学） ； UCSB（加州大学圣塔芭芭拉分校） ； SynthLabs ； Contextual AI ； DatologyAI 纠错

Comments Project page: https://www.datacomp.ai/dclm/