大模型推理能力

No Accidental Software Agent First Canonical Code for Human Code Entropy Reduction and 30 to 500 times Lower Frontier Model Requirements

无意外软件智能体：首个用于人类代码熵降低的正则代码，以及30到500倍的前沿模型需求降低

Jepson Taylor

专题命中 代码与定理证明 ：reasoning(abstract)；planning(abstract)；分类 cs.AI

AI总结 提出智能体优先的正则代码方法，通过行为等价商化人类代码中的意外熵，实现30-500倍的前沿模型需求降低，核心是行为等价商化和证明携带变更。

Comments 36 pages

Flood and Harvest: The Provable Necessity of Trivia for Generating Valuable Mathematics via the Lens of Language Generation in the Limit

洪流与收获：通过极限语言生成视角证明琐碎知识对于生成有价值数学的必要性

Xiaoyu Li, Andi Han, Dai Shi, Zheng Gao, Jiaojiao Jiang, Junbin Gao

机构 * University of New South Wales（新南威尔士大学） ； University of Sydney（悉尼大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 代码与定理证明 ：verifier(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过极限语言生成模型证明，在形式化数学生成中，验证器无法替代品味：覆盖未记录的有价值数学必须产生无限但渐近可忽略的琐碎语句，这是理论上的必然。

MiniMax Sparse Attention

MiniMax 稀疏注意力

Xunhao Lai, Weiqi Xu, Yufeng Yang, Qiaorui Chen, Yang Xu, Lunbin Zeng, Xiaolong Li, Haohai Sun, Haichao Zhu, Vito Zhang, Jinkai Hu, Jiayao Li, Rui Gao, Zekun Li, Songquan Zhu, Jingkai Zhou, Pengyu Zhao

机构 * MiniMax ； Peking University（北京大学） ； NVIDIA（英伟达） ； Zhejiang University（浙江大学） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 提出 MiniMax 稀疏注意力（MSA），一种基于分组查询注意力的块级稀疏注意力机制，通过轻量索引分支选择 Top-k 键值块，实现高效长上下文处理，在 109B 模型上以 1M 上下文减少 28.4 倍注意力计算，并带来 14.2 倍预填充和 7.6 倍解码加速。

Comments 30 pages, 14 figures