RAG over Thinking Traces Can Improve Reasoning Tasks
RAG 基于思考轨迹可提升推理任务
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出检索思考轨迹而非文档,通过 T3 方法将其转化为结构化表示,在推理任务上显著提升性能,超越标准 RAG 和无 RAG 基线。
高校专区
RAG 基于思考轨迹可提升推理任务
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出检索思考轨迹而非文档,通过 T3 方法将其转化为结构化表示,在推理任务上显著提升性能,超越标准 RAG 和无 RAG 基线。
通过Lingua Franca实现ROS 2应用的确定性执行
机构 * TU Dortmund University(多特蒙德工业大学) ; University of California, Berkeley(加州大学伯克利分校) ; RWTH Aachen University(亚琛工业大学)
AI总结 提出框架将未修改的ROS 2应用转换为Lingua Franca程序,利用逻辑时间实现确定性执行,解决ROS 2中回调执行顺序和消息交织的非确定性问题。
注意力电路何时形成?三种1B级架构中能力和注意力汇出现的发育轨迹
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 本文追踪三种1B级语言模型中注意力头电路的形成轨迹,发现归纳电路形成早于注意力汇形成10-20倍令牌,且电路识别无需最终模型。
Comments 27pages, 3 figures
通信动力学神经网络:用于改进Hessian条件数并减少参数数量的FFT对角化层
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出CDLinear块循环线性层,通过FFT对角化Hessian矩阵,在参数减少3.8倍下保持高精度,并给出显式条件数分析。
Comments 17 pages, 5 figures. Includes NumPy implementation, gradient checks, MNIST experiments, and reference PyTorch CD-Transformer implementation
不耐烦的用户混淆AI智能体:用于测试智能体的高保真人类特质模拟
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出TraitBasis方法,通过控制用户特质向量(如不耐烦、不连贯)对AI智能体进行压力测试,发现性能下降2%-30%,揭示当前智能体对用户行为变化的脆弱性。
Comments ACL 2026 [Oral]
AnomaMind:基于工具增强推理的智能体时间序列异常检测
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出AnomaMind框架,将时间序列异常检测重构为顺序决策过程,通过粗到细的工作流(定位可疑区间、工具交互构建诊断证据、自我反思细化决策)结合知识记忆与数值诊断工具包,并采用混合推理机制,显著提升域内和跨域异常检测性能与泛化能力。
子采样自然梯度算法的草图-投影分析
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 通过将子采样自然梯度下降(SNG)视为草图-投影方法,提出基于平方体积采样的新代理,证明单小批量下SNG方向期望等于预处理梯度下降步,给出全局收敛保证和显式收敛率,并解释SNG相对于SGD的优势在于更有效利用模型雅可比矩阵的谱衰减。
Comments 26 pages, 7 figures
保结构学习提升神经PDE在几何泛化中的表现
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出General-Geometry Neural Whitney Forms (Geo-NeW)方法,通过联合学习微分算子和兼容的降阶有限元空间,结合有限元外微积分精确保持物理守恒律,显著提升对未见几何域的泛化能力。
异常检测是否需要任务特定训练?
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出基于检索的异常检测框架RAD,无需任务特定训练,通过多级检索匹配记忆库中的无异常特征,在多个基准上达到最优性能,挑战了任务特定训练的必要性。
当距离干扰:BT损失中表示距离偏差对奖励模型的影响
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 分析BT损失中表示距离导致的梯度偏差,提出NormBT自适应归一化方案,提升奖励模型在细粒度区分上的性能。
Comments ICML 2026
MMD Guidance: 基于最大均值差异引导的无训练分布适应扩散模型
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出MMD Guidance,一种无训练方法,通过最大均值差异梯度引导扩散模型采样,实现与参考数据分布对齐,无需重新训练。
如何评估人机交互?软件代理设计案例研究
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出PULSE框架,通过用户反馈和模型预测结合评估人机交互,在15k用户实验中验证其能减少40%置信区间,并揭示基准测试与真实结果的差异。
Comments ICML 2026
TruthRL: 通过强化学习激励诚实的LLM
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出TruthRL框架,使用GRPO和三值奖励直接优化LLM的诚实性,减少幻觉并允许不确定时弃权,在知识密集型基准上显著提升诚实性。
Comments ICML 2026. Code: https://github.com/facebookresearch/TruthRL
对机器文本检测器的攻击保留风格指纹
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 研究机器文本检测器对抗攻击的局限性,提出一种同时优化不可检测性和特定人类风格的 paraphrasing 方法,发现单文档检测不可靠,需多文档分析。
线性回归中的风险比较:隐式正则化主导显式正则化
机构 * University of California, Berkeley(加州大学伯克利分校) ; Alphabetical order ; Harvard University(哈佛大学) ; Google DeepMind(谷歌DeepMind)
AI总结 本文通过实例比较线性回归中梯度下降、岭回归和随机梯度下降的有限样本风险,发现梯度下降优于岭回归,但与随机梯度下降不可比,且在某些问题中梯度下降可能更差。
Comments Accepted for presentation at the Conference on Learning Theory (COLT) 2026
FG-Attn:在视频扩散模型中利用细粒度稀疏注意力
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 针对视频扩散模型中注意力层计算开销大的问题,提出FG-Attn,一种低开销的细粒度稀疏注意力机制,在MxN块粒度上跳过分数计算,实现最高2.45倍加速。
CAST: 反事实标签提升视觉-语言-动作模型中的指令跟随能力
机构 * University of California Berkeley(加州大学伯克利分校) ; Princeton University(普林斯顿大学)
AI总结 针对VLA模型难以遵循细粒度指令的问题,提出利用视觉语言模型生成反事实标签增强数据集,提升语言基础多样性,实验表明该方法在导航和操作任务中显著提升指令跟随成功率。
基于SE(3)的机器人统一力-阻抗控制的几何公式化
机构 * University of California, Berkeley, USA(加州大学伯克利分校)
AI总结 提出一种在SE(3)流形上的阻抗控制框架,通过能量罐增强实现力跟踪与无源性,并解决非因果实现问题,继承SE(3)不变性以提高学习效率。
立场:机器学习社区必须构建AI增强的同行评审生态系统
机构 * University of Amsterdam(阿姆斯特丹大学) ; University of Cambridge(剑桥大学) ; ETH Zurich(苏黎世联邦理工学院) ; University of California, Berkeley(加州大学伯克利分校)
AI总结 针对ML领域稿件激增导致同行评审危机,本文主张将AI辅助评审作为优先研究课题,提出利用大语言模型作为协作工具,增强事实核查、评审指导、作者改进和决策支持,并强调需要更细粒度的评审数据。
Comments 18 pages, 3 figures. Accepted (Oral) at the ICML 2026 Position Paper Track
AI生成语言中的标准语言意识形态
机构 * Stanford University(斯坦福大学) ; UC Berkeley(加州大学伯克利分校)
AI总结 本文提出一个分类法,揭示大型语言模型如何强化标准语言意识形态,导致语言变体的边缘化,并讨论其社会影响及应对建议。
Comments To appear in the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)