Technion - Israel Institute of Technology（以色列理工学院）

Arithmetic in the Wild: Llama uses Base-10 Addition to Reason About Cyclic Concepts

野性算术：Llama使用十进制加法来推理循环概念

Sheridan Feucht, Tal Haklay, Usha Bhalla, Daniel Wurgaft, Can Rager, Raphaël Sarfati, Jack Merullo, Thomas McGrath, Owen Lewis, Ekdeep Singh Lubana, Thomas Fel, Atticus Geiger

机构 * Northeastern University（东北大学） ； Technion IIT（技术ion理工学院） ； Harvard University（哈佛大学） ； Stanford University（斯坦福大学） 纠错

AI总结 研究Llama-3.1-8B如何用十进制加法处理循环概念，发现其通过通用加法机制而非模运算实现，利用傅里叶特征进行计算，揭示了因果抽象与特征几何的交互对语言模型的理解作用。