AutoNumerics-Zero: Automated Discovery of State-of-the-Art Mathematical Functions

计算机通过组合一些有限精度指令来近似计算超越函数，例如可以用泰勒级数计算指数函数。这些近似方法是数学家们经过数个世纪的发展而得出的，他们强调可以达到任意精度。然而，计算机只能处理有限种精度类型，如流行的float32。在本研究中，我们展示了当针对有限精度时，通过简单的进化算法从头开始自动发现的程序可以优于现有的近似方法。特别地，在实数上，我们的方法可以近似计算指数函数，相对于以前的方法，对于给定数量的操作，可以达到更高的精度级别。在更实际的情况下，对于float32数字并限制误差小于1 ULP，同样的方法通过生成触发更好的XLA/LLVM编译路径的代码，相对于基准线实现了加速。换句话说，在这两种情况下，进化搜索了一个可能的程序空间，没有数学知识，首次发现了以前未知的高精度优化近似。我们还提供证据表明这些结果可以扩展到超越函数之外。超越函数的普遍性表明，我们的方法有潜力降低科学计算应用的成本。

本论文旨在解决在有限精度下近似计算超越函数的问题，通过使用简单的进化算法从头开始自动发现程序来优化计算精度和速度。

本论文的关键思路是使用进化算法自动发现程序来近似计算超越函数，达到更高的精度和速度。相比之前的方法，这种方法不需要数学知识，可以在有限精度下实现更高的精度和速度。

本论文的实验结果表明，使用进化算法自动发现程序可以在实现更高精度和速度方面优于之前的方法。论文还提供了有关这种方法可以扩展到其他超越函数的证据。该方法还可以在科学计算应用程序中降低成本。实验使用的数据集和开源代码也是论文的亮点。

最近的相关研究包括使用深度学习来近似计算超越函数，例如“Deep Learning for Approximating Complex Analytic Maps”和“Approximating the exponential, the Lanczos way”。