- 简介本文提出了一种系统方法,可以显著加速不可约表示张量积的计算,从而实现对E(3)群的等变神经网络的开发,这在建模现实世界中的3D数据时具有重要作用。实现这种等变性主要涉及不可约表示(irreps)的张量积。然而,随着使用更高阶张量,这些操作的计算复杂度显著增加。我们将通常使用的Clebsch-Gordan系数与Gaunt系数(三个球谐函数乘积的积分)进行了数学上的联系。通过Gaunt系数,不可约表示的张量积变得等价于由球谐函数表示的球形函数之间的乘法。这种观点进一步使我们能够将等变操作的基础从球谐函数转变为2D傅里叶基础。因此,由2D傅里叶基表示的球形函数之间的乘法可以通过卷积定理和快速傅里叶变换高效地计算。这种转换将完整的不可约表示张量积的复杂度从$\mathcal{O}(L^6)$降低到$\mathcal{O}(L^3)$,其中$L$是不可约表示的最大阶数。利用这种方法,我们引入了Gaunt张量积,它作为一种新方法,可以在不同的模型架构之间构建高效的等变操作。我们在Open Catalyst项目和3BPA数据集上的实验证明了我们方法的增加效率和改进性能。
- 图表
- 解决问题本文旨在解决E(3)群的等变神经网络中张量积的计算复杂度问题。如何高效地计算不同不可约表示的张量积是该论文试图解决的问题。
- 关键思路本文提出了一种系统的方法,通过将球谐函数的乘积积分与Clebsch-Gordan系数相连,将不同不可约表示的张量积转化为由球谐函数表示的球形函数之间的乘法。这种转化使得我们可以将球谐函数的计算从球谐函数基础上转换为在2D傅里叶基础上的计算。这样可以通过卷积定理和快速傅里叶变换来高效地计算球形函数之间的乘法,从而将计算复杂度从O(L^6)降低到O(L^3)。
- 其它亮点本文提出了一种新的方法,即Gaunt Tensor Product,用于构建不同模型体系结构之间的等变操作。实验使用了Open Catalyst Project和3BPA数据集,并证明了该方法的高效性和改进性能。本文的代码已开源。
- 最近的相关研究包括:《Spherical CNNs》、《SE3-transformer: Equivariant attention for point clouds》、《Learning SO(3) equivariant representations with spherical CNNs》等。
沙发等你来抢
去评论
评论
沙发等你来抢