NeuraChip: Accelerating GNN Computations with a Hash-based Decoupled Spatial Accelerator

图神经网络（GNNs）正在成为处理各种领域的非欧几里得数据的强大工具，从社交网络分析到生物信息学。尽管它们非常有效，但由于与大规模图数据集相关的可扩展性挑战，特别是在利用消息传递时，它们的采用并不普遍。 为了解决这些挑战，我们介绍了NeuraChip，一种基于Gustavson算法的新型GNN空间加速器。NeuraChip将稀疏矩阵乘法中的乘法和加法计算分离开来。这种分离允许独立地利用它们独特的数据依赖性，从而促进有效的资源分配。我们引入了滚动驱逐策略，以减轻芯片内存中的数据空闲以及解决稀疏图计算中普遍存在的内存膨胀问题。此外，通过动态重新种子哈希映射，实现了计算资源负载平衡，确保在不考虑稀疏模式的情况下均匀利用计算资源。最后，我们提出了NeuraSim，这是一个开源、周期精确、多线程、模块化的模拟器，用于全面的性能分析。 总的来说，NeuraChip呈现出显著的改进，平均加速比为22.1倍，超过了英特尔MKL的17.1倍、NVIDIA的cuSPARSE的16.7倍、AMD的hipSPARSE的1.5倍以及之前最先进的SpGEMM加速器的1.3倍和GNN加速器。我们公开了我们开源模拟器和性能可视化器的源代码，可以在GitHub https://neurachip.us上公开访问。

NeuraChip试图解决大规模图数据处理中的可扩展性挑战，特别是在利用消息传递时的挑战。

NeuraChip是一种基于Gustavson算法的新型GNN空间加速器。它将稀疏矩阵乘法中的乘法和加法计算分离，以便独立利用它们各自的数据依赖性，从而实现有效的资源分配。

NeuraChip通过滚动驱逐策略来缓解芯片内存中的数据空闲问题，并通过动态重新哈希映射实现计算资源负载平衡。在性能方面，NeuraChip平均加速了22.1倍，超过了Intel的MKL、NVIDIA的cuSPARSE和AMD的hipSPARSE，以及之前的最先进的SpGEMM加速器和GNN加速器。

最近的相关研究包括：1）《Graph Neural Networks: A Review of Methods and Applications》；2）《Scalable Graph Neural Networks via Bidirectional Propagation》；3）《GraphSAGE: Inductive Representation Learning on Large Graphs》。