DFA-GNN: Forward Learning of Graph Neural Networks by Direct Feedback Alignment

图神经网络因其在各种应用中的强大性能而备受认可，反向传播算法在大多数GNN模型的开发中发挥着核心作用。然而，尽管其有效性，BP存在限制，挑战其生物可行性，并影响基于图的任务的神经网络训练的效率、可扩展性和并行性。虽然已经成功地将几种非BP训练算法（如直接反馈对齐）应用于处理欧几里得数据的全连接和卷积网络组件，但是直接将这些非BP框架应用于管理GNN模型中的非欧几里得图形数据存在重大挑战。这些挑战主要源于图数据中i.i.d.假设的违反和难以访问图中所有样本（节点）的预测误差。为了克服这些障碍，在本文中，我们提出了DFA-GNN，一种专为GNN量身定制的前向学习框架，并以半监督学习为案例研究。所提出的方法通过使用专用的前向训练机制打破了BP的限制。具体而言，DFA-GNN扩展了DFA的原则，以适应图数据和GNN的独特架构，将图拓扑信息纳入反馈链接以适应图数据的非欧几里得特征。此外，针对半监督图学习任务，我们开发了一个伪误差生成器，将训练数据中的残差误差传播到每个未标记节点上创建一个伪误差。然后利用这些伪误差使用DFA来训练GNN。对10个公共基准进行的广泛实验表明，我们的学习框架不仅优于以前的非BP方法，而且优于标准BP方法，并且对各种噪声和攻击表现出良好的鲁棒性。

论文旨在解决使用反向传播算法训练图神经网络（GNN）时存在的限制，如生物合理性、效率、可扩展性和并行性等问题。同时，论文还试图解决直接将非反向传播算法应用于GNN的挑战，如图数据的i.i.d.假设的违反以及难以访问所有样本的预测误差。

论文提出了一种前向学习框架DFA-GNN，通过使用专门的前向训练机制来突破BP的限制。DFA-GNN将DFA的原则扩展到适应图数据和GNN的独特架构，将图拓扑信息纳入反馈链接以适应图数据的非欧几里德特征。

论文在10个公共基准测试中进行了广泛的实验，表明DFA-GNN学习框架不仅优于以前的非BP方法，而且优于标准BP方法，并且在各种类型的噪声和攻击下表现出优秀的鲁棒性。

最近的相关研究包括《Semi-Supervised Classification with Graph Convolutional Networks》、《DeepWalk: Online Learning of Social Representations》等。