A Mathematical Framework, a Taxonomy of Modeling Paradigms, and a Suite of Learning Techniques for Neural-Symbolic Systems

神经符号（NeSy）系统领域正在迅速发展。提出的方法在实现神经和符号方法的共生联盟方面表现出很大的潜力。然而，每个NeSy系统在基本方面都有所不同。需要一个统一的理论来阐明方法的共性和差异，并促进进一步的进展。在本文中，我们介绍了神经符号能量模型（NeSy-EBMs），这是一个统一的数学框架，用于概率和非概率的NeSy方法的判别和生成建模。我们利用NeSy-EBMs来开发建模范式的分类法，重点关注系统的神经符号界面和推理能力。此外，我们还介绍了一套NeSy-EBMs的学习技术。重要的是，NeSy-EBMs允许推导出突出的学习损失的梯度的一般表达式，并提供四种学习方法，利用多个领域的方法，包括双层和随机策略优化。最后，我们介绍了神经概率软逻辑（NeuPSL），这是一个开源的NeSy-EBM库，旨在实现可扩展性和表达能力，促进NeSy系统的实际应用。通过对多个数据集进行广泛的实证分析，我们展示了NeSy-EBMs在各种任务中的实际优势，包括图像分类、图节点标记、自动驾驶车辆情境感知和问答。

提出一个统一的数学框架，NeSy-EBMs，用于区分和生成建模的神经符号系统，解决当前NeSy系统的差异性和共性问题。

NeSy-EBMs是一个统一的数学框架，用于区分和生成建模的神经符号系统，具有概率和非概率的方法。它提供了一种建模范式的分类方法，关注系统的神经符号接口和推理能力。此外，它还提供了多种学习技术。

NeSy-EBMs允许推导出显著学习损失的梯度的一般表达式，并提供了四种学习方法。作者还介绍了一个开源的NeSy-EBM库，名为Neural Probabilistic Soft Logic（NeuPSL），用于可扩展性和表达能力，方便NeSy系统的实际应用。实验结果表明，NeSy-EBMs在各种任务中具有实际优势，包括图像分类、图节点标记、自动驾驶车辆情境感知和问答。

最近的相关研究包括：Neural-Symbolic Computing、Neural-Symbolic Integration、Neural-Symbolic Learning、Neural-Symbolic Reasoning等。