图形、贝叶斯与深度学习如何结合?这是一个有趣的问题。来自PISA大学博士论文Federico Errica《Bayesian Deep Learning for Graphs》系统性阐述了这一框架,非常值得关注!

结构化数据的自适应处理是机器学习中一个长期存在的研究课题,研究如何自动学习从结构化输入到各种性质的输出的映射。最近,人们对图形的自适应处理越来越感兴趣,这导致了不同的基于神经网络的方法的发展。在本论文中,我们采用不同的方法,提出了一个用于图学习的贝叶斯深度学习框架。本论文首先回顾了该领域中大多数方法建立的原则,然后对图分类再现性问题进行了研究。然后,通过以增量的方式构建我们的深度架构,我们继续将深度学习的基本思想与贝叶斯世界联系起来。这个框架允许我们考虑具有离散和连续边缘特征的图,产生足够丰富的无监督嵌入,以达到在多个分类任务上的先进水平。该方法还支持贝叶斯非参数扩展,它可以自动选择几乎所有模型的超参数。两个真实世界的应用证明了深度学习对图形的有效性。第一个问题是用有监督的神经模型预测分子模拟的信息理论量。之后,我们利用贝叶斯模型来解决恶意软件分类任务,同时对过程内代码混淆技术具有鲁棒性。最后,我们试图将神经和贝叶斯世界的精华融合在一起。由此产生的混合模型能够预测以输入图为条件的多模态分布,因此能够比大多数工作更好地模拟随机性和不确定性。总的来说,我们的目标是为图深度学习的研究领域提供一个贝叶斯视角。

论文链接:https://arxiv.org/pdf/2202.12348.pdf

内容中包含的图片若涉及版权问题,请及时与我们联系删除