Graph Foundation Models

2024年02月03日
  • 简介
    Graph Foundation Model (GFM) 是图领域中一个新兴的研究主题,旨在开发一种能够概括不同图形和任务的图形模型。然而,目前还没有实现多功能 GFM。建立 GFM 的关键挑战是如何实现跨具有不同结构模式的图形之间的积极转移。受计算机视觉和自然语言处理领域现有基础模型的启发,我们提出了一个新颖的 GFM 发展视角,倡导“图形词汇表”的概念,其中基本的可转移单元构成了图形不变性的编码。我们从网络分析、理论基础和稳定性等基本方面来构建图形词汇表。这种词汇表的观点可以潜在地推动未来的 GFM 设计,遵循神经缩放定律。
  • 图表
  • 解决问题
    如何开发一种能够在不同图形和任务之间进行泛化的图形模型?
  • 关键思路
    提出了一种基于“图形词汇”的方法来构建通用的图形模型,该方法可以从网络分析、理论基础和稳定性等方面构建图形词汇。
  • 其它亮点
    论文提出的基于“图形词汇”的方法可以为未来的GFM设计提供新的思路。论文还介绍了如何从网络分析、理论基础和稳定性等方面构建图形词汇,并探讨了如何遵循神经缩放定律。实验结果表明,该方法可以在不同的图形和任务之间实现正向迁移。
  • 相关研究
    最近的相关研究包括《Graph Neural Networks: A Review of Methods and Applications》、《Deep Learning on Graphs: A Survey》等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论