TESTAM: A Time-Enhanced Spatio-Temporal Attention Model with Mixture of Experts

本文指出，由于交通预测与道路网络、各种道路类型以及事件引起的突然速度变化之间的复杂依赖关系，因此准确的交通预测是具有挑战性的。最近的研究主要集中在动态空间建模上，采用自适应图嵌入或图注意力，对时间特征和现场建模的考虑较少。本文提出了一种新的深度学习模型TESTAM，它通过三个专家的混合模型分别对重复和非重复交通模式进行建模，这三个专家分别是：时间建模、带静态图的时空建模和带动态图的动态时空依赖建模。通过引入不同的专家并正确地路由它们，TESTAM可以更好地模拟各种情况，包括空间孤立节点、高度相关节点以及重复和非重复事件。为了进行正确的路由，我们将一个门控问题重新制定为一个带伪标签的分类问题。在三个公共交通网络数据集METR-LA、PEMS-BAY和EXPY-TKY上的实验结果表明，TESTAM实现了更好的重复和非重复交通指示和建模。我们在https://github.com/HyunWookL/TESTAM上发布了官方代码。

本论文的问题是如何准确预测交通流量，尤其是在面对复杂的道路网络、各种类型的道路和事件引起的突然速度变化时。同时，论文还试图解决当前研究中主要关注动态空间建模而忽略时间特征和现场建模的问题。

本论文提出了一个名为TESTAM的深度学习模型，通过混合专家模型分别对重复和非重复的交通模式进行建模，并使用三种专家模型进行时间建模、静态图的时空建模和动态图的时空依赖建模。通过引入不同的专家模型并适当路由它们，TESTAM能够更好地建模各种情况，包括空间孤立节点、高度相关节点以及重复和非重复事件。

本论文的亮点包括使用混合专家模型对重复和非重复交通模式进行建模、通过引入不同的专家模型并适当路由它们来更好地建模各种情况、将门控问题重新定义为带有伪标签的分类问题以实现适当路由。实验使用了三个公共交通网络数据集，METR-LA、PEMS-BAY和EXPY-TKY，并在GitHub上公开了代码。

最近在这个领域中，还有一些相关研究，如基于图注意力的动态空间建模、时空图嵌入等。