PLM4Traj: Cognizing Movement Patterns and Travel Purposes from Trajectories with Pre-trained Language Models

空间-时间轨迹在各种空间-时间数据挖掘任务中起着至关重要的作用。开发一种能够适应不同任务并确保高准确性的多功能轨迹学习方法至关重要。这需要有效地提取嵌入在轨迹中的移动模式和旅行目的。然而，由于可用轨迹数据集的规模和质量的限制，这项任务具有挑战性。另一方面，预训练语言模型（PLMs）通过在大规模、高质量的语料库数据集上训练而在适应不同任务方面取得了巨大成功。鉴于轨迹和句子之间的相似之处，利用PLMs增强多功能和有效轨迹学习方法的发展具有潜力。然而，普通的PLMs并不适合处理轨迹中独特的空间-时间特征，也缺乏从中提取移动模式和旅行目的的能力。为了克服这些障碍，我们提出了一种称为PLM4Traj的模型，它有效地利用PLMs来建模轨迹。PLM4Traj利用PLMs的优势创建了一种多功能的轨迹学习方法，同时解决了普通PLMs在建模轨迹方面的限制。首先，PLM4Traj引入了一种新颖的轨迹语义嵌入器，使PLMs能够处理轨迹中的空间-时间特征，并从中提取移动模式和旅行目的。其次，PLM4Traj引入了一种新颖的轨迹提示，将移动模式和旅行目的整合到PLMs中，同时还允许模型适应各种任务。在两个真实数据集和两个代表性任务上进行的大量实验表明，PLM4Traj成功地实现了其设计目标。代码可在https://github.com/Zeru19/PLM4Traj上获得。

本论文旨在开发一种适应不同任务的轨迹学习方法，同时确保高精度。由于可用轨迹数据集的大小和质量存在限制，因此需要有效地提取嵌入在轨迹中的运动模式和旅行目的。然而，由于轨迹的独特时空特征，以及可用数据集的限制，这项任务具有挑战性。

该论文提出了一种名为PLM4Traj的模型，它有效地利用了预训练语言模型（PLMs）来建模轨迹。PLM4Traj利用PLMs的优点创建了一种通用的轨迹学习方法，同时解决了纯粹的PLMs在建模轨迹方面的局限性。

论文的亮点包括：1.引入了一种新的轨迹语义嵌入器，使PLMs能够处理轨迹中的时空特征，并从中提取运动模式和旅行目的。2.引入了一种新的轨迹提示，将运动模式和旅行目的集成到PLMs中，同时允许模型适应各种任务。3.在两个真实数据集和两个代表性任务上进行了广泛的实验，证明了PLM4Traj成功实现了其设计目标。该论文提供了开源代码。

最近在这个领域中的相关研究包括：1.《TrajectoryNet: An Embedded GPS Trajectory Representation for Point-based CNNs》2.《DeepMove: Predicting Human Mobility with Attentional Recurrent Networks》3.《A Survey of Deep Learning for Trajectory Prediction》