DynLLM: When Large Language Models Meet Dynamic Graph Recommendation

去年，由于大型语言模型（LLMs）在推荐系统中的潜在应用可以缓解数据稀疏性的持续问题，因此引起了广泛的关注。尽管已经做出了大量努力，通过更好的基于图的推荐性能来增强用户-项目图形，但它们可能无法处理动态图形推荐任务，这涉及结构和时间图形动态性，并具有处理时变数据的固有复杂性。为了弥合这一差距，本文提出了一种新的框架DynLLM，用于使用LLMs处理动态图形推荐任务。具体而言，DynLLM利用LLMs的能力基于历史购买记录的丰富文本特征生成多方面的用户配置文件，包括人群细分，个人兴趣，首选类别和喜爱品牌，从而补充和丰富用户和项目之间的基础关系。沿着这条线，为了将多方面的配置文件与时间图嵌入融合，我们利用LLMs来推导相应的配置文件嵌入，并进一步采用蒸馏注意机制来改进LLM生成的配置文件嵌入以减轻噪声信号，同时评估和调整每个蒸馏方面嵌入的相关性，以便与连续时间动态图（CTDGs）的时间图嵌入无缝集成。在两个真实的电子商务数据集上进行的广泛实验验证了DynLLM相对于各种最先进的基线方法的卓越改进。

本文旨在解决动态图推荐任务中的结构和时间动态性问题，提出一种基于LLM的新框架DynLLM。

DynLLM利用LLM生成多方面的用户画像，包括人群细分、个人兴趣、偏好类别和偏爱品牌等，以增强用户与物品之间的关系。同时，通过LLM生成相应的画像嵌入，并采用蒸馏注意机制，对LLM生成的画像嵌入进行精细化调整，以便与连续时间动态图（CTDGs）的时间图嵌入无缝融合。

本文的实验结果表明，DynLLM在两个真实的电子商务数据集上均优于当前广泛使用的各种基线方法。值得关注的是，DynLLM能够处理动态图推荐任务，这是一个新的问题。

最近的相关研究包括：《Graph Neural Networks for Social Recommendation》、《Session-based Recommendation with Graph Neural Networks》、《A Survey on Graph Neural Networks for Recommender Systems》等。