Exploring User Retrieval Integration towards Large Language Models for Cross-Domain Sequential Recommendation

本文介绍了一种名为Cross-Domain Sequential Recommendation (CDSR)的技术，旨在挖掘和转移用户在不同领域中的顺序偏好，以缓解长期存在的冷启动问题。传统的CDSR模型通过用户和项目建模捕捉协作信息，但忽略了有价值的语义信息。最近，大型语言模型（LLM）展示了强大的语义推理能力，这促使我们将它们引入以更好地捕捉语义信息。然而，由于两个关键问题：无缝信息集成和领域特定生成，将LLM引入CDSR是非常困难的。为此，我们提出了一种名为URLLM的新框架，旨在通过同时探索用户检索方法和LLM上的领域基础来提高CDSR性能。具体而言，我们首先提出了一种新颖的双图顺序模型来捕捉不同的信息，以及一种对齐和对比学习方法来促进领域知识转移。随后，我们采用了一种用户检索-生成模型，将结构信息无缝集成到LLM中，充分利用其新兴的推理能力。此外，我们提出了一种领域特定策略和一个改进模块，以防止领域外生成。在亚马逊上进行的大量实验表明，与最先进的基线相比，URLLM具有信息集成和领域特定生成能力。我们的代码可在https://github.com/TingJShen/URLLM上获得。

本论文旨在解决跨领域顺序推荐中的冷启动问题，并提出一种新的框架URLLM。

URLLM框架结合了用户检索和领域特定策略，通过双图顺序模型、对齐和对比学习方法、用户检索-生成模型以及领域特定策略和细化模块，旨在更好地捕捉语义信息，提高跨领域顺序推荐的性能。

论文在Amazon数据集上进行了广泛实验，与当前最先进的基线模型相比，URLLM框架在信息整合和领域特定生成方面的能力得到了证明。此外，作者还开源了其代码。

近期的相关研究包括《Cross-Domain Collaborative Filtering with Review Text: A Neural Tensor Factorization Approach》和《Cross-Domain Recommendation: An Embedding and Mapping Approach》等。