Contrastive Quantization based Semantic Code for Generative Recommendation

2024年04月23日
  • 简介
    随着大型语言模型的成功,生成式检索已经成为推荐系统中的一种新的检索技术。它可以分为两个阶段:第一阶段涉及构建离散码(即代码),第二阶段涉及通过变压器架构逐步解码代码。目前的方法通常通过基于项目文本表示的量化重构来构建项目语义代码,但它们未能捕捉到在建模推荐系统中项目关系时至关重要的项目差异。在本文中,我们提出通过同时考虑项目关系和语义信息来构建项目的代码表示。具体而言,我们使用预训练的语言模型提取项目的文本描述并将其翻译为项目的嵌入。然后,我们提出增强基于编码器-解码器的RQVAE模型,采用对比目标来学习项目代码。具体来说,我们将解码器生成的嵌入作为正实例,将其他样本的嵌入作为负实例。因此,我们有效地增强了所有项目之间的差异,更好地保留了项目邻域。最后,我们使用生成式检索在顺序推荐模型上训练和测试语义代码。我们的实验表明,与以前的基线相比,我们的方法在MIND数据集上将NDCG@5提高了43.76%,在Office数据集上将Recall@10提高了80.95%。
  • 图表
  • 解决问题
    本文旨在解决推荐系统中生成式检索技术的问题,即如何同时考虑物品之间的关系和语义信息来构建物品的编码表示,以更好地进行推荐。
  • 关键思路
    本文提出了一种增强编码表示学习的方法,通过在RQVAE模型中引入对比损失来学习物品编码表示,同时考虑物品之间的关系和语义信息。
  • 其它亮点
    本文的实验结果表明,所提出的方法相较于之前的基线方法在MIND数据集上将NDCG@5提高了43.76%,在Office数据集上将Recall@10提高了80.95%。
  • 相关研究
    在最近的研究中,也有一些关于推荐系统中生成式检索技术的相关研究,如《Generative Retrieval with Collaborative User-Item Pairs for Session-based Recommendation》和《Hierarchical Generative Models for Session-based Recommendation with Implicit Feedback》等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论