Uncovering Selective State Space Model's Capabilities in Lifelong Sequential Recommendation

顺序推荐系统已被广泛应用于各种在线服务，旨在从用户的顺序交互中建模他们的动态兴趣。随着用户越来越多地参与在线平台，大量的终身用户行为序列已经生成。然而，现有的顺序推荐模型经常难以处理这样的终身序列。主要的挑战来自于计算复杂度和捕捉序列内的长程依赖能力。最近，出现了一种具有选择机制的状态空间模型（即Mamba）。在这项工作中，我们调查了Mamba在终身序列推荐（即长度>=2k）中的表现。更具体地说，我们利用Mamba块有选择地对终身用户序列进行建模。我们进行了广泛的实验，评估了代表性顺序推荐模型在终身序列设置下的性能。在两个真实世界的数据集上进行的实验证明了Mamba的优越性。我们发现，RecMamba的性能与代表性模型相当，同时将训练时间减少了约70％，将内存成本减少了80％。代码和数据可在\url{https://github.com/nancheng58/RecMamba}上获得。

解决问题：论文旨在解决现有顺序推荐模型难以处理生命周期用户序列（长度>=2k）的问题，主要挑战来自于计算复杂度和捕捉序列中的长期依赖关系。

关键思路：论文采用一种具有选择机制的状态空间模型（即Mamba），利用Mamba块有选择地对生命周期用户序列进行建模。

亮点：论文在两个真实世界数据集上进行了广泛的实验来评估代表性顺序推荐模型在生命周期序列设置下的性能。实验结果表明，RecMamba在显著减少训练时间约70％和内存成本约80％的同时，实现了与代表模型相当的性能。论文代码和数据集可在Github上获得。

相关研究：最近在这个领域中，一些相关研究包括：《Session-based Recommendation with Graph Neural Networks》、《A Sequential Recommendation Model Based on Dynamic Attention Mechanism》、《Neural Attentive Session-based Recommendation》等。