论文标题:
MLP4Rec: A Pure MLP Architecture for Sequential Recommendations
论文链接:
https://arxiv.org/pdf/2204.11510v1.pdf
自注意力模型通过捕获用户-商品交互之间的序列依赖关系,在序列推荐系统中实现了最佳性能。但是,它们依赖于位置embedding来保留顺序关系,这可能会破坏商品embedding的语义。大多数现有工作都假设这种顺序依赖性仅存在于商品embedding中,而忽略了它们在商品特征中的存在。本文基于 MLP 的架构的最新进展提出了一种新颖的序列推荐系统 (MLP4Rec),该方法对序列中商品的顺序敏感,设计一种三向融合方案,连贯地捕获顺序、跨通道和跨特征相关性。
主要是采用三个MLP分别在不同的维度上进行交互和序列信息发掘。分别采用序列混合器,通道混合器和特征混合器三个块构成一层,经过多层得到最终的embedding进行预测打分。
-
在embedding层得到商品ID和特征的embedding -
将商品的各个特征和ID的embedding进行堆叠可以得到2-d的张量,然后再将序列中的各个商品对应的二维张量堆叠可以得到3-d的张量。 -
序列混合器是在序列维度上对不同商品对应的同一特征经过MLP挖掘顺序关系 -
通道混合器是在通道维度上对同一商品的不同通道经过MLP挖掘挖通道的相关性 -
特征混合器是在特征维度进行特征交互
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢