论文题目:Filter-enhanced MLP is All You Need for Sequential Recommendation

作者:周昆*,于辉*,赵鑫,文继荣

论文下载地址:

https://arxiv.org/pdf/2202.13556.pdf

论文开源代码:

https://github.com/RUCAIBox/FMLP-Rec

越来越多的工作表明复杂的Transformer架构可能不是进行序列表示建模的最优模型,其中过多的参数量反而一定程度上带来了过拟合的风险,该风险在某些噪声较大的场景下会严重影响模型效果(如:推荐系统和信号处理)。本文针对序列化推荐问题,通过一系列分析实验发现该场景下滤波算法可以减少该过拟合问题并极大提升Transformer模型的效果,且在Transformer架构基础上将multi-head attention替换为频域下的MLP层,可以模拟滤波机制并进一步提升模型效果。最终我们提出了FMLP-Rec (Filter-enhanced MLP approach for sequential recommendation),一个纯MLP架构的模型以进行用户历史序列的编码并完成推荐任务。由于我们是在频域下利用MLP进行序列编码,我们的时间复杂度低于Transformer结构但是却有着相同的感受野。在8个数据集上的大量实验证明了我们的纯MLP模型可以超越基于RNN,CNN,GNN和Transformer的模型。

内容中包含的图片若涉及版权问题,请及时与我们联系删除