Towards Robust Recommendation: A Review and an Adversarial Robustness Evaluation Library

最近，推荐系统取得了显著的成功。然而，由于推荐系统的开放性，它们仍然容易受到恶意攻击的影响。此外，训练数据中的自然噪声和数据稀疏等问题也可能降低推荐系统的性能。因此，增强推荐系统的鲁棒性已成为一个越来越重要的研究课题。在本调查中，我们全面概述了推荐系统的鲁棒性。根据我们的调查，我们将推荐系统的鲁棒性分为对抗鲁棒性和非对抗鲁棒性两类。在对抗鲁棒性方面，我们介绍了推荐系统对抗攻击和防御的基本原则和经典方法。在非对抗鲁棒性方面，我们从数据稀疏性、自然噪声和数据不平衡的角度分析了非对抗鲁棒性。此外，我们总结了常用的数据集和评估指标，用于评估推荐系统的鲁棒性。最后，我们还讨论了推荐系统鲁棒性领域当前面临的挑战和未来的研究方向。此外，为了促进对抗鲁棒性攻击和防御方法的公平和高效评估，我们提出了一个对抗鲁棒性评估库——ShillingREC，并对基本的攻击模型和推荐模型进行了评估。ShillingREC项目已在https://github.com/chengleileilei/ShillingREC上发布。

提高推荐系统的鲁棒性，防止恶意攻击和数据稀疏等问题对推荐系统性能的影响。

将推荐系统的鲁棒性分为对抗鲁棒性和非对抗鲁棒性两个方面，对抗鲁棒性主要通过对抗攻击和防御方法来提高推荐系统的鲁棒性，非对抗鲁棒性主要从数据稀疏、自然噪声和数据不平衡三个方面来提高推荐系统的鲁棒性。

论文提供了一个全面的推荐系统鲁棒性综述，介绍了对抗鲁棒性和非对抗鲁棒性两个方面的研究进展，总结了常用的数据集和评估指标，并提出了一个对抗鲁棒性评估库ShillingREC。该库可以用于对推荐系统的攻击和防御方法进行公平高效的评估。论文还讨论了当前推荐系统鲁棒性研究面临的挑战和未来的研究方向。

最近的相关研究包括： 1. Adversarial Attacks and Defenses in Deep Learning (论文) 2. Robustness of Recommender Systems to Adversarial Perturbations (论文) 3. Improving the Robustness of Deep Neural Networks via Stability Training (论文)