Manipulating Recommender Systems: A Survey of Poisoning Attacks and Countermeasures

推荐系统已成为在线服务的重要组成部分，帮助用户在海量数据中找到特定信息。然而，现有研究表明，一些涉及学习方案的推荐系统容易受到中毒攻击的影响。中毒攻击是指对模型训练过程注入精心制作的数据，旨在操纵系统的最终推荐结果。基于人工智能的最新进展，这些攻击最近变得越来越重要。虽然已经开发了许多中毒攻击的对策，但它们尚未系统地与攻击的属性联系起来。因此，评估相应的风险和减轻策略的潜在成功是困难的，甚至是不可能的。本文旨在填补这一空白，主要关注中毒攻击及其对策，与以往主要关注攻击及其检测方法的调查不同。通过详尽的文献综述，我们提供了中毒攻击的新分类法，形式化其维度，并相应地组织了文献中描述的30多种攻击。此外，我们还回顾了40多种检测和/或防止中毒攻击的对策，评估了它们针对特定类型攻击的有效性。这份全面的调查应作为保护推荐系统免受中毒攻击的参考点。文章最后讨论了该领域的未解决问题和有影响力的未来研究方向。与中毒攻击相关的丰富资源存储库可在https://github.com/tamlhp/awesome-recsys-poisoning上获得。

如何保护推荐系统免受污染攻击？

提出了一种新的分类方法，以系统地组织和评估污染攻击和对抗措施的有效性。

通过对30多种攻击和40多种对抗措施的全面回顾，提供了一个包括分类方法、攻击维度和对抗措施的综合参考。还提供了一个污染攻击资源库。

该领域的其他相关研究主要集中在攻击和检测方法上，例如“推荐系统中的对抗性攻击：综述和新的研究方向”和“推荐系统中的诱导攻击：分析和防御”。