Algorithmic Drift: A Simulation Framework to Study the Effects of Recommender Systems on User Preferences

数字平台，如社交媒体和电子商务网站，采用推荐系统为用户提供价值。然而，其采用所带来的社会后果仍不清楚。许多学者认为，推荐系统可能会导致不利影响，例如由算法建议和用户选择之间的反馈循环引起的偏见放大。尽管如此，推荐系统对用户倾向变化的影响程度仍不确定。在这种情况下，为了在部署之前评估推荐算法，提供一个受控环境非常重要。为此，我们提出了一个随机模拟框架，模拟长期情景下用户与推荐系统的交互。具体而言，我们通过规范化用户模型来模拟用户选择，该模型包括行为方面，例如用户对推荐算法的抵抗力以及他们在依赖所收到的建议方面的惯性。此外，我们引入了两个新的度量标准，用于量化算法对用户偏好的影响，特别是随时间漂移方面。我们在多个合成数据集上进行了广泛评估，旨在测试我们的框架在考虑不同情况和超参数设置时的鲁棒性。实验结果证明，通过模拟，所提出的方法对于检测和量化用户偏好的漂移是有效的。用于执行实验的所有代码和数据都是公开可用的。

论文旨在解决推荐系统可能导致用户偏见加剧和用户偏好漂移的问题，并提供一种模拟框架来评估推荐算法的影响。

论文提出了一种基于用户模型的随机模拟框架，用于评估推荐算法对用户偏好漂移的影响，并引入了两个新的指标来衡量漂移程度。

论文在多个合成数据集上进行了广泛的实验评估，证明了提出的方法在模拟中检测和量化用户偏好漂移方面的有效性。所有代码和数据都是公开的。

最近的相关研究包括“推荐系统中的偏见和公平性”和“推荐系统中的长期行为建模”。