Transparency, Privacy, and Fairness in Recommender Systems

推荐系统已经成为我们日常在线体验中无处不在的一部分，也是人工智能和机器学习最广泛使用的应用之一。因此，对于可信人工智能的规定和要求，例如包括透明度、隐私和公平性等概念的欧洲人工智能法案，对于实践中的推荐系统设计也非常相关。本文探讨了与这三个概念相关的方面，即：（i）透明度和认知模型，（ii）隐私和有限的偏好信息，以及（iii）推荐系统中的公平性和流行偏见。具体而言，在方面（i）中，我们强调了将心理学理论纳入推荐系统透明设计过程中的实用性。我们将这类系统称为心理学知情的推荐系统。在方面（ii）中，我们研究和解决了差分隐私推荐中准确性和隐私之间的权衡问题。我们设计了一种基于高效邻域重用概念的协同过滤新型推荐方法，从而减少需要受到差分隐私保护的用户数量。此外，我们还解决了用户偏好信息有限的情况下，例如会话型和冷启动推荐的相关问题。在方面（iii）中，我们分析了推荐系统中的流行偏见。我们发现，物品的推荐频率与该物品的流行程度呈正相关关系。这也导致对于对流行内容不感兴趣的用户存在不公平待遇。最后，我们使用基于代理模型的建模技术研究了算法决策支持在劳动力市场中的长期公平性动态。

本论文旨在探讨推荐系统中的透明度、隐私和公平性等问题，并提出了相应的解决方案。

论文提出了心理学知识指导下的推荐系统设计、基于差分隐私的推荐算法、以及解决流行度偏差的公平性动态模型等关键思路。

论文提出了心理学知识指导下的推荐系统设计，提出了一种基于差分隐私的推荐算法，探讨了流行度偏差对推荐系统的影响，并使用基于代理的建模方法研究了算法决策支持的长期公平性动态。实验使用了不同的数据集和评估指标，并开源了代码。

最近的相关研究包括《The European AI Act》、《Fairness in Recommendation: Information Biases and Personalization》、《Differentially Private Top-K Recommendations through Reuse of Public Data》等。