Exploring Fairness in Educational Data Mining in the Context of the Right to be Forgotten

在教育数据挖掘（EDM）社区中，机器学习在发现模式和结构以应对教育挑战方面取得了显著成功。值得注意的是，在EDM的学习分析中，公平性和算法偏见引起了关注。随着对被遗忘权的需求增加，特别是在EDM领域，机器学习模型需要忘记敏感数据及其影响。选择性遗忘的范式，也称为机器遗忘，已被广泛研究，以解决这个问题，即在不完全重新训练的情况下消除预训练模型中特定数据的影响。然而，现有研究假定交互式数据删除操作在安全可靠的环境中进行，忽略了可能存在的恶意遗忘请求，以破坏机器学习系统的公平性。本文介绍了一种新型的选择性遗忘攻击类别，旨在破坏学习模型的公平性，同时保持其预测准确性，从而防止模型所有者检测到模型性能的降级。此外，我们提出了一种创新的优化框架，用于在各种攻击场景下生成恶意遗忘请求。我们使用多样化的EDM数据集进行了广泛的实验，验证了我们提出的选择性遗忘攻击对公平性的有效性。

解决EDM中机器学习模型的遗忘问题可能会被用于恶意攻击，导致模型公平性受损

提出了一种新的选择性遗忘攻击方法，旨在破坏模型公平性而不影响其预测准确性，并设计了一个优化框架来生成恶意遗忘请求

论文使用各种EDM数据集进行了广泛的实验，验证了选择性遗忘攻击的有效性。同时，论文还提出了一些防御恶意遗忘攻击的方法，如限制遗忘请求的数量和频率。

最近的相关研究包括“基于不同的遗忘策略的选择性遗忘方法”和“通过添加噪声来保护机器学习模型的隐私”等。