探索机器遗忘的前景:综述和分类学

标题:Exploring the Landscape of Machine Unlearning: A Survey and Taxonomy

链接https://arxiv.org/abs/2305.06360 

作者:Thanveer Shaik, Xiaohui Tao, Haoran Xie, Lin Li, Xiaofeng Zhu, Qing Li

摘要

机器遗忘(MU)是一个越来越受关注的领域,因为需要删除或修改机器学习(ML)模型所做出的预测。虽然训练模型变得更加高效和准确,但在隐私、安全和公平等领域中,遗忘先前学习的信息的重要性变得越来越重要。本文提出了一份关于 MU 的综合调查,涵盖了当前最先进的技术和方法,包括数据删除、扰动和模型更新。此外,还介绍了常用的指标和数据集。

本文还强调需要解决的挑战,包括攻击复杂性、标准化、可迁移性、可解释性、训练数据和资源限制。本文的贡献包括讨论 MU 的潜在益处以及其在自然语言处理、计算机视觉和推荐系统方面的未来方向。此外,本文强调了研究人员和实践者继续探索和改进遗忘技术的必要性,以确保 ML 模型能够适应不断变化的情况,同时保持用户信任。在涉及大量个人用户数据的各个领域中,强调了遗忘的重要性,特别是使人工智能(AI)更加值得信赖和透明。

内容中包含的图片若涉及版权问题,请及时与我们联系删除