Online Learning and Unlearning

我们将在线学习-遗忘问题形式化，其中模型在在线环境中以顺序方式更新，同时在更新之间处理遗忘请求。一旦某个数据点被遗忘，所有后续输出必须在统计上与没有该数据点训练的模型输出无法区分。我们提出了两种在线学习-遗忘（OLU）算法，它们都基于在线梯度下降（OGD）。第一种是被动OLU，它利用OGD的收缩特性，并在遗忘发生时注入噪声，且不增加额外计算成本。第二种是主动OLU，它使用一种离线遗忘算法，将模型向排除已删除数据的解移动。在标准的凸性和平滑性假设下，这两种方法都实现了与标准OGD相当的后悔界（regret bounds），这表明可以在提供遗忘保证的同时保持具有竞争力的后悔界。

论文试图解决在线学习与在线遗忘（unlearning）的问题，即在模型需要实时更新的同时，满足用户对特定数据点的删除请求，并确保删除后模型的行为与从未使用该数据训练时统计上不可区分。这是一个新兴问题，特别是在隐私保护和数据权利日益受到关注的背景下。

论文提出了两种基于在线梯度下降（OGD）的在线学习-遗忘算法：被动OLU和主动OLU。被动OLU利用OGD的收缩性质并在遗忘时注入噪声，无需额外计算开销；主动OLU则通过离线遗忘算法将模型调整为排除已删除数据的解。这两种方法在标准凸性和平滑性假设下均能达到与传统OGD相当的后悔界，同时提供遗忘保证。相比现有研究，这篇论文首次系统地结合了在线学习和遗忘需求，提供了理论支持和实际可行的解决方案。

论文设计了严格的实验验证两种OLU算法的有效性，并在多个合成和真实数据集上进行了测试。虽然未明确提到开源代码，但其提出的理论框架和算法设计值得进一步研究。未来可以探索非凸场景下的扩展、更高效的遗忘机制以及更大规模数据集上的表现。

近期相关研究包括：1) 'Machine Unlearning' 提出了如何通过重训练或近似方法实现模型遗忘；2) 'Efficient Data Removal from Machine Learning Models' 探讨了高效的数据移除技术；3) 'Online Convex Optimization with Unlearning Guarantees' 研究了在线优化中的遗忘约束。此外，还有一些工作聚焦于差分隐私（differential privacy）作为另一种实现遗忘的方式。