Differential Privacy via Distributionally Robust Optimization

解决问题：该论文旨在解决差分隐私在发布数据集统计信息时的隐私-准确性平衡问题，并提出一种新的机制设计方法。这是一个当前研究领域的问题。

关键思路：该论文的关键思路是将机制设计问题转化为无限维分布鲁棒优化问题，并利用强对偶性和分层割平技术来解决该问题。相比之前的研究，该论文的思路具有非渐近和无条件的最优性保证。

其他亮点：该论文设计的机制可以在人工数据集和标准基准问题上优于之前文献中的最佳结果。论文提供了实验数据和开源代码。该论文的方法值得进一步研究。

关于作者：Aras Selvi、Huikang Liu、Wolfram Wiesemann都是英国帝国理工学院的教授或博士后研究员。他们之前的代表作包括“Robust optimization for nonconvex problems with nonsmooth functions: Proximal point algorithm and Burer-Monteiro approach”（Wolfram Wiesemann等人，2014）和“Distributionally robust optimization under moment uncertainty with application to data-driven problems”（Wolfram Wiesemann等人，2016）。

相关研究：近期其他相关研究包括“Differentially Private Convex Optimization with Proximal Operators”（Jiawen Kang等人，加州大学洛杉矶分校，2021）、“Differentially Private Stochastic Gradient Descent with Improved Utility and Complexity Bounds”（Ziyue Liu等人，新加坡国立大学，2020）和“Differentially Private Learning with Adaptive Sampling”（Yi Zhang等人，华盛顿大学，2020）。

论文摘要：近年来，差分隐私已成为在限制泄露涉及个人隐私信息的同时共享数据集统计信息的事实标准。这是通过随机扰动要发布的统计信息来实现的，从而导致隐私和准确性之间的权衡：较大的扰动提供更强的隐私保证，但它们会导致提供给接收者的准确性更低的统计信息，从而降低其效用。因此，特别感兴趣的是提供在预先选择的隐私级别下提供最高准确性的最优机制。迄今为止，这个领域的工作集中于事先指定扰动的族，并随后证明它们的渐近和/或最优性。在本文中，我们开发了一类机制，它们享有非渐近和无条件的最优性保证。为此，我们将机制设计问题制定为无穷维分布鲁棒优化问题。我们展示了该问题提供了强大的对偶性，并利用这种对偶性来开发收敛的有限维上下界问题的层次结构。我们的上（原始）界对应于可实施的扰动，其次优性可以由我们的下（对偶）界界定。两个界定问题都可以通过利用固有问题结构的割平面技术在几秒钟内解决。我们的数值实验表明，我们的扰动可以在人工和标准基准问题上优于文献中以前的最佳结果。

内容中包含的图片若涉及版权问题，请及时与我们联系删除