Optimal Federated Learning for Nonparametric Regression with Heterogeneous Distributed Differential Privacy Constraints

本文研究了在不同服务器上分布的样本上进行联邦学习，用于非参数回归问题，每个服务器都遵守不同的差分隐私限制。我们考虑的是异构的情况，包括服务器之间的样本大小和差分隐私限制的变化。在这个框架内，我们考虑了全局和逐点估计，并建立了在Besov空间上的最优收敛速度。 我们提出了分布式隐私保护估计器，并研究了它们的风险属性。对于全局和逐点估计，我们建立了匹配的最小极限下界，最多只有一个对数因子。这些发现揭示了统计精度和隐私保护之间的权衡。特别是，我们不仅在隐私预算方面表征了这种权衡，而且还涉及了在整个隐私框架内分发数据所带来的损失。这个洞见捕捉了一种民间智慧，即在更大的样本中更容易保持隐私，并探讨了在分布式隐私约束下逐点和全局估计之间的差异。

本论文旨在研究联合学习在分布式样本和不同差分隐私约束条件下的非参数回归问题。研究考虑了异构性，包括不同服务器之间的样本大小和差分隐私约束条件的变化。同时，研究还探讨了全局和逐点估计，并建立了在Besov空间中的最优收敛速率。

论文提出了分布式隐私保护估计器，并调查了其风险属性。对于全局和逐点估计，均建立了匹配的极小值下界，最多只有对数因子的差异。这些发现揭示了统计精度和隐私保护之间的权衡。特别地，研究不仅在隐私预算方面，而且在隐私框架内分发数据所造成的损失方面，表征了这种妥协。这种洞见捕捉了传统智慧，即在更大的样本中保留隐私更容易，并探讨了在分布式隐私约束条件下逐点和全局估计之间的差异。

论文提出了分布式隐私保护估计器，并建立了最优收敛速率。研究还考虑了异构性，包括不同服务器之间的样本大小和差分隐私约束条件的变化。论文还建立了匹配的极小值下界，最多只有对数因子的差异。该研究为统计精度和隐私保护之间的权衡提供了新的洞见。

最近在这个领域中，还有一些相关的研究被进行，如：'Federated Learning with Differential Privacy: Algorithms and Lower Bounds'，'Privacy-Preserving Distributed Regression using Randomized Matrix Sketching'，'Differentially Private Federated Learning: A Client Level Perspective'。