Distributional Black-Box Model Inversion Attack with Multi-Agent Reinforcement Learning

这篇文章提出了一种新的分布式黑盒模型反演（DBB-MI）攻击方法，通过构建概率潜空间来搜索目标隐私数据，从而克服了现有分布式MI方案的一些缺点。具体来说，DBB-MI不需要目标模型参数或专门的GAN训练，而是通过将目标模型的输出与多智能体强化学习技术相结合来找到潜在的概率分布。然后，它从潜在的概率分布中随机选择潜在代码来恢复私人数据。由于潜在概率分布与目标隐私数据在潜在空间中非常接近，因此恢复的数据将显着泄露目标模型的训练样本的隐私。在多个数据集和网络上进行了丰富的实验，结果表明，DBB-MI在攻击准确性、K最近邻特征距离和峰值信噪比方面的性能优于现有的最新技术。

本文旨在解决模型反演攻击中的潜在隐私泄露问题，提出了一种新的分布式黑盒模型反演攻击方法。

本文提出了一种利用多智能体强化学习技术构建概率潜空间的新型分布式黑盒模型反演攻击方法，不需要目标模型参数或专门的GAN训练，从而实现对目标隐私数据的恢复。

本文的亮点在于提出了一种新的分布式黑盒模型反演攻击方法，使用多智能体强化学习技术构建概率潜空间，无需目标模型参数或专门的GAN训练。实验结果表明，该方法在攻击准确性、K近邻特征距离和峰值信噪比等方面优于现有的最先进技术。本文的工作值得进一步研究。

在该领域的相关研究包括：1. Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting (2019)；2. Membership Inference Attacks against Machine Learning Models (2017)；3. Model Inversion Attacks that Exploit Confidence Information and Basic Countermeasures (2016)。