Mitigating the Curse of Dimensionality for Certified Robustness via Dual Randomized Smoothing

随机平滑（RS）已被证明是一种为任意图像分类器赋予认证鲁棒性的有前途的方法。然而，高维各向同性高斯噪声固有的实质性不确定性使得RS受到维度灾难的影响。具体而言，RS提供的${\ell_2}$认证鲁棒半径的上限随着输入维度$d$的扩展呈现下降趋势，以$1/\sqrt{d}$的比例递减。本文探讨了通过在低维空间利用双重平滑来为高维输入提供${\ell_2}$认证鲁棒性的可行性。所提出的双重随机平滑（DRS）将输入图像下采样为两个子图像，并在低维度中平滑这两个子图像。理论上，我们证明DRS保证了原始输入的紧密${\ell_2}$认证鲁棒半径，并揭示DRS获得了更优秀的${\ell_2}$鲁棒半径上限，其随着$m+n=d$以$(1/\sqrt m + 1/\sqrt n )$的比例递减。广泛的实验证明了DRS的泛化能力和有效性，它具有显着的能力，可以与已建立的方法集成，从而在CIFAR-10和ImageNet数据集上显著提高了RS的准确性和${\ell_2}$认证鲁棒性基线。代码可在https://github.com/xiasong0501/DRS找到。

论文旨在解决随机平滑（RS）在高维输入中存在维度诅咒问题的挑战，通过在低维空间中利用双重平滑来提供L2认证的鲁棒性。

论文提出了双重随机平滑（DRS）的方案，将输入图像下采样成两个子图像，并在低维度空间中对这两个子图像进行平滑处理。理论上证明了DRS保证了原始输入的紧密L2认证的鲁棒性半径，并且DRS在L2鲁棒性半径的上限方面具有卓越的表现。

论文使用CIFAR-10和ImageNet数据集进行了广泛的实验，并证明了DRS的通用性和有效性。DRS还能够与现有的方法相结合，从而在RS的准确性和L2认证的鲁棒性基线方面实现显着改进。代码已经开源。

与该论文相关的其他研究还包括《Randomized Smoothing for Lipschitz Neural Networks》、《Certified Adversarial Robustness via Randomized Smoothing》等。