Trust, But Verify: A Survey of Randomized Smoothing Techniques

机器学习模型在各个领域都表现出了显著的成功，但仍然容易受到对抗性攻击的影响。实证防御机制通常不够可靠，因为新的攻击不断涌现，使得现有的防御机制变得过时。因此，出现了从实证防御转向基于认证的防御的范式转变。在众多的技术进步中，随机平滑已经成为一种有前途的技术。本研究回顾了随机平滑在验证机器学习分类器中的理论基础、实证有效性和应用。我们深入探讨了随机平滑的基本概念，强调了其在认证抵抗对抗扰动方面的理论保证。此外，我们讨论了现有方法的挑战，并提供了对潜在解决方案的深刻见解。本文在试图系统化现有的关于随机平滑的知识方面是具有创新性的。

论文旨在研究机器学习模型的鲁棒性认证，以解决当前机器学习模型易受到对抗性攻击的问题。

随机平滑技术是一种基于认证的防御方法，能够提高机器学习模型的鲁棒性。

论文详细介绍了随机平滑技术的理论基础和实验效果，并探讨了现有方法的挑战和解决方案。实验使用了多个数据集，论文也提供了开源代码。值得进一步研究的工作包括如何提高随机平滑的效率和如何应用于更复杂的模型中。

与本文相关的研究包括“Adversarial Examples in the Physical World”、“Towards Deep Learning Models Resistant to Adversarial Attacks”等。