Compositional Curvature Bounds for Deep Neural Networks

这篇论文探讨了神经网络在安全关键应用中面临的一个重要挑战，即其容易受到对抗性攻击的威胁。我们研究了连续可微深度神经网络的二阶行为，重点考虑其对抗扰动的鲁棒性。首先，我们利用局部梯度和二阶导数（曲率常数）的上界，提供了深度分类器鲁棒性和攻击证书的理论分析。接下来，我们引入了一种新的算法，用于解析计算神经网络二阶导数的可证上界。该算法利用模型的组合结构逐层传播曲率上界，从而产生了一种可扩展和模块化的方法。所提出的上界可作为可微正则化器，在训练期间控制神经网络的曲率，从而增强鲁棒性。最后，我们使用MNIST和CIFAR-10数据集上的分类任务展示了我们方法的有效性。

研究神经网络在安全关键应用中的鲁棒性问题，特别是对抗性攻击的脆弱性。

通过局部梯度和二阶导数（曲率常数）的上界来提供深度分类器的鲁棒性和攻击证书的理论分析，并引入一种新算法来分析计算神经网络二阶导数的上界。

该算法利用模型的组合结构逐层传播曲率边界，形成可扩展和模块化的方法。所提出的上界可作为可微分的正则化器来控制神经网络在训练过程中的曲率，从而增强其鲁棒性。实验使用MNIST和CIFAR-10数据集，证明了该方法的有效性。

最近的相关研究包括：Towards Evaluating the Robustness of Neural Networks。