近日,一年一度的国际神经网络验证大赛VNN-COMP落下帷幕。由来自卡内基梅隆大学(CMU)、美国东北大学、哥伦比亚大学、加州大学洛杉矶分校(UCLA)的成员共同研发的工具α,β-CROWN获得了第二届国际神经网络验证大赛总分第一,以及 5 个单项第一。

本次比赛获胜的工具α,β-CROWN(开源代码:http://PaperCode.cc/a-b-CROWN)由来自卡内基梅隆大学的博士后研究员 Huan Zhang (张欢) 带领的团队开发,学生作者均为华人。开发者包括 Huan Zhang (CMU)、Kaidi Xu (共同一作,东北大学)、Shiqi Wang (共同一作,哥伦比亚大学)、Zhouxing Shi (UCLA)、Yihan Wang (UCLA)以及来自卡内基梅隆大学的 Zico Kolter 教授、UCLA 的 Cho-Jui Hsieh 教授、哥伦比亚大学的 Suman Jana 教授和来自东北大学的 Xue Lin 教授。

本文中,将介绍神经网络验证的基本问题、国际神经网络验证大赛的背景和本次竞赛获胜算法 α,β-CROWN。

α,β-CROWN(也写作 alpha-beta-CROWN)验证器主要有两大特色:

1. 使用非常高效的限界传播 (Bound Propagation) 算法来计算神经网络在给定输入扰动空间内的下界,然后使用分支定界法 (branch and bound) 实现完备神经网络验证 (complete verification)。

2. 整个验证算法由 PyTorch 实现并可在 GPU 上高效执行,可以不依赖于线性规划 (LP)、混合整数规划(MIP) 等较慢且一般只能在 CPU 上运行的验证算法。α,β-CROWN 是当前少数几个能完全在 GPU 上运行的神经网络验证工具之一。

内容中包含的图片若涉及版权问题,请及时与我们联系删除