Segment-Anything Models Achieve Zero-shot Robustness in Autonomous Driving

语义分割是自动驾驶中重要的感知任务，但它容易受到对抗样本的风险。近年来，深度学习从参数相对较少的卷积神经网络模型逐渐过渡到参数数量巨大的基础模型。Segment-anything模型（SAM）是一种通用的图像分割框架，能够处理各种类型的图像，能够识别和分割图像中的任意对象，而无需针对特定对象进行训练。它是一个统一的模型，可以处理多样化的下游任务，包括语义分割、目标检测和跟踪。在自动驾驶的语义分割任务中，研究SAM的零样本对抗鲁棒性非常重要。因此，我们进行了一项系统的实证研究，探究了SAM的鲁棒性，而无需额外的训练。根据实验结果，在黑盒破坏和白盒对抗攻击下，SAM的零样本对抗鲁棒性是可以接受的，即使没有额外的训练。这项研究的发现非常有启示性，巨大的模型参数和大量的训练数据会导致出现现象，从而建立对抗鲁棒性的保证。SAM是一个视觉基础模型，可以看作是人工通用智能（AGI）流水线的早期原型。在这样的流水线中，一个统一的模型可以处理多样化的任务。因此，这项研究不仅检验了视觉基础模型对安全自动驾驶的影响，还提供了开发可信赖的AGI的视角。代码可在 https://github.com/momo1986/robust_sam_iv 上找到。

研究SAM模型在自动驾驶中的零样本对抗鲁棒性，探究大规模深度学习模型在对抗攻击下的表现。

提出了一个通用的图像分割框架SAM，能够处理各种类型的图像，无需针对特定对象进行训练，且能够处理多样化的下游任务，包括语义分割、目标检测和跟踪。在对SAM模型进行对抗攻击的实验中，发现SAM模型具有较好的零样本对抗鲁棒性，这归因于大规模深度学习模型的出现现象。

论文提出了一个通用的图像分割框架SAM，并在自动驾驶的语义分割任务中进行了对抗攻击实验，结果表明SAM模型具有较好的零样本对抗鲁棒性。研究结果对于理解大规模深度学习模型的出现现象以及开发可信人工智能（AGI）具有启示意义。研究代码已经开源。

最近的相关研究主要集中在对抗攻击和鲁棒性上，例如：《Adversarial examples in the physical world》、《Towards evaluating the robustness of neural networks》等。