PatchGuard: Adversarially Robust Anomaly Detection and Localization through Vision Transformers and Pseudo Anomalies

异常检测 (AD) 和异常定位 (AL) 在对高可靠性有要求的领域中至关重要，例如医学影像和工业监测。然而，由于训练数据通常仅包含未标注的正常样本，现有的 AD 和 AL 方法往往容易受到对抗性攻击的影响。本研究提出了一种名为 PatchGuard 的方法，这是一种具有对抗性鲁棒性的 AD 和 AL 技术，通过在基于视觉变换器 (ViT) 的架构中引入带有定位掩码的伪异常来解决这些脆弱性问题。我们首先分析了伪异常的关键特性，并进一步提供了关于增强 AD 和 AL 系统对抗性鲁棒性所需的注意力机制的理论见解。接着，我们介绍了我们的方法，该方法利用前景感知伪异常克服了先前异常感知方法的不足。我们的方法将这些精心设计的伪异常样本整合到基于 ViT 的框架中，并通过一种新颖的损失函数引导对抗性训练以提升模型的鲁棒性，这一设计得到了我们的理论分析的支持。在已建立的工业和医学数据集上的实验结果表明，PatchGuard 在对抗性环境下显著优于以往的方法，在 AD 和 AL 中分别实现了 53.2% 和 68.5% 的性能提升，同时在非对抗性环境下也保持了竞争力的准确性。代码仓库可在 https://github.com/rohban-lab/PatchGuard 获取。

论文试图解决当前异常检测（AD）和异常定位（AL）方法在对抗性攻击下的脆弱性问题。由于训练数据通常仅包含正常样本，现有方法难以有效应对对抗性扰动。这是一个重要的实际问题，尤其是在需要高可靠性的领域如医疗和工业监控中。

论文提出了一种名为PatchGuard的方法，通过生成带有定位掩码的伪异常样本，并结合基于Vision Transformer（ViT）的架构进行训练。该方法引入了Foreground-Aware Pseudo-Anomalies，并设计了一种新的损失函数以增强模型的对抗鲁棒性。与传统方法不同，PatchGuard不仅考虑了异常样本的生成，还通过理论分析优化了注意力机制的作用，从而提高了AD和AL系统的整体性能。

实验表明，PatchGuard在对抗环境下显著优于现有方法，在异常检测和定位任务上分别实现了53.2%和68.5%的性能提升，同时在非对抗环境中也保持了竞争力。此外，作者提供了开源代码（https://github.com/rohban-lab/PatchGuard），便于复现和进一步研究。未来可以探索更复杂的伪异常生成方式以及跨领域的应用潜力。

近期相关研究包括：1) Anomaly Detection with Normalizing Flows（ICLR 2021），利用归一化流生成异常样本来增强模型泛化能力；2) Adversarial Robustness in Unsupervised Anomaly Detection（CVPR 2022），探讨无监督异常检测中的对抗鲁棒性；3) Self-Supervised Learning for Industrial Anomaly Detection（NeurIPS 2020），通过自监督学习改进工业场景下的异常检测效果。这些工作主要集中在异常样本生成或模型优化上，而PatchGuard则进一步结合了定位信息和注意力机制，形成了更全面的解决方案。