Binary Noise for Binary Tasks: Masked Bernoulli Diffusion for Unsupervised Anomaly Detection

高性能的去噪扩散模型为其在无监督医学异常检测中的应用铺平了道路。由于扩散方法需要大量GPU内存并具有长时间采样，因此我们提出了一种基于潜在伯努利扩散模型的新型快速无监督异常检测方法。我们首先将输入图像压缩成二进制潜在表示，然后在这个潜在空间中应用遵循伯努利噪声时间表的扩散模型，并训练其从扰动的潜在表示中恢复二进制潜在表示。这个扩散模型的二进制特性使我们能够识别潜在空间中具有翻转二进制代码概率较高的条目，这表明其为分布外数据。我们提出了一种基于这些概率的掩蔽算法，从而提高了异常检测分数。与其他基于扩散的无监督异常检测算法相比，我们实现了最先进的性能，同时显著减少了采样时间和内存消耗。代码可在 https://github.com/JuliaWolleb/Anomaly_berdiff 上获得。

本文旨在提出一种基于潜在Bernoulli扩散模型的快速无监督异常检测方法，以解决基于扩散模型的方法需要大量GPU内存和长时间采样的问题。

本文的关键思路是将输入图像压缩为二进制潜在表示，并使用遵循Bernoulli噪声时间表的扩散模型来对这个潜在空间进行训练，以从扰动的潜在表示中恢复二进制潜在表示。利用扩散模型二进制的特性，我们可以识别潜在空间中具有高概率翻转其二进制代码的条目，这表明了数据的分布不同。我们提出了一种基于这些概率的掩蔽算法，以提高异常检测分数。

本文的亮点是提出了一种快速的无监督异常检测方法，可以显著减少采样时间和内存消耗。该方法在多个数据集上进行了实验，并与其他扩散模型的异常检测算法进行了比较，取得了最先进的性能。作者已经开源了代码，供其他研究人员使用。

最近的相关研究包括使用扩散模型进行异常检测的其他方法，如DDPM和DALL-E。