MambaAD: Exploring State Space Models for Multi-class Unsupervised Anomaly Detection

最近异常检测领域的进展已经看到了基于CNN和Transformer的方法的有效性。然而，CNN在长程依赖方面存在困难，而Transformer则承担着二次计算复杂度的负担。基于Mamba的模型，凭借其卓越的长程建模和线性效率，已经引起了相当大的关注。本研究首创将Mamba应用于多类无监督异常检测，提出了MambaAD，它由预训练编码器和具有多尺度(Locality-Enhanced State Space) LSS模块的Mamba解码器组成。所提出的LSS模块集成了并行级联(Hybrid State Space) HSS块和多核卷积操作，有效地捕捉了长程和局部信息。HSS块利用(Hybrid Scanning) HS编码器将特征映射编码成五种扫描方法和八个方向，从而通过(State Space Model) SSM加强全局连接。希尔伯特扫描和八个方向的使用显着改善了特征序列建模。对六个不同的异常检测数据集和七个指标的全面实验表明，该方法具有最先进的性能，证明了该方法的有效性。

本论文旨在解决多类无监督异常检测问题，应用Mamba模型进行长序列建模，同时兼顾计算效率和准确性。

论文提出了MambaAD模型，采用预训练编码器和Mamba解码器，其中Mamba解码器包含多尺度的LSS模块，通过并行级联的HSS块和多核卷积操作来有效地捕捉长程和局部信息。

该论文的亮点包括使用Mamba模型进行长序列建模，同时兼顾计算效率和准确性；提出了LSS模块用于捕捉长程和局部信息；使用HSS块和SSM来加强全局连接；使用Hilbert扫描和8个方向来提高特征序列建模。实验使用了6个不同的异常检测数据集和7个指标，结果表明该方法具有优异的性能。

最近的相关研究包括使用CNN和Transformer进行异常检测的方法，以及其他基于深度学习的异常检测方法。