MambaAD: Exploring State Space Models for Multi-class Unsupervised Anomaly Detection

2024年04月09日
  • 简介
    最近异常检测方面的进展已经看到了卷积神经网络(CNN)和Transformer方法的有效性。然而,CNN在处理长程依赖时存在困难,而Transformer则受到二次计算复杂度的负担。基于Mamba的模型以其卓越的长程建模和线性效率引起了广泛关注。本研究首创将Mamba应用于多类无监督异常检测,提出了MambaAD,它由一个预训练的编码器和一个包含多尺度的(Locality-Enhanced State Space) LSS模块的Mamba解码器组成。所提出的LSS模块将并行级联的(Hybrid State Space) HSS块和多核卷积操作集成在一起,有效地捕捉了长程和局部信息。利用(Hybrid Scanning) HS编码器的HSS块将特征图编码成五种扫描方法和八个方向,从而通过(State Space Model) SSM加强全局连接。使用希尔伯特扫描和八个方向显著改善了特征序列建模。在六个不同的异常检测数据集和七个指标上的全面实验表明,该方法具有最先进的性能,证实了该方法的有效性。
  • 作者讲解
  • 图表
  • 解决问题
    本文旨在解决多类无监督异常检测问题。作者试图通过提出一种基于Mamba的模型,来解决CNN和transformer在长距离依赖和计算复杂度方面的问题。
  • 关键思路
    该模型由预训练的编码器和使用LSS模块的Mamba解码器组成,LSS模块通过并行级联的HSS块和多核卷积操作,有效地捕获长距离和本地信息。HSS块使用HS编码器将特征图编码为五种扫描方法和八个方向,从而通过SSM加强全局连接。
  • 其它亮点
    论文在六个不同的异常检测数据集上进行了全面实验,并使用七种度量标准进行了评估,证明了该方法的性能优于当前领域的其他方法。此外,作者还提供了开源代码,以便其他研究人员可以进一步研究该方法。
  • 相关研究
    最近的相关研究包括使用CNN和transformer进行异常检测的方法,以及其他基于Mamba的模型的研究,如MambaGAN和MambaVAE。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问