Large Window-based Mamba UNet for Medical Image Segmentation: Beyond Convolution and Self-attention

在临床实践中，医学图像分割提供了有关目标器官或组织轮廓和尺寸的有用信息，有助于改善诊断、分析和治疗。在过去几年中，卷积神经网络(CNN)和Transformer已经成为这一领域的主流，但它们仍然存在有限的感受野或昂贵的长程建模的问题。最近，一种名为Mamba的状态空间序列模型(SSM)作为一种具有线性复杂度的长程依赖性建模的有前途的范例出现。在本文中，我们介绍了一种基于大窗口的Mamba U形网络，即LMa-UNet，用于2D和3D医学图像分割。我们LMa-UNet的一个显著特点是利用大窗口，在局部空间建模方面优于基于小核的CNN和小窗口的Transformer，同时在全局建模方面保持了比具有二次复杂度的自注意力更高的效率。此外，我们设计了一种新颖的分层和双向的Mamba块，以进一步增强Mamba的全局和邻域空间建模能力。全面的实验证明了我们方法的有效性和效率，以及使用大窗口大小实现大感受野的可行性。代码可在https://github.com/wjh892521292/LMa-UNet上获得。

本论文旨在解决医学图像分割中长程依赖建模的问题，提出了一种基于Mamba SSM的LMa-UNet模型。

LMa-UNet模型采用大窗口进行局部空间建模，同时利用Mamba SSM实现高效的全局建模，相比于当前的CNN和Transformer方法具有更好的性能。

论文设计了一种新的分层双向Mamba模块，进一步提高了Mamba SSM的全局和邻域空间建模能力。实验结果表明，LMa-UNet模型在医学图像分割任务中具有高效和有效的性能，代码已经开源。

最近在医学图像分割领域，CNN和Transformer方法被广泛应用。其中，U-Net是一种常见的CNN架构，而Mamba SSM则是一种新兴的方法。