UltraLight VM-UNet: Parallel Vision Mamba Significantly Reduces Parameters for Skin Lesion Segmentation

传统上，为了提高模型的分割性能，大多数方法都倾向于使用更复杂的模块。但这对于医疗领域来说并不适用，特别是对于移动医疗设备来说更是如此，因为由于计算资源的限制，计算负载较重的模型并不适用于真实的临床环境。最近，由Mamba代表的状态空间模型（SSMs）已成为传统CNN和变压器的强有力竞争对手。在本文中，我们深入探讨了Mamba中参数影响的关键要素，并基于此提出了一种基于UltraLight Vision Mamba UNet（UltraLight VM-UNet）的方法。具体来说，我们提出了一种名为PVM Layer的并行视觉Mamba特征处理方法，它在保持总处理通道数不变的情况下，以最低的计算负载实现了出色的性能。我们在三个皮肤病公共数据集上对比和剖析了几种最先进的轻量级模型，并证明了UltraLight VM-UNet表现出了同样强大的性能竞争力，仅具有0.049M的参数和0.060的GFLOPs。此外，本研究深入探讨了Mamba中参数影响的关键要素，这将为Mamba未来有可能成为轻量化的新主流模块奠定理论基础。代码可从https://github.com/wurenkai/UltraLight-VM-UNet获取。

本文旨在解决医疗领域中轻量级模型的分割性能问题，提出了一种基于状态空间模型（SSM）的UltraLight Vision Mamba UNet模型，并探索了Mamba模型的参数影响。

本文的关键思路是提出了一种在处理特征时可以并行处理的PVM层，能够在保持处理通道总数不变的情况下，以最低的计算负载实现出色的性能。

本文在三个皮肤病变公共数据集上对多种轻量级模型进行了比较和消融实验，并展示了UltraLight VM-UNet模型具有与参数仅为0.049M和GFLOPs为0.060的其他模型相同的强大性能竞争力。此外，本文还深入探讨了Mamba模型的参数影响，为Mamba成为未来轻量级模型的主流模块奠定了理论基础。该论文的代码可以从https://github.com/wurenkai/UltraLight-VM-UNet获取。

在这个领域中，最近的相关研究包括《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》、《ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design》等。