CSWin-UNet: Transformer UNet with Cross-Shaped Windows for Medical Image Segmentation

2024年07月25日
  • 简介
    深度学习,特别是卷积神经网络(CNN)和Transformer架构,已成为医学图像分割广泛研究的焦点,并取得了令人瞩目的成果。然而,CNN具有归纳偏差,限制了它们在更复杂、多样化的分割场景中的有效性。相反,虽然基于Transformer的方法擅长捕捉全局和长程语义细节,但它们面临高计算需求的问题。在本研究中,我们提出了CSWin-UNet,一种新颖的U形分割方法,将CSWin自注意机制纳入UNet中,以促进水平和垂直条纹的自注意。该方法显著提高了计算效率和感受野交互。此外,我们创新的解码器利用内容感知的重组运算符,通过预测的卷积核引导,精确地恢复图像分辨率。我们在各种数据集上进行了广泛的实证评估,包括突触多器官CT、心脏MRI和皮肤病变,证明CSWin-UNet在保持低模型复杂度的同时,提供了高分割准确性。
  • 图表
  • 解决问题
    本论文旨在解决医学图像分割中CNN和Transformer方法的局限性,提出了一种新的基于CSWin self-attention机制和UNet的分割方法CSWin-UNet。
  • 关键思路
    CSWin-UNet方法将CSWin self-attention机制融入UNet中,提高了计算效率和感受野交互,并使用内容感知的重组算子进行精确的图像分辨率恢复。
  • 其它亮点
    论文在多个数据集上进行了实验,包括synapse multi-organ CT,心脏MRI和皮肤病变。结果表明,CSWin-UNet方法在保持低模型复杂度的同时,能够提供高精度的分割结果。论文还提供了开源代码。
  • 相关研究
    近期的相关研究包括基于CNN和Transformer的医学图像分割方法,如U-Net、DeepLab、TransUNet等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论