Restore-RWKV: Efficient and Effective Medical Image Restoration with RWKV

Transformers已经彻底改变了医学图像修复的方式，但是二次复杂度仍然限制了它们在高分辨率医学图像中的应用。最近NLP领域中RWKV的出现引起了广泛关注，因为它能够高效地处理长序列。为了利用其先进的设计，我们提出了Restore-RWKV，这是第一个基于RWKV的医学图像修复模型。由于原始的RWKV模型是为1D序列设计的，因此我们对其进行了两个必要的修改，以建模2D图像中的空间关系。首先，我们提出了一个循环WKV（Re-WKV）注意机制，它可以以线性计算复杂度捕捉全局依赖性。Re-WKV将双向注意作为全局感受野的基础，并采用循环注意来有效地建模来自各种扫描方向的2D依赖关系。其次，我们开发了一个全方位令牌移位（Omni-Shift）层，通过从所有方向和跨越广泛的上下文范围移动令牌来增强局部依赖性。这些改进使得所提出的Restore-RWKV成为一种高效且有效的医学图像修复模型。广泛的实验表明，Restore-RWKV在各种医学图像修复任务中均取得了优异的性能，包括MRI图像超分辨率、CT图像去噪、PET图像合成和全能医学图像修复。代码可在以下网址获得：\href{https://github.com/Yaziwel/Restore-RWKV.git}{https://github.com/Yaziwel/Restore-RWKV}。

本论文旨在解决医学图像恢复中的复杂度问题，并提出了一种基于RWKV的模型。论文试图在医学图像恢复领域中引入RWKV模型，以处理高分辨率医学图像的复杂度问题。

论文提出了一种Re-WKV注意机制和Omni-Shift层，以处理2D图像中的全局和局部依赖关系。这种方法有效地将RWKV模型应用于医学图像恢复领域，从而提高了恢复效果。

论文的实验结果表明，Restore-RWKV在MRI图像超分辨率、CT图像去噪、PET图像合成和全方位医学图像恢复等多个医学图像恢复任务中都表现出优异的性能。论文提供了开源代码。

最近在医学图像恢复领域中，还有一些相关的研究，例如：“Deep Learning for Image Super-resolution: A Survey”、“Low-Dose CT Image Denoising Using a Generative Adversarial Network with Wasserstein Distance and Perceptual Loss”等。