FourierMamba: Fourier Learning Integration with State Space Models for Image Deraining

2024年05月29日
  • 简介
    图像去雨旨在从雨天图像中去除雨痕并恢复清晰背景。目前,一些采用傅里叶变换的研究已被证明对于图像去雨是有效的,因为它作为捕捉雨痕的有效频率先验。然而,尽管图像中存在低频和高频的依赖关系,这些基于傅里叶的方法很少利用不同频率之间的相关性来联合其学习过程,从而限制了完全利用频率信息进行图像去雨。相反,最近出现的Mamba技术在各个领域(如空间、时间)中展示了其有效性和效率来建模相关性,我们认为将Mamba引入其未开发的傅里叶空间以关联不同频率将有助于改进图像去雨。这激发了我们提出一个新的框架,称为FourierMamba,在傅里叶空间中使用Mamba进行图像去雨。由于傅里叶空间中频率顺序的独特排列,FourierMamba的核心在于不同频率的扫描编码,其中低高频次序格式在空间维度(未排列在轴上)和通道维度(按轴排列)中表现不同。因此,我们设计了FourierMamba,以不同的设计在空间和通道维度上相关联傅里叶空间信息。具体而言,在空间维度的傅里叶空间中,我们引入了Zigzag编码来扫描频率以重新排列从低到高的次序,从而有序地相关联不同频率之间的连接;在通道维度的傅里叶空间中,由于频率按轴排列,我们可以直接使用Mamba来执行频率相关性并改善通道信息表示。
  • 作者讲解
  • 图表
  • 解决问题
    该论文旨在解决图像去雨问题,提出了一种新的方法——FourierMamba,旨在充分利用频率信息来提高图像去雨的效果。
  • 关键思路
    FourierMamba将Mamba技术引入Fourier空间,通过不同的设计在空间和通道维度上关联Fourier空间信息,以提高图像去雨的效果。
  • 其它亮点
    论文通过实验验证了FourierMamba相比于其他方法的优越性,并且提供了开源代码和使用的数据集。该方法的核心在于不同频率之间的关联,通过不同的编码方式在空间和通道维度上实现了这种关联。
  • 相关研究
    在图像去雨领域,已经有一些基于Fourier变换的方法被提出,但是这些方法很少考虑不同频率之间的关联。与此同时,Mamba技术在其他领域中表现出了很好的效果,在该论文中被引入到了Fourier空间中。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问