Onboard deep lossless and near-lossless predictive coding of hyperspectral images with line-based attention

2024年03月26日
  • 简介
    本文介绍了一种名为LineRWKV的预测神经网络,用于在航天器上压缩高光谱图像。传统的深度学习方法由于需要大量计算复杂度才能获得足够的表征能力以及缺乏适合训练和测试的数据集,因此在航天器上应用起来一直很困难。为了解决这个问题,本文采用了一种新颖的混合注意力-递归操作,将Transformer的表征优势与循环神经网络的线性复杂度和递归实现相结合,以递归行的方式设计了LineRWKV。该压缩算法使用LineRWKV对每个像素进行预测,然后对残差进行熵编码。在HySpecNet-11k数据集和PRISMA图像上的实验表明,LineRWKV是第一种能够在无损和近无损压缩方面优于CCSDS-123.0-B-2的深度学习方法。同时,在一台功率为7W的嵌入式系统上也得到了有希望的吞吐量结果。
  • 作者讲解
  • 图表
  • 解决问题
    论文试图通过设计一种名为LineRWKV的预测神经网络解决太空船上高光谱图像压缩的问题,以及验证其在无损和近无损压缩方面的性能是否优于CCSDS-123.0-B-2。
  • 关键思路
    LineRWKV是一种基于递归线性操作的预测神经网络,采用了新颖的混合注意力-递归操作,结合了Transformers的表示优势和递归神经网络的线性复杂度和递归实现,以递归行的方式限制内存消耗,并在像素级别上进行预测。
  • 其它亮点
    论文在HySpecNet-11k数据集和PRISMA图像上进行了实验,展示了LineRWKV在无损和近无损压缩方面优于CCSDS-123.0-B-2的性能。此外,论文评估了在7W嵌入式系统上的吞吐量结果,并提供了开源代码。
  • 相关研究
    最近的相关研究包括使用自动编码器进行高光谱图像压缩的方法。例如,标题为“Hyperspectral Image Compression via Deep Learning: A Review”的论文综述了使用深度学习进行高光谱图像压缩的最新研究。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问