NetMamba: Efficient Network Traffic Classification via Pre-training Unidirectional Mamba

网络流量分类是一个关键的研究领域，旨在提高服务质量、简化网络管理并加强网络安全。为了应对传输加密技术日益复杂的情况，人们提出了各种机器学习和深度学习方法。然而，现有方法面临两个主要挑战。首先，由于广泛使用的Transformer架构的二次复杂度，它们在模型效率方面存在困难。其次，由于丢弃重要的字节信息而保留不必要的偏见，它们受到不可靠的流量表示的困扰。为了解决这些挑战，我们提出了NetMamba，这是一个高效的线性时间状态空间模型，配备了全面的流量表示方案。我们用我们专门选择和改进的Mamba架构替换了Transformer，以解决效率问题。此外，我们设计了一种流量表示方案，用于从海量流量中提取有效信息，同时去除偏见信息。在涵盖三个主要分类任务的六个公共数据集上的评估实验展示了NetMamba相对于最先进的基线的优越分类性能。它在加密流量分类任务上的准确率和f1分数分别提高了4.83％和4.64％。此外，NetMamba表现出优异的效率，提高了推理速度2.24倍，同时保持相对较低的内存使用率。此外，NetMamba表现出优越的少样本学习能力，在少量标记数据的情况下实现更好的分类性能。据我们所知，NetMamba是第一个将Mamba架构用于网络的模型。

论文旨在解决网络流量分类中遇到的模型效率和流量表征不可靠的问题，提出了NetMamba模型解决这些问题。

NetMamba模型采用线性时间状态空间模型和特殊的Mamba架构，提高了模型效率，并设计了流量表征方案，从海量流量中提取有效信息并去除偏差信息。

NetMamba模型在六个公共数据集上进行了实验，展示了比现有模型更好的分类性能，同时保持较低的内存使用和更快的推理速度。此外，NetMamba表现出更好的少样本学习能力。

在这个领域中，最近的相关研究包括使用深度学习方法进行网络流量分类的研究，如基于Transformer的模型。