MambaLRP: Explaining Selective State Space Sequence Models

最近，使用选择性状态空间序列模型（称为Mamba模型）的序列建模方法受到了广泛关注。这些模型可以在线性时间内高效处理长序列，并在语言建模等各种应用中展现出有希望的性能，因此正在迅速被采用。为了促进它们在实际场景中的可靠使用，增强它们的可解释性至关重要。我们的工作通过将可解释性（尤其是层次相关传播（LRP））引入到Mamba架构中，填补了这一关键差距。在相关性守恒公理的指导下，我们确定了Mamba架构中导致不忠实解释的特定组件。为了解决这个问题，我们提出了MambaLRP，这是LRP框架中的一种新算法，它通过这些组件确保了更稳定和可靠的相关性传播。我们提出的方法在理论上是可靠的，并在各种模型和数据集上实现了最先进的解释性能。此外，MambaLRP促进了对Mamba架构的深入检查，揭示了各种偏见并评估了它们的重要性。它还使得对先前关于Mamba模型长程能力的推测进行分析成为可能。

本论文旨在为Mamba模型提供可解释性，特别是采用了层次相关传播（LRP）算法来解决Mamba模型中存在的不可靠解释问题。

MambaLRP是一种新的算法，它在LRP框架内提供更稳定、可靠的相关传播，以消除Mamba模型中存在的不可靠解释问题。

论文通过实验验证了MambaLRP算法的有效性，并且发现了Mamba模型中存在的一些偏差，并对其进行了分析。论文还开源了代码。

最近在这个领域中，还有一些相关的研究，如：Selective State Space Sequence Models, Layer-wise Relevance Propagation等。