ARNN: Attentive Recurrent Neural Network for Multi-channel EEG Signals to Identify Epileptic Seizures

我们提出了一种注意力循环神经网络（ARNN），它沿着序列循环应用注意力层，并且其复杂度与序列长度成线性关系。所提出的模型不是针对单通道信号，而是针对多通道EEG信号，并利用并行计算。在这个单元中，注意力层是一个计算单元，它能够高效地应用自注意力和交叉注意力机制来计算一组广泛的状态向量和输入信号的循环函数。我们的架构部分受到了注意力层和长短时记忆（LSTM）单元的启发，并使用了长短时门，但它通过几个级别的扩展来并行化多通道EEG信号的典型单元。它继承了注意力层和LSTM门的优点，同时避免了它们各自的缺点。我们通过对包括CHB-MIT和UPenn和Mayos Clinic CHB-MIT数据集在内的异构数据集进行了广泛的实验证明了模型的有效性。实证结果表明，ARNN模型优于基线方法，如LSTM、Vision Transformer（ViT）、Compact Convolution Transformer（CCT）和R-Transformer（RT），在各种任务中展现出更优越的性能和更快的处理能力。代码已经公开在\url{https://github.com/Salim-Lysiun/ARNN}上。

本论文旨在提出一种基于多通道脑电信号的注意力循环神经网络（ARNN）模型，以解决脑电信号分类问题。该模型旨在克服单通道脑电信号分类中存在的一些问题，如信号噪声和缺失等。

论文提出的ARNN模型采用了自注意力和交叉注意力机制，并通过并行计算来实现线性复杂度。该模型结合了注意力层和LSTM单元的优点，同时避免了它们各自的缺点。此外，该模型使用长短时门来扩展LSTM单元，以处理多通道脑电信号。

论文通过实验验证了ARNN模型在多个数据集上的有效性，并与LSTM、Vision Transformer、Compact Convolution Transformer和R-Transformer等基线方法进行了比较。实验结果表明，ARNN模型在各种任务上具有优越的性能和更快的处理能力。此外，论文还公开了代码。

在这个领域中，最近的相关研究包括使用深度学习方法进行脑电信号分类的研究，如《A deep learning approach for motor-imagery EEG signal classification》和《Convolutional neural network-based classification of driver's cognitive states using EEG signals》等。