A Noisy Beat is Worth 16 Words: a Tiny Transformer for Low-Power Arrhythmia Classification on Microcontrollers

可穿戴系统对于长期监测心血管疾病在诊断和治疗方面变得越来越普遍和有价值。一种有前途的方法是使用Transformer机器学习模型进行心电图（ECG）信号的实时分析和心脏病情的检测，如心律失常。Transformer是用于时间序列分类的强大模型，尽管在可穿戴领域的高效实现存在着重大的设计挑战，需要在足够的准确性和适当的复杂性之间进行平衡。在本研究中，我们提出了一种微型Transformer模型，用于分析ECG信号，仅需要6k个参数，并在考虑8位整数推理所需的低功耗微控制器设备上实现了对MIT-BIH心律失常数据库中5种最常见心律失常类别的98.97%的准确识别。我们探索了一种基于增强的训练方法，以提高对电极运动伪迹噪声的鲁棒性，结果表明在最坏情况下部署后的性能评估准确率为98.36%。最后，通过在并行超低功耗GAP9处理器上进行有效部署，展示了其适用于可穿戴监测解决方案，其中推理执行需要4.28毫秒和0.09毫焦耳。

论文旨在解决心血管疾病长期监测的问题，提出了一种小型Transformer模型，用于分析心电图信号并检测心律失常。

论文提出了一种小型Transformer模型，仅使用了6k个参数，通过数据增强训练提高了对电极运动伪影噪声的鲁棒性，同时在低功耗微控制器设备上实现了高效的执行。

论文使用MIT-BIH心律失常数据库，实现了98.97%的准确率，并通过数据增强训练提高了鲁棒性，最终在GAP9处理器上实现了高效的执行。论文的代码已经开源。

最近的相关研究包括使用卷积神经网络进行心电图分类，如“Cardiologist-Level Arrhythmia Detection with Convolutional Neural Networks”（2017）和“ECG arrhythmia classification using a 2-D convolutional neural network”（2020）等。