Multi-head Attention-based Deep Multiple Instance Learning

本文介绍了MAD-MIL，一种基于多头注意力机制的深度多实例学习模型，旨在用于数字病理学中弱监督的全幻灯片图像分类。受Transformer的多头注意力机制启发，MAD-MIL简化了模型复杂度，同时在与CLAM和DS-MIL等先进模型的竞争中实现了有竞争力的结果。在MNIST-BAGS和公共数据集（包括TUPAC16、TCGA BRCA、TCGA LUNG和TCGA KIDNEY）上进行评估，MAD-MIL始终优于ABMIL。这证明了幻灯片表示中信息多样性、可解释性和效率的提高。该模型的有效性，加上较少的可训练参数和较低的计算复杂度，使其成为自动病理学工作流的有前途的解决方案。我们的代码可在https://github.com/tueimage/MAD-MIL上获得。

本文旨在解决数字病理学中弱监督下的WSI分类问题，同时验证MAD-MIL模型的有效性和效率。这是一个新问题。

MAD-MIL模型基于Transformer的多头注意力机制，简化了模型复杂度，同时在MNIST-BAGS和公共数据集上表现出与CLAM和DS-MIL等先进模型相当的结果。MAD-MIL模型具有更好的信息多样性、可解释性和效率，这是与当前领域研究的新思路。

本文使用了MNIST-BAGS和TUPAC16、TCGA BRCA、TCGA LUNG和TCGA KIDNEY等公共数据集进行了实验，并且提供了开源代码。MAD-MIL模型表现出更好的效果、更少的可训练参数和更低的计算复杂度，是自动化病理学工作流的一种有前途的解决方案。

在这个领域中，还有一些相关的研究，如ABMIL、CLAM和DS-MIL等。