Hibou: A Family of Foundational Vision Transformers for Pathology

病理学是对患病组织进行显微检查，对于诊断各种医学状况尤其是癌症至关重要。传统方法耗时且容易出现人为错误。数字病理学将玻璃切片转换为高分辨率数字图像，通过计算机算法进行分析，通过自动化图像分析和大规模数据处理提高了诊断准确性、一致性和效率，彻底改变了这个领域。基础变压器预训练对于开发稳健、具有普适性的模型至关重要，因为它可以从大量未注释的数据中学习。 本文介绍了Hibou基础视觉变压器系列，利用DINOv2框架预训练了两个模型变体Hibou-B和Hibou-L，在一个拥有超过100万个代表不同组织类型和染色技术的全切片图像（WSIs）的专有数据集上进行预训练。我们的预训练模型在补丁级和幻灯片级基准测试中表现出优越的性能，超过了现有的最先进方法。值得注意的是，Hibou-L在多个基准数据集上实现了最高的平均准确率。为了支持该领域的进一步研究和应用，我们已经开源了Hibou模型，可以在https://github.com/HistAI/hibou上访问。

论文旨在通过数字病理学来提高病理学诊断的准确性、一致性和效率，解决传统方法的劳动密集性和人为误差问题。

通过使用Hibou家族的基础视觉transformers来预训练模型，从而开发出鲁棒性强、可推广性好的模型，用于数字病理学中的图像分析和大规模数据处理。

论文使用DINOv2框架在超过1百万个全切片图像的专有数据集上预训练了两个Hibou模型变体（Hibou-B和Hibou-L），并在补丁级别和幻灯片级别基准测试中展现了卓越的性能，超过了现有的最先进方法。Hibou-L在多个基准数据集上实现了最高的平均准确率。作者已经将Hibou模型开源，可在https://github.com/HistAI/hibou中访问。

最近的相关研究包括：'Deep learning for digital pathology image analysis: A comprehensive tutorial with selected use cases'和'Automated detection of invasive ductal carcinoma in whole slide images with convolutional neural networks'等。