Transformer 在 NLP 中大获成功，Vision Transformer 则将 Transformer 模型架构扩展到计算机视觉的领域中，并且它可以很好的地取代卷积操作，在不依赖卷积的情况下，依然可以在图像分类任务上达到很好的效果。卷积操作只能考虑到局部的特征信息，而 Transformer 中的注意力机制可以综合考量全局的特征信息。

Vision Transformer 尽力做到在不改变 Transformer 中 Encoder 架构的前提下，直接将其从 NLP 领域迁移到计算机视觉领域中，目的是让原始的 Transformer 模型开箱即用。
本文详细阐述了Vision Transformer的原理，并且分析了相关代码。

内容中包含的图片若涉及版权问题，请及时与我们联系删除