标题：加州大学、谷歌｜ViTGAN: Training GANs with Vision Transformers（ViTGAN：使用视觉变换器训练生成对抗网络）

简介：最近，视觉变换器(ViTs)在图像识别显示出潜力，同时需要较少的视觉特定归纳偏差。在论文中，我们研究了这种观察是否可以扩展到图像生成。至此，我们将ViT架构集成到生成对抗网络中。我们观察到现有的GAN正则化方法与self-attention交互不佳，在训练过程中造成严重的不稳定。为了解决这个问题，我们介绍了使用ViT训练GAN的新颖正则化技术。在CIFAR-10、CelebA和LSUN卧室数据集上，我们的ViTGAN的方法实现了性能可媲美最先进的基于CNN的StyleGAN2。