Powerful and Flexible: Personalized Text-to-Image Generation via Reinforcement Learning

个性化文本生成图像模型允许用户为一个物体（使用一组参考图像进行指定）生成多种风格的图像（使用一句话进行指定）。虽然扩散生成模型已经取得了显著的成果，但在扩散过程中，物体的视觉结构和细节通常会意外改变。其中一个主要原因是这些扩散方法在训练时通常采用简单的重建目标，很难强制生成的图像与参考图像之间保持适当的结构一致性。因此，在本文中，我们设计了一种新颖的强化学习框架，利用确定性策略梯度方法进行个性化文本生成图像，可以轻松地将各种目标，差分或非差分，纳入监督扩散模型以提高生成图像的质量。在个性化文本生成图像基准数据集上的实验结果表明，我们提出的方法在视觉保真度方面优于现有的最先进方法，并保持了文本对齐。我们的代码可在以下网址找到：\url{https://github.com/wfanyue/DPG-T2I-Personalization}。

本篇论文旨在解决个性化文本到图像生成模型中，由于简单的重建目标函数难以确保生成图像与参考图像之间的结构一致性，导致扩散过程中图像结构和细节的意外改变的问题。论文提出了一种新的强化学习框架，利用确定性策略梯度方法，可以轻松地将各种目标（差分或非差分）纳入监督扩散模型，以提高生成图像的质量。

论文的关键思路是采用强化学习框架，利用确定性策略梯度方法，将各种目标纳入监督扩散模型，以提高生成图像的质量。

论文的亮点包括：1. 提出了一种新的强化学习框架，可以轻松地将各种目标纳入监督扩散模型，以提高生成图像的质量；2. 在个性化文本到图像生成基准数据集上进行实验，证明了该方法在视觉保真度方面优于现有的最先进方法，同时保持文本对齐；3. 论文提供了开源代码。

最近在这个领域中，还有一些相关研究。例如：1.《Generative Adversarial Text-to-Image Synthesis》；2.《Learning to Generate Images with Perceptual Similarity Metrics》；3.《StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks》。