Path Planning for Masked Diffusion Model Sampling

在本文中，我们探讨了标记解掩码顺序如何影响掩码扩散模型（MDMs）的生成质量。我们推导了一个扩展的证据下界（ELBO），该下界引入了一个规划器来选择每一步要解掩码的标记。我们的分析表明，不同的解掩码策略可以提升生成性能。基于此，我们提出了路径规划（P2），这是一种采样框架，它使用预训练的BERT模型或去噪器本身来指导解掩码决策。P2概括了所有已知的MDM采样策略，并在多个领域显著提升了性能，包括语言生成（如上下文学习、代码生成、故事填充、数学推理、逆诅咒校正）和生物序列生成（如蛋白质和RNA序列）。

该论文探讨了在掩码扩散模型（MDMs）中，不同的token解掩顺序如何影响生成质量。这是一个相对较新的问题，特别是在如何系统地优化解掩顺序以提高生成性能方面。

关键思路是通过引入一个'规划者'来选择每一步解掩哪些tokens，并通过扩展证据下界（ELBO）来实现这一点。这种方法不仅允许更灵活的解掩策略，还提出了一种名为Path Planning (P2)的新框架，该框架可以使用预训练的BERT模型或去噪器本身来指导解掩决策。这与现有方法相比，提供了一种更为通用且高效的采样策略。

该研究的重要亮点在于它证明了不同解掩策略能够显著提升生成性能，并且P2框架在多个领域如语言生成和生物序列生成中都表现出了优越性。实验设计涵盖了多种任务类型，包括但不限于上下文学习、代码生成、故事填充等。此外，该研究使用了广泛的数据集，并且开源了部分代码，为后续研究提供了坚实的基础。未来的研究可以进一步探索更多领域的应用及优化解掩策略。

近期在这个领域的相关研究还包括：1. 'Denoising Diffusion Probabilistic Models'，探讨了去噪扩散模型的基本原理；2. 'Masked Language Model Tuning'，专注于改进掩码语言模型；3. 'Diffusion Models Beat GANs on Image Synthesis'，比较了扩散模型与GANs在图像生成上的表现。这些研究共同推动了扩散模型及其变体的发展。