Diffusion of Thoughts: Chain-of-Thought Reasoning in Diffusion Language Models

扩散模型在文本处理中受到了关注，相比传统的自回归模型，它们提供了许多潜在的优势。本文探讨了将扩散模型和已经成熟的Chain-of-Thought（CoT）技术相结合，以提高自回归语言模型的推理能力。我们提出了Diffusion-of-Thought（DoT），允许推理步骤通过扩散过程随时间扩散。与传统的自回归语言模型按从左到右、逐个标记进行决策的方式不同，DoT在计算和推理性能之间提供了更大的灵活性。我们的实验结果表明，DoT在多位数乘法和小学数学问题中具有有效性。此外，DoT展示了有前途的自我纠正能力，并从现有的推理增强技术（如自我一致性解码）中受益。我们的研究结果有助于理解和发展扩散语言模型的推理能力。

本文旨在探讨在文本处理中，将扩散模型与 Chain-of-Thought (CoT) 结合的 Diffusion-of-Thought (DoT) 方法，以提高自回归语言模型的推理能力。

DoT 通过扩散过程使推理步骤随时间扩散，相比传统的自回归语言模型，DoT 在计算和推理性能之间提供更大的灵活性。

实验结果表明，DoT 在多位数乘法和小学数学问题中具有较好的推理能力。此外，DoT 还展示了很好的自我纠正能力，并从现有的推理增强技术中受益。

最近的相关研究包括 Transformer、BERT、GPT 等自回归语言模型，以及 CoT 等推理增强技术。