Creative Beam Search: LLM-as-a-Judge For Improving Response Generation

大型语言模型正在革新多个领域，包括人工创造力。但是，机器生成的过程与人类观察到的过程有着深刻的分歧。特别是，机器生成的过程缺乏意图和底层的创造性过程。我们提出了一种叫做创造性 Beam Search 的方法，它使用多元 Beam Search 和 LLM 作为评判来执行响应生成和响应验证。定性实验的结果显示，我们的方法可以比标准抽样技术提供更好的输出。我们还表明，响应验证步骤是响应生成步骤的必要补充。

论文提出了一种名为Creative Beam Search的方法，旨在解决机器生成的创意不如人类的问题。

Creative Beam Search使用Diverse Beam Search和LLM-as-a-Judge来进行响应生成和响应验证，提高了生成结果的质量。

实验结果表明，Creative Beam Search方法相比标准采样技术能够提供更好的输出。同时，响应验证步骤是响应生成步骤的必要补充。

最近的相关研究包括：1. Neural Creative Language Modeling；2. Improving Variational Auto-Encoders for Text Modeling using Dilated Convolutions；3. Generating High-Quality and Informative Conversation Responses with Sequence-to-Sequence Models。