Automatic Prompt Optimization via Heuristic Search: A Survey

近期大型语言模型（LLM）的发展在各种自然语言处理任务中取得了显著成就，使得提示工程技术变得越来越重要，以引导模型输出。虽然手动方法可以有效，但它们通常依赖直觉，并不能自动随着时间优化提示。相比之下，采用基于启发式的搜索算法的自动提示优化可以系统地探索和改进提示，且所需的人工干预极少。本综述提出了一个全面的分类法，将这些方法按优化发生的阶段、优化的内容、驱动优化的标准、生成新提示的操作符以及应用的迭代搜索算法进行分类。我们进一步强调了支持和加速自动化提示优化的专用数据集和工具。最后，我们讨论了关键的开放性挑战，并指出了未来更强大和多样的LLM应用的机会。

论文试图解决的问题是如何系统地优化用于指导大型语言模型（LLM）输出的提示语。传统的手动方法依赖于直觉且缺乏自动化的持续改进机制，而该研究旨在通过自动化和基于启发式的搜索算法来克服这些局限性，从而更有效地提升提示语的质量。这并不是一个全新的问题，但将自动化优化应用于这一领域是一个相对较新的尝试。

关键思路是采用自动化的、基于启发式搜索算法的方法来进行提示语优化。这种方法可以通过迭代探索和改进提示语，减少对人工干预的需求，并能根据设定的标准自动调整和优化提示语。相比现有的研究，这种自动化的方式提供了一种更为系统化和可扩展的方法来提高LLM的表现。

论文提出了一个全面的分类法，涵盖了优化发生的位置、优化的内容、驱动优化的标准、生成新提示的操作以及使用的迭代搜索算法等多个方面。此外，还介绍了专门为此目的设计的数据集和工具，以支持和加速自动化的提示优化过程。论文最后讨论了未来的研究方向，包括如何使LLM应用更加稳健和多样化。值得注意的是，文中提及了一些实际使用的数据集，但未明确提到是否有开源代码。

最近在这个领域中，相关的研究还包括：1. 'Prompt Engineering for Large Language Models: A Comprehensive Survey'，探讨了提示工程在LLM中的应用；2. 'Automated Prompt Generation Using Genetic Algorithms'，使用遗传算法进行提示生成；3. 'Optimizing Prompts via Reinforcement Learning'，利用强化学习技术优化提示语。