PAS: Data-Efficient Plug-and-Play Prompt Augmentation System

近年来，大型语言模型（LLMs）的崛起推动了对即插即用人工智能系统的需求。在各种人工智能技术中，提示工程显得尤为重要。然而，由于陡峭的学习曲线和显著的时间投入，用户常常面临编写提示的挑战，而现有的自动提示工程（APE）模型也难以使用。为解决这个问题，我们提出了PAS，一种基于LLMs的即插即用APE系统。PAS利用在高质量自动生成的提示补充数据集上训练的LLMs，表现出卓越的性能。在全面的基准测试中，与以前的APE模型相比，PAS实现了最新的技术结果，平均提高了6.09个点。此外，PAS非常高效，仅使用9000个数据点就能实现最新技术的表现。此外，PAS可以自主生成提示增强数据，而不需要额外的人力。其灵活性也使其兼容所有现有的LLMs，并适用于各种任务。PAS在人类评估中表现出色，强调了其作为用户插件的适用性。高性能、高效性和灵活性的结合使PAS成为增强LLMs的可用性和效果的有价值的系统。

提高大型语言模型的可用性和效果，通过改进提示工程来解决自动提示工程的使用难度和时间成本问题。

使用基于高质量自动生成的提示补充数据集训练的大型语言模型，提出了一种高效、易用的自动提示工程系统PAS，可自动生成提示扩充数据，适用于各种任务和现有的大型语言模型。

PAS在综合基准测试中表现出色，相比之前的自动提示工程模型平均提高了6.09个点；只需9000个数据点就可实现最先进的性能；在人类评估中表现出色；可自动生成提示扩充数据，无需额外的人力劳动。

最近的相关研究包括：《Plug and Play Language Models: A Simple Approach to Controlled Text Generation》、《Improving Language Understanding by Generative Pre-Training》等。