Automatic Instruction Evolving for Large Language Models

使用Evol-Instruct对大型预训练语言模型进行微调已经在各种任务中取得了令人鼓舞的结果。然而，设计有效的进化指导方法需要大量的人类专业知识。本文提出了Auto Evol-Instruct，这是一个端到端的框架，可以使用大型语言模型自动演化指导数据集，无需任何人类努力。该框架自动分析和总结适合给定指导数据的进化策略，并根据指导演化过程中暴露的问题迭代改进进化方法。我们广泛的实验表明，Auto Evol-Instruct优化的最佳方法在各种基准测试中均优于人工设计的方法，包括MT-Bench、AlpacaEval、GSM8K和HumanEval。

Auto Evol-Instruct试图解决Evolve-Instruct方法需要大量人力专家参与的问题，提出了一种自动化的、无需人力干预的指导数据集进化框架。

Auto Evol-Instruct框架自动分析和总结适合指导数据集进化的进化策略，并根据指导数据集进化过程中暴露的问题迭代地改进进化方法。

实验结果表明，Auto Evol-Instruct优化的最佳方法在MT-Bench、AlpacaEval、GSM8K和HumanEval等各种基准测试中均优于人工设计的方法。

该领域的相关研究包括但不限于：Evolve-Instruct、GPT-3、ALBERT、BERT等。