QDA-SQL: Questions Enhanced Dialogue Augmentation for Multi-Turn Text-to-SQL

对大型语言模型（LLMs）进行特定领域任务的微调在文本到SQL任务中取得了巨大成功。然而，这些微调后的模型在多轮文本到SQL任务中常常面临由模糊或无法回答的问题带来的挑战。因此，希望增强LLMs以处理多轮文本到SQL任务中的多种类型的问题。为此，我们提出了一种新的数据增强方法，称为QDA-SQL，该方法使用LLMs生成多种类型的多轮问答对。在QDA-SQL中，我们引入了一种结合验证和校正机制的方法，以处理复杂的多轮文本到SQL任务。实验结果表明，QDA-SQL使微调后的模型在SQL语句准确性方面表现出更高的性能，并增强了其处理多轮文本到SQL任务中复杂、无法回答问题的能力。生成脚本和测试集已发布在 https://github.com/mcxiaoxiao/QDA-SQL。

论文尝试解决在多轮Text-to-SQL任务中，细调后的大型语言模型（LLMs）面对模糊或无法回答的问题时的表现不佳问题。这是一个在自然语言处理和数据库交互领域内较为具体且具有挑战性的问题。

论文提出了一种名为QDA-SQL的数据增强方法，该方法利用LLMs生成多种类型的多轮问答对，并引入了验证和校正机制来应对复杂的多轮Text-to-SQL任务。这一方法不仅扩展了训练数据的多样性，还提高了模型处理复杂问题的能力，这是对现有数据增强技术的一个重要创新。

论文通过实验证明，QDA-SQL能够显著提高细调模型在SQL语句准确性上的表现，同时增强了模型处理复杂、不可回答问题的能力。此外，作者开源了生成脚本和测试集，为后续研究提供了宝贵的资源。未来可以进一步探索如何将这种方法应用于其他自然语言处理任务，如对话系统等。

近年来，关于多轮Text-to-SQL任务的研究逐渐增多，例如《Multi-turn Dialogue State Tracking via Hierarchical Attention Networks》、《A Reinforcement Learning Approach for Multi-turn Text-to-SQL Generation》等。这些研究主要集中在改进模型的对话理解和生成能力，而QDA-SQL则从数据增强的角度提出了新的解决方案。