Unmasking Database Vulnerabilities: Zero-Knowledge Schema Inference Attacks in Text-to-SQL Systems

关系型数据库是现代信息系统中不可或缺的组成部分，作为存储、查询和有效管理数据的基础。大语言模型的进步已经导致了文本到SQL技术的出现，显著提高了从这些数据库中查询和提取信息的能力，同时也引起了隐私和安全方面的担忧。我们的研究提取了文本到SQL模型中的数据库模式元素。了解模式可以使SQL注入等攻击更容易。通过提出特别设计的问题，我们开发了一个零知识框架，旨在探索各种数据库模式元素，而不需要了解数据库本身。然后，文本到SQL模型处理这些问题，以产生我们用于揭示数据库模式结构的输出。我们将其应用于专门针对文本-SQL对进行微调的文本到SQL模型和用于SQL生成的生成式语言模型。总体而言，我们可以重建表名，微调模型的F1值接近0.75，而生成式模型的F1值接近0.96。

该论文旨在提取文本到SQL模型下的数据库模式元素，以便了解数据库结构，但这可能会增加SQL注入等攻击的风险。作者提出了一种零知识框架，可以在不知道数据库本身的情况下，探测各种数据库模式元素。

论文的关键思路是使用特殊设计的问题来探测数据库模式元素，然后将这些问题传递给文本到SQL模型进行处理，从而揭示数据库模式的结构。该方法在细化的文本到SQL模型和用于SQL生成的生成语言模型中都有良好的效果。

该论文的亮点在于提出了一种零知识框架来探测数据库模式元素，可以有效地减少SQL注入等攻击的风险。实验使用了细化的文本到SQL模型和用于SQL生成的生成语言模型，结果表明该方法可以在不知道数据库本身的情况下，高效地揭示数据库模式的结构。

在这个领域中，最近还有一些相关的研究，如《Neural Text-to-SQL Generation: A Comparative Analysis》、《Spider: A Large-Scale Human-Labeled Dataset for Complex and Cross-Domain Semantic Parsing and Text-to-SQL Task》等。