Satyrn: A Platform for Analytics Augmented Generation

大型语言模型（LLMs）能够生成文档，而检索增强生成（RAG）已经证明是一种强大的方法，可以提高准确性而不损失流畅性。然而，并非所有信息都可以从文本中检索出来。我们提出了一种方法，利用结构化数据分析生成事实集，以类似于RAG中使用检索文档的方式来指导生成。这种分析增强生成（AAG）方法支持利用标准分析技术生成事实，然后将其转换为文本并传递给LLM。我们提供了一个神经符号平台Satyrn，利用AAG生成基于大规模数据库的准确、流畅、连贯的报告。在我们的实验中，我们发现Satyrn生成的报告中超过86%的声明是准确的，同时保持高水平的流畅性和连贯性，即使使用较小的语言模型，如Mistral-7B，也比GPT-4代码解释器的57%准确声明要好。

本论文试图通过分析结构化数据来生成事实集，以引导生成文本。这个方法被称为analytics augmented generation (AAG)，它支持使用标准分析技术来生成事实，然后将其转换为文本并传递给LLM。论文旨在解决从文本中无法检索到的信息的问题。

论文提出了一种新的方法，即AAG，它使用结构化数据的分析来指导文本生成。这个方法与RAG类似，但是它不仅仅依赖于从文本中检索信息，而是利用分析技术来生成事实集。

论文提出了一个新的平台Satyrn，它使用AAG来生成准确、流畅、连贯的报告，这些报告基于大规模数据库。实验结果表明，使用AAG的Satyrn可以生成超过86%的准确声明，并保持高水平的流畅性和连贯性。论文还探讨了使用较小的LLM（如Mistral-7B）与使用GPT-4 Code Interpreter相比的结果差异。论文没有提供开源代码。

最近在这个领域中，还有一些相关的研究。例如，Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks和Generating Informative and Diverse Conversational Responses via Adversarial Information Maximization。