Large Language Models as Software Components: A Taxonomy for LLM-Integrated Applications

最近，大型语言模型（LLMs）已经被广泛采用。研究探讨了它们作为自主代理和软件工程工具的用途。另一方面，LLM集成应用程序是利用LLM执行本来不可能或需要大量编码工作的任务的软件系统。虽然LLM集成应用程序工程正在成为一个新的学科，但它的术语、概念和方法需要被建立。本研究为LLM集成应用程序提供了一个分类法，为分析和描述这些系统提供了一个框架。它还展示了在应用程序中利用LLM的各种方式，以及实现这种集成的选项。 按照已建立的方法，我们分析了最近LLM集成应用程序的样本，以确定相关维度。我们通过将其应用于其他案例来评估分类法。这个回顾显示，应用程序以多种方式集成LLMs以实现各种目的。通常，它们包括多个LLM集成，我们称之为“LLM组件”。为了清楚地了解应用程序的架构，我们单独检查每个LLM组件。我们确定了13个维度，用于表征LLM组件，包括利用的LLM技能、输出格式等等。LLM集成应用程序被描述为它们的LLM组件的组合。我们建议使用特征向量进行简洁的表示，以进行可视化。 这个分类法对于描述LLM集成应用程序是有效的。它可以为LLM集成应用程序工程这个新兴领域的理论建设做出贡献，并帮助开发这样的系统。研究人员和实践者探索了许多创造性的方式来利用LLMs在应用程序中。尽管仍然存在挑战，但集成LLMs可能会彻底改变软件系统构建的方式。

建立一个LLM整合应用程序的分类法，为分析和描述这些系统提供框架。

将LLM整合应用程序分为多个LLM组件，并沿着13个维度进行描述，提出了一种紧凑的特征向量表示方法。

论文提供了LLM整合应用程序的分类法，并通过案例研究进行了评估和验证。实验使用了多个数据集，并提供了开源代码，为LLM整合应用程序的开发提供了指导。

最近的相关研究包括LLM的自主代理和软件工程工具的使用，但LLM整合应用程序的术语、概念和方法需要建立。