Semantic Routing for Enhanced Performance of LLM-Assisted Intent-Based 5G Core Network Management and Orchestration

大型语言模型（LLMs）正在快速涌现在人工智能（AI）应用中，特别是在自然语言处理和生成式AI领域。这些模型不仅限于文本生成应用，它们固有地具有利用提示工程的机会，其中这些模型的输入可以适当地结构化，以明确表达模型的目的。其中一个著名的例子是基于意图的网络，这是一种新兴的方法，用于自动化和维护网络操作和管理。本文提出了语义路由来实现增强的LLM辅助的基于意图的5G核心网络管理和编排的性能。这项工作建立了一个端到端的意图提取框架，并提供了一个多样化的样本用户意图数据集，伴随着对编码器和量化对整个系统性能影响的彻底分析。结果表明，与具有提示架构的独立LLMs相比，使用语义路由器可以提高LLM部署的准确性和效率。

本论文旨在通过语义路由来提高LLM辅助下的5G核心网络管理和编排的性能，以解决当前网络自动化管理中存在的问题。

论文提出了一种端到端的意图提取框架，并使用语义路由来优化LLM的性能，相较于使用提示架构的独立LLM，使用语义路由的LLM在准确性和效率方面都有所提高。

论文使用了多种数据集来验证语义路由的性能提升，同时还进行了对编码器和量化对系统性能的影响分析。此外，论文还探讨了意图提取和语义路由在5G网络管理和编排中的应用前景。

在相关研究方面，最近的一些研究包括《基于深度学习的5G网络自动化管理综述》和《5G网络管理的机器学习技术研究综述》等。