Using Large Language Models to Understand Telecom Standards

第三代合作伙伴计划（3GPP）已成功推出全球移动通信标准。然而，这些标准的数量和复杂性随着时间的推移而增加，这使得供应商和服务提供商难以获取相关信息。使用生成式人工智能（AI），特别是大型语言模型（LLM），可能提供更快的获取相关信息的方法。本文评估了最先进的LLM用作3GPP文档参考的问答助手的能力。我们的贡献有三个方面。首先，我们提供了评估LLM性能的基准和测量方法。其次，我们对其中一个LLM进行了数据预处理和微调，并提供了适用于所有LLM的提高响应准确性的指南。第三，我们提供了我们自己的模型TeleRoBERTa，其性能与基础LLM相当，但参数数量减少了一个数量级。结果表明，LLM可以用作电信技术文件的可靠参考工具，因此具有从故障排除和维护到网络运营和软件产品开发的许多不同应用的潜力。

本论文旨在评估最新的大语言模型（LLMs）是否可以作为第三代合作伙伴计划（3GPP）文件参考的问答助手，以解决3GPP标准的复杂性和体量增加导致的信息获取困难的问题。

本论文提出了一种基于LLMs的问答助手模型，通过数据预处理和微调提高了模型的准确性，并提供了一种新的模型TeleRoBERTa，该模型参数数量较少但性能相当。

论文提供了评估LLMs性能的基准和测量方法，并提供了准确性提高的指南。实验结果表明，LLMs可以作为电信技术文档的可信参考工具，具有解决故障排除、网络运营和软件产品开发等多种应用潜力。

最近的相关研究包括使用LLMs进行问答的其他应用，例如在医疗保健领域的文献检索和诊断辅助。相关论文包括《BERT for Biomedical Question Answering》和《ClinicalBERT: Modeling Clinical Notes and Predicting Hospital Mortality》。