Smart Expert System: Large Language Models as Text Classifiers

本文介绍了智能专家系统，这是一种新颖的方法，利用大型语言模型（LLMs）作为文本分类器。该系统简化了传统的文本分类工作流程，消除了对大量预处理和领域专业知识的需求。本文在四个数据集上评估了几种LLMs、机器学习（ML）算法和神经网络（NN）结构的性能。结果表明，某些LLMs在情感分析、垃圾短信检测和多标签分类方面超越了传统方法。此外，通过少量样本或微调策略，还可以进一步提高系统的性能，使微调模型成为所有数据集中表现最好的模型。源代码和数据集可在此GitHub存储库中获取：https://github.com/yeyimilk/llm-zero-shot-classifiers。

本文介绍了一种新的方法——Smart Expert System，利用大型语言模型作为文本分类器，简化了传统文本分类的工作流程，消除了对领域专业知识的需求。研究的目的是探讨大型语言模型在文本分类任务中的性能表现。

本文的关键思路是利用大型语言模型作为文本分类器，消除传统文本分类的繁琐预处理和领域专业知识的需求。研究结果表明，某些大型语言模型在情感分析、垃圾短信检测和多标签分类等任务上优于传统方法。

本文使用四个数据集对多个大型语言模型、机器学习算法和神经网络结构进行了性能评估，结果表明，利用少量样本或微调策略可以进一步提高系统的性能。研究还开源了源代码和数据集，为后续研究提供了便利。

近年来，大型语言模型在自然语言处理领域得到了广泛应用。与本文相关的研究包括：《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》、《GPT-2: Language Models are Unsupervised Multitask Learners》等。