Unveiling the Generalization Power of Fine-Tuned Large Language Models

尽管大型语言模型(LLMs)展示了出色的多任务能力，但在下游的特定领域数据集上对这些模型进行微调通常是必要的，才能在测试集上获得比没有微调的模型更优越的性能。然而，微调对LLMs的泛化能力的全面影响尚未完全理解。本文深入探讨了原始未经修改的LLMs和它们的微调变体之间的差异。我们的主要研究集中在微调是否会影响LLMs内在的泛化能力。为了阐述这一点，我们在各种数据集上进行了五个不同语言任务的广泛实验。我们的主要发现是，在生成和分类任务上微调的模型在泛化到不同领域和任务时表现出不同的行为。有趣的是，我们观察到，在生成任务的微调过程中整合上下文学习策略可以增强模型的泛化能力。通过这个系统的调查，我们旨在为LLMs微调实践的不断发展贡献有价值的见解。

本论文探讨fine-tuning对LLMs泛化能力的影响，旨在揭示fine-tuning对LLMs内在泛化能力的影响。

本论文通过在五个不同的语言任务上进行实验，发现fine-tuning对生成任务和分类任务的模型泛化能力有不同的影响。同时，本论文发现在生成任务fine-tuning过程中采用in-context learning策略可以提高模型的泛化能力。

本论文的实验设计详细，使用了多个数据集，并且开源代码可供使用。同时，本论文的研究对fine-tuning在LLMs中的应用提供了有价值的见解。

与本论文相关的研究包括：1.《On the Robustness of Fine-Tuning and the Emergence of Linguistic Features in LMs》；2.《Fine-Tuning Language Models from Human Preferences》；3.《How Much Knowledge Can You Pack Into the Parameters of a Language Model?》等。