MAML-en-LLM: Model Agnostic Meta-Training of LLMs for Improved In-Context Learning

适应大型语言模型（LLMs）到未知任务且不需要微调的问题一直是一个重要的研究问题。为了学习一个能够适应未知任务的强大的LLM，已经提出了多种元训练方法，例如MetaICL和MetaICT，这些方法涉及在各种不同任务上元训练预先训练的LLMs。这些元训练方法实质上执行上下文多任务微调，并在不相交的测试集任务上进行评估。尽管它们取得了令人印象深刻的性能，但它们的目标从来不是计算出一个真正通用的参数集。在本文中，我们提出了一种新方法MAML-en-LLM，用于元训练LLMs，它可以学习真正可泛化的参数，不仅在不相交的任务上表现良好，而且能够适应未知任务。我们看到在性能方面，未知领域的平均增加了2％，而适应性性能则大幅提高了4％。此外，我们证明MAML-en-LLM在有限的训练数据设置下在已知领域和未知领域上的表现优于基线平均2％。最后，我们讨论了任务类型，优化器和任务复杂性的影响，这是元训练文献中几乎未被探索的领域。在7个任务设置和两个数据设置上进行的详尽实验表明，使用MAML-en-LLM训练的模型优于SOTA元训练方法。

论文旨在解决如何在不进行微调的情况下，使用上下文训练样本来适应未见过的任务的问题。同时，试图学习一个鲁棒的LLM，使其不仅在不同任务的不相交测试集上表现出色，而且能够适应未见过的任务。

论文提出了一种新的方法MAML-en-LLM，用于元训练LLMs，可以学习到真正可泛化的参数，不仅在不同任务的不相交测试集上表现出色，而且能够适应未见过的任务。

论文通过实验展示了MAML-en-LLM方法的优越性，相比现有的元训练方法，MAML-en-LLM方法在未见过的领域中的性能平均提高了2％，在适应性方面提高了4％。此外，论文还探讨了任务类型、优化器和任务复杂度等因素对元训练的影响，并在7个任务设置上进行了详尽的实验。最后，MAML-en-LLM方法在有限的训练数据设置下，无论是在已见过的领域还是未见过的领域中，都优于基线方法。

最近的相关研究包括MetaICL和MetaICT等元训练方法。