The Truth is in There: Improving Reasoning in Language Models with Layer-Selective Rank Reduction

基于Transformer的大型语言模型已成为现代机器学习中的固定元素。相应地，大量资源被分配用于旨在进一步推进这项技术的研究，通常会产生越来越大的模型，这些模型在越来越多的数据上进行训练。然而，这项工作表明，通过有选择地删除其权重矩阵的高阶部分，往往可以显著提高LLMs的性能。这种简单的干预措施，我们称之为LAyer-SElective Rank reduction (LASER)，可以在模型训练完成后进行，不需要额外的参数或数据。我们展示了广泛的实验，证明了这一发现在语言模型和数据集中的普遍性，并提供了深入的分析，以提供关于LASER何时有效以及其操作机制的见解。

本文试图通过一种简单的方法——选择性地删除语言模型的高阶权重矩阵组件，即LAyer-SElective Rank reduction（LASER），来提高大型语言模型的性能。

本文的关键思路是使用LASER方法对已经训练完成的语言模型进行优化，无需额外的参数或数据，即可显著提高模型性能。

本文通过大量实验表明，LASER方法可以在多种语言模型和数据集上取得普适的效果，并深入分析了其有效性和作用机制。此外，本文的方法简单易行，无需额外的数据和参数，具有实际应用价值。

近年来，大量的研究工作致力于提高大型语言模型的性能，其中包括提高模型的规模和训练数据。与之前的研究不同，本文提出了一种新的优化方法，即LASER方法，用于提高语言模型的性能。相关的研究包括《Attention is All You Need》和《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》等。