Layer by Layer: Uncovering Hidden Representations in Language Models

从特征提取到文本生成，大型语言模型（LLMs）的输出通常依赖于其最后几层，按照传统观点，前面的层只捕捉低级别的线索。然而，我们的分析表明，中间层可以编码更为丰富的表示，通常在广泛的下游任务中提升性能。为了解释和量化这些隐藏层的特性，我们提出了一套基于信息论、几何学和对输入扰动不变性的统一框架来衡量表示质量。我们的框架突显了每一层如何平衡信息压缩与信号保留，揭示了为什么中层嵌入可以超过最后一层的性能。通过在32个文本嵌入任务上的广泛实验以及跨模型架构（如变压器、状态空间模型）和领域（如语言、视觉）的比较，我们证明了中间层始终提供更强的特征。这些发现挑战了传统的关注最后一层嵌入的做法，并为模型分析和优化开辟了新的方向，包括战略性地使用中层表示以构建更稳健和准确的AI系统。

论文试图解决的问题是验证大型语言模型（LLMs）中，是否只有最后几层能够提供最优的特征表示，还是中间层也能提供更强的特征表示。这是一个挑战传统观点的新问题。

关键思路是通过信息理论、几何和输入扰动不变性等多角度的统一框架，评估和量化各层的表示质量。相比现有研究，这篇论文创新地展示了中间层可以比最终层提供更高质量的特征表示，这为模型分析和优化提供了新方向。

该论文通过广泛的实验设计，在32个文本嵌入任务上进行了测试，并跨越了不同的模型架构（如变换器和状态空间模型）和领域（如语言和视觉）。此外，它提出了一种新的框架来解释和量化隐藏层的属性。论文没有提到开源代码，但其方法论值得进一步探索，特别是在不同领域的应用。

最近在这个领域中，相关的研究包括：1. 'Are Sixteen Heads Really Better than One?' 这篇论文探讨了自注意力机制中的多头注意力的有效性；2. 'On the Power of Pre-trained Language Models for Few-shot Learning' 探讨了预训练语言模型在小样本学习中的潜力；3. 'Rethinking the Value of Hidden Layers in Deep Neural Networks' 这篇论文也对隐藏层的价值进行了重新思考。