Serial Position Effects of Large Language Models

大型语言模型（LLMs）在零样本学习应用中展现出了非凡的能力，仅使用预训练信息即可生成对查询的响应，无需进行额外的微调。这标志着与传统机器学习方法的显著区别。先前的研究表明，LLMs可能表现出串行位置效应，如人类心理学中有充分记录的原始性和近期性偏差。我们在各种任务和模型上进行了广泛的测试，证实了这些效应的普遍存在，尽管它们的强度有所不同。我们还发现，虽然精心设计的提示可以在一定程度上缓解这些偏差，但其有效性不一致。这些发现突显了推理过程中串行位置效应的重要性，特别是在没有基本真实标签的情况下，强调了在LLM应用中解决这些效应的需要。

研究Large Language Models（LLMs）中的序列效应，尤其是primacy和recency biases对零样本学习应用的影响。

通过精心设计提示可以在一定程度上减轻这些偏差，但其有效性不一致。需要更多关注如何解决LLMs应用中的序列效应问题。

论文通过对多个任务和模型进行测试，证实了序列效应在LLMs中的广泛存在。实验结果表明，精心设计提示可以在一定程度上减轻这些偏差，但其有效性不一致。这些发现强调了序列效应在推理过程中的重要性，尤其是在没有基准标签的情况下，需要更多关注解决LLMs应用中的序列效应问题。

最近的相关研究包括《BERT Has a Mouth, and It Must Speak: BERT as a Markov Random Field Language Model》、《On the Ability of Large Transformers to Memorize Random Strings》等。