The Lock-in Hypothesis: Stagnation by Algorithm

大语言模型（LLMs）的训练和部署与人类用户之间形成了一种反馈循环：模型从数据中学习人类的信念，通过生成的内容强化这些信念，重新吸收被强化的信念，并一次又一次地将它们反馈给用户。这种动态类似于回声室效应。我们假设，这种反馈循环会加深用户现有的价值观和信念，从而导致多样性丧失，甚至可能固化一些错误的信念。我们对这一假设进行了形式化，并通过基于代理的LLM模拟以及真实世界的GPT使用数据进行实证测试。分析显示，在新版本GPT发布后，多样性出现了突然但持续的下降，这与所假设的人类与AI之间的反馈循环一致。代码和数据可在以下网址获取：https://thelockinhypothesis.com

论文试图验证大型语言模型（LLMs）与人类用户之间的反馈循环是否会形成信念的‘锁定效应’，即通过不断强化现有信念而导致多样性下降和错误信念的固化。这是一个相对较新的问题，关注的是AI系统对社会信息生态的长期影响。

论文提出了一种形式化的假设，并通过结合代理模拟和真实GPT使用数据进行实证分析。其关键思路在于揭示LLM生成内容如何与人类用户的信念相互作用，从而导致信息多样性的减少。相比以往研究，该论文首次从动态反馈角度探讨了LLM的社会影响。

实验设计包括基于代理的LLM模拟以及对实际GPT使用数据的分析，结果表明新GPT版本发布后，信息多样性出现了显著且持续的下降。此外，代码和数据均已开源（https://thelockinhypothesis.com），为后续研究提供了宝贵资源。值得进一步研究的方向包括如何打破这种反馈循环，以及探索其他类型AI系统的类似影响。

相关研究包括：1) 'The Feedback Loop Between Social Media Algorithms and Polarization' 探讨社交媒体算法如何加剧极化；2) 'Echo Chambers in Recommender Systems' 研究推荐系统中的回声室效应；3) 'Cognitive Bias in AI-Generated Content' 分析AI生成内容中的认知偏差。这些研究共同构成了理解AI与社会互动的基础。