Generative Echo Chamber? Effects of LLM-Powered Search Systems on Diverse Information Seeking

大型语言模型（LLM）驱动的对话式搜索系统已经被数亿人使用，并被认为比传统搜索带来许多好处。然而，尽管数十年的研究和公共话语已经探讨了搜索系统在增加选择性暴露和创建回声室方面的风险——限制暴露于多样化观点并导致观点极化，但我们对LLM驱动的对话式搜索存在这种风险的了解还很少。我们进行了两个实验来调查：1）LLM驱动的对话式搜索相比传统搜索是否会增加选择性暴露以及如何增加；2）具有支持或挑战用户观点的观点偏见的LLM如何改变效果。总体而言，我们发现参与者在LLM驱动的对话式搜索中更容易进行有偏见的信息查询，而支持其观点的有观点偏见的LLM加剧了这种偏见。这些结果对LLM和对话式搜索系统的开发以及管理这些技术的政策具有重要的影响。

研究LLM-powered conversational search系统是否会增加选择性暴露和创造回音室，以及具有偏见的LLMs是否会加剧这种偏见

通过两个实验发现LLM-powered conversational search系统会增加偏见信息查询，而具有偏见的LLMs会加剧这种偏见

实验设计了两个情境，使用了两个数据集，发现LLM-powered conversational search系统会增加选择性暴露和创造回音室，具有偏见的LLMs会加剧这种偏见。这些结果对LLMs和conversational search系统的开发和政策有重要的影响。

与此相关的研究包括：The Filter Bubble: How the New Personalized Web Is Changing What We Read and How We Think，The Echo Chamber Is Overstated: The Moderating Effect of Political Interest and Diverse Media，Opinion Polarization and the (Mis)Perception of Public Opinion: An Experimental Study