How Susceptible are Large Language Models to Ideological Manipulation?

大型语言模型（LLMs）具有对公众感知和信息互动产生重大影响的潜力。这引发了人们对于这些模型中的意识形态是否容易被操纵的社会影响的担忧。在这项工作中，我们研究了LLMs如何有效地从它们的指令调整数据中学习和推广意识形态偏见。我们的研究结果揭示了一个令人担忧的漏洞：仅接触少量的意识形态驱动样本就会显著改变LLMs的意识形态。值得注意的是，LLMs表现出了惊人的能力，能够吸收一个话题的意识形态并将其推广到与之无关的话题上。LLMs的意识形态易于被扭曲的事实强调了恶意行为者故意毒害训练数据或数据注释者无意中引入偏见所带来的风险。这也强调了减轻意识形态操纵对LLMs影响的必要性。因此，我们需要建立强有力的保障措施。

探讨大型语言模型（LLMs）如何学习和推广意识形态偏见，以及这种偏见的来源和影响。

LLMs容易从训练数据中吸收意识形态偏见，甚至可以将其推广到不相关的话题上。这种易受到恶意操纵的特性需要建立强大的保障机制。

论文发现LLMs容易受到意识形态偏见的影响，只需要少量的样本就可以显著改变其意识形态。此外，LLMs还可以将一个话题的意识形态偏见推广到其他不相关的话题上。这种易受到恶意操纵的特性需要建立强大的保障机制来减少其对社会的影响。

最近的相关研究包括：《语言模型中的隐性偏见》、《使用对抗性样本来减少语言模型中的性别偏见》等。