Llama meets EU: Investigating the European Political Spectrum through the Lens of LLMs

指令微调的大型语言模型具有明显的政治倾向，已经被证明会影响下游任务的表现。我们将这一研究领域扩展到美国两党制以外，并在不同环境下审查 Llama Chat，以分析该模型的政治知识和其在上下文中的推理能力。我们对来自欧洲议会辩论的各个欧洲政党的演讲进行适应性微调，以重新评估其基于 EUandI 问卷的政治倾向。Llama Chat 显示出相当的国家政党立场知识，并能够在上下文中进行推理。经过适应性微调的特定政党模型在相应立场上得到了实质性的重新对齐，我们认为这是使用基于聊天的 LLM 作为数据驱动的对话引擎来协助政治科学研究的起点。

论文旨在扩展研究范围，探究大型语言模型在欧洲政治语境下的政治倾向和推理能力，并通过重新适应模型来解决这个问题。

通过对欧洲议会辩论中各个欧洲政党的演讲进行进一步微调，重新评估Llama Chat的政治倾向，并将其用作数据驱动的对话引擎，以协助政治科学研究。

论文使用了欧洲议会辩论的演讲作为数据集，并通过重新微调模型来解决其政治倾向问题。研究发现，Llama Chat具有相当的国家政党立场知识，并能够在语境中进行推理。

最近的相关研究主要集中在大型语言模型的政治倾向和性别偏见等方面，如《GPT-2与GPT-3的政治倾向》和《大型语言模型中的性别偏见》。