Editing Personality for Large Language Models

本文介绍了一个创新性任务，即编辑大型语言模型（LLMs）的个性特征。该任务旨在调整模型对特定主题的意见相关问题的回答，因为个人的个性常常表现为他们表达的观点，从而展示不同的个性特征。具体而言，我们构建了一个新的基准数据集PersonalityEdit来解决这个任务。借鉴社会心理学理论，我们将神经质、外向性和宜人性三种代表性特质作为我们基准的基础。然后，我们使用GPT-4收集数据，生成不仅与指定主题相一致，而且体现目标个性特质的回答。我们进行了包括各种基线的全面实验，并讨论了LLMs中个性行为的表示。我们有趣的发现揭示了所提出任务的潜在挑战，说明了几个剩余问题。我们期望我们的工作能够为NLP社区提供见解。代码和数据集可在https://github.com/zjunlp/EasyEdit上获得。

该论文试图通过编辑大型语言模型（LLMs）的个性特征来调整其对特定主题的意见回答，以解决个性对意见表达的影响问题。这是一个新问题。

该论文提出了一种新的任务，即利用社会心理学理论，通过构建新的基准数据集PersonalityEdit来隔离三种代表性的个性特征（神经质、外向性和宜人性），并使用GPT-4生成符合特定主题且体现目标个性特征的回答，从而编辑LLMs的个性特征。

该论文的实验设计包括多个基线模型，并探讨了LLMs中个性行为的表示。研究结果揭示了该任务可能面临的挑战和存在的问题，并提供了开源代码和数据集。值得深入研究的是，该论文的方法可以为NLP社区提供新的思路和见解。

最近在该领域中的相关研究包括：1. Fine-tuning语言模型以实现个性化回答；2. 基于情感分析的个性化对话生成。