Mitigating Hallucination in Fictional Character Role-Play

角色扮演在客户支持、具象化代理、计算社会科学等领域有广泛的应用。大型语言模型（LLMs）的参数世界知识对角色扮演角色的影响通常会导致角色表现出不符合其角色特点的行为，并出现超出其知识范围的幻觉。在这项工作中，我们专注于评估和减轻虚构角色扮演中的幻觉。我们介绍了一个包含超过2,000个角色和72,000个访谈的数据集，其中包括18,000个对抗性问题。我们提出了一种角色扮演方法RoleFact，通过调节预先校准的置信度阈值，调节参数化知识的影响来减轻幻觉。实验表明，所提出的方法对于对抗性问题，生成响应的事实精度提高了18％，对于时间敏感的访谈，时间幻觉减少了44％。代码和数据集将在https://github.com/NafisSadeq/rolefact.git上提供。

如何在虚构角色扮演中减少幻觉？

使用预先校准的置信度阈值来调节参数知识的影响，提高生成响应的事实准确性和降低时间幻觉

提出了RoleFact方法来减少幻觉，使用超过2000个角色和72000次采访的数据集进行评估，包括18000个对抗性问题，提高了生成响应的事实准确性18%，降低了时间敏感采访的时间幻觉44%

最近的相关研究包括《Learning to Learn from Narrated Instruction》和《Towards Controlled Generation of Text》