The Good, The Bad, and Why: Unveiling Emotions in Generative AI

情绪显著影响我们的日常行为和互动。虽然最近的生成AI模型（如大型语言模型）在各种任务中表现出了令人印象深刻的性能，但它们是否真正理解情感仍不清楚。本文旨在通过结合心理学理论，以获得对生成AI模型中情感的整体理解，从而填补这一空白。具体而言，我们提出了三种方法：1）EmotionPrompt以提高AI模型性能，2）EmotionAttack以削弱AI模型性能，3）EmotionDecode以解释情感刺激的影响，包括良性和恶性。通过在语言和多模型上进行广泛的实验，包括语义理解、逻辑推理和生成任务，我们证明了文本和视觉EmotionPrompt都可以提高AI模型的性能，而EmotionAttack则会阻碍其性能。此外，EmotionDecode揭示了AI模型可以理解类似于人脑中多巴胺机制的情感刺激。我们的工作为探索心理学以增强我们对生成AI模型的理解开辟了一条新的途径。本文是我们之前工作EmotionPrompt（arXiv:2307.11760）的扩展版本。

本文试图通过结合心理学理论，探究生成式人工智能模型对情感的理解程度，并提出三种方法来验证这一点。

本文提出了三种方法：EmotionPrompt，EmotionAttack和EmotionDecode，通过在语言和多模态模型上的实验，证明了情感刺激可以像人脑中的多巴胺机制一样影响AI模型的表现。

本文的亮点包括提出了新的方法来探究AI模型对情感的理解程度，并在实验中展示了这些方法的有效性。实验使用了语言和多模态数据集，并开源了代码。本文为探究AI模型对情感的理解程度开辟了新的研究方向。

在这个领域中，最近的相关研究包括：GPT-3的语言生成能力、多模态情感分析模型的发展、情感对于AI模型的影响等。