基于生成式预训练模型的护理者治疗评估

王璐、穆尼夫·伊沙德·穆吉布、杰克·威廉姆斯、乔治·德米里斯、吉娜·胡约

 

随着智能家居产品的出现和互联网的广泛应用，研究人员越来越多地探索智能计算应用程序，以更方便地访问身体和健康的资源。诸如聊天机器人之类的人工智能系统，有潜力能够提供心理健康支持层面的服务。

然而，现有的心理治疗类聊天机器人，通常是基于检索的，即：向用户回答一组受限的答案。这是不合适的，因为此类预先确定的问题与答案：大都无法反映每个患者的独特情况。

基于生成的方法（如OpenAI GPT模型），相比以往的方法，可以允许在聊天机器人环境中进行更多的动态对话。

为了研究基于生成的预训练模型在心理治疗聊天机器人环境中的潜力，我们使用GPT-2模型构建了一个聊天机器人。我们在痴呆患者的“家庭护理者”、和进行问题解决治疗的“治疗师”之间，微调训练了306个治疗会话记录。然后，我们使用三个元信息（分别是：非单词输出的比例、响应的长度和情感成分）来度量评估模型的预训练和微调模型的基本质量。

结果表明：

（1） 微调模型比预训练模型：能产生更多的非单词输出；

（2） 与预先训练的模型相比，微调模型产生的输出长度更接近治疗师会话的输出长度；

（3） 与治疗师相比，预先训练的模型和微调的模型都可能产生更多的负输出和更少的正输出。

因此，在本文中我们探讨了上述问题的潜在原因、影响，以及开发心理治疗聊天机器人的解决方案，并倡议对类似的AI系统应用进行调研。

 

论文地址：https://arxiv.org/abs/2107.13115

 

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除