Integrating Supervised Extractive and Generative Language Models for Suicide Risk Evidence Summarization

我们提出了一种方法，结合有监督的抽取和生成式语言模型，为CLPsych 2024共享任务提供自杀风险支持证据。我们的方法包括三个步骤。首先，我们构建了一个基于BERT的模型，用于估计句子级的自杀风险和负面情绪。接下来，我们通过强调自杀风险和负面情绪的概率，精确地确定高自杀风险句子。最后，我们使用MentaLLaMa框架集成生成式摘要和从高自杀风险句子和专门的自杀风险词典中提取的抽取式摘要。我们的团队SophiaADS在突出显示提取方面排名第一，在摘要生成方面排名第十，这两个排名分别基于召回率和一致性指标。

本论文旨在提供一种整合有监督抽取和生成语言模型的方法，以提供自杀风险的支持证据。

论文的关键思路是通过构建基于BERT的模型来估计句子级别的自杀风险和负面情绪，然后精确地识别具有高自杀风险的句子，并结合MentaLLaMa框架的生成式摘要和基于专门的自杀风险词典和识别出的高自杀风险句子的抽取式摘要。

该论文的亮点包括在CLPsych 2024共享任务中，SophiaADS团队在突出显示提取方面排名第一，在摘要生成方面排名第十。论文使用了基于BERT模型的有监督抽取和生成语言模型，以及MentaLLaMa框架和自杀风险词典。值得进一步研究的是如何进一步提高生成式摘要的性能。

在最近的相关研究中，也有一些关于自杀风险的研究，例如“Using Social Media to Assess Suicide Risk: A Review of Current Methods and Novel Opportunities”和“Predicting Adolescent Suicide Attempts with Neural Networks and Language Models”。