Concept Induction: Analyzing Unstructured Text with High-Level Concepts Using LLooM

数据分析师长期以来一直试图将非结构化文本数据转化为有意义的概念。尽管主题建模和聚类是常见的方法，但它们关注的是较低级别的关键词，并需要进行大量的解释性工作。我们引入了概念归纳，这是一个计算过程，它从非结构化文本中产生高级概念，这些概念由明确的包含标准定义。对于一组有毒的在线评论数据集，其中最先进的BERTopic模型输出“女性、权力、女性”，概念归纳则产生了高级概念，如“对传统性别角色的批评”和“忽视女性的关切”。我们提出了LLooM，这是一个概念归纳算法，它利用大型语言模型来迭代地合成样本文本，并提出越来越一般化的可解释的概念。然后，我们在一个混合式启发式文本分析工具中实现了LLooM，使分析师能够将注意力从解释主题转移到理论驱动的分析上。通过技术评估和四个分析场景，从文献综述到内容审核，我们发现LLooM的概念在质量和数据覆盖范围方面优于主题模型的先前技术。在专家案例研究中，LLooM帮助研究人员从熟悉的数据集中发现新的见解，例如在一个政治社交媒体数据集中提出了一个以前未被注意到的攻击反对党立场的概念。

论文试图通过概念归纳来提高文本数据分析的效率和准确性，解决低级别关键词聚类的问题。

通过使用大型语言模型，提出LLooM概念归纳算法，从样本文本中迭代地综合提出越来越一般化的人类可解释的概念。

论文使用LLooM算法在四个分析场景中进行了实验，结果表明LLooM概念归纳算法在质量和数据覆盖范围方面优于传统的主题模型。实验结果还表明，LLooM算法可以帮助研究人员从熟悉的数据集中发现新的见解。

最近的相关研究包括主题模型和聚类等传统文本分析方法，以及使用大型语言模型的新兴方法。