An Explainable AI Approach to Large Language Model Assisted Causal Model Auditing and Development

因果网络被广泛应用于许多领域，包括流行病学、社会科学、医学和工程学，以建立变量之间的复杂关系模型。虽然从观察数据中直接算法推断这些模型可能很方便，但是所得到的网络通常会存在错误的边缘。审核和纠正这些网络可能需要领域专业知识，但分析人员经常无法获得这些知识。我们提出使用大型语言模型（如ChatGPT）作为因果网络的审核员。我们的方法是向ChatGPT呈现一个因果网络，每次一个边缘，以产生关于边缘方向性、可能的混淆因素和中介变量的见解。我们要求ChatGPT反思每个因果链接的各个方面，然后生成可视化图表，以总结人类分析师的观点，以指导边缘的方向、收集更多数据或进一步测试假设。我们设想一个系统，大型语言模型、自动因果推断和人类分析师和领域专家共同合作，作为一个团队为任何给定的案例场景推导出全面的因果模型。本文介绍了一个新兴原型的首批结果。

本论文旨在提出一种使用大型语言模型（如ChatGPT）作为因果网络的审计员的方法，以纠正因果网络中的错误边缘。该方法能够为人类分析师和领域专家提供综合和全面的因果模型。

论文的关键思路是使用ChatGPT等大型语言模型作为因果网络的审计员，逐个边缘地进行分析，以确定边缘的方向性、可能的混淆因素和中介变量，并为人类分析师提供可视化结果。

论文的实验结果表明，该方法可以成功地纠正因果网络中的错误边缘，并提供了可视化结果以帮助人类分析师进一步研究和验证。该方法还提供了一种新的方式来审查因果网络，并将大型语言模型与自动因果推断和人类分析师和领域专家相结合。

最近的相关研究包括因果推断、因果网络建模和大型语言模型的应用。例如，J. Peters等人提出了一种基于因果推断的因果网络建模方法。另外，大型语言模型的应用也是当前研究的热点，例如OpenAI的GPT模型和Google的BERT模型。