LLMs for XAI: Future Directions for Explaining Explanations

简介

我们针对对可解释人工智能（XAI）的需求，研究了使用大型语言模型（LLMs）将机器学习（ML）解释转化为自然、可读的叙述的方法。我们不是直接使用LLMs来解释ML模型，而是专注于优化使用现有XAI算法计算的解释。我们概述了几个研究方向，包括定义评估指标、提示设计、比较LLM模型、探索更多的训练方法和整合外部数据。初步的实验和用户研究表明，LLMs提供了一种有前途的方法来增强XAI的可解释性和可用性。
作者讲解

目前尚无作者解读视频，你可点击下方【许愿开讲】按钮，许愿作者开讲~
图表
解决问题

本论文探讨如何使用大型语言模型（LLMs）将机器学习解释转化为自然、易读的人类叙述，以解决可解释人工智能（XAI）的需求。
关键思路

本论文的关键思路是通过优化现有XAI算法计算出的解释，使用LLMs转化为自然语言，从而提高可解释性和可用性。
其它亮点

论文提出了几个研究方向，包括定义评估指标、提示设计、比较LLM模型、探索更多训练方法和整合外部数据。实验和用户研究表明，LLMs为提高XAI的可解释性和可用性提供了一种有前途的方法。
相关研究

最近的相关研究包括使用LLMs进行自然语言生成的研究，以及使用其他方法进行XAI的研究，如图形模型和符号推理。