Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era

可解释性人工智能（XAI）指的是提供人类可理解的洞见，以了解人工智能模型的工作原理的技术。最近，XAI的焦点正在扩展到大型语言模型（LLMs）上，这些模型经常因缺乏透明度而受到批评。这种扩展需要对XAI方法进行重大转变，原因有两个。首先，由于LLMs的复杂性和先进能力，许多现有的XAI方法不能直接应用于LLMs。其次，随着LLMs在各种行业应用中的不断部署，XAI的作用从仅仅打开“黑匣子”转变为积极增强LLMs在现实世界中的生产力和适用性。同时，与传统的机器学习模型 passively 接收 XAI 洞见不同，LLMs 的独特能力可以相互增强 XAI。因此，在本文中，我们通过分析（1）XAI如何有益于LLMs和人工智能系统，以及（2）LLMs如何有助于XAI的发展，介绍了在LLMs背景下可用的XAI。我们介绍了10种策略，介绍了每种策略的关键技术，并讨论了它们所涉及的挑战。我们还提供了案例研究，演示如何获取和利用解释。本文中使用的代码可以在以下网址找到：https://github.com/JacksonWuxs/UsableXAI_LLM。

论文旨在介绍可解释的人工智能（XAI）在大型语言模型（LLMs）中的应用，探讨如何提高LLMs的生产力和适用性。

论文提出了可用的XAI方法，旨在分析XAI如何有利于LLMs和人工智能系统，并探讨LLMs如何促进XAI的发展。论文介绍了10种策略，并提供了案例研究来演示如何获取和利用解释。

论文介绍了XAI在LLMs中的应用，探讨了LLMs如何促进XAI的发展，并提供了10种策略和案例研究。代码已经开源。

最近的相关研究主要集中在XAI和LLMs的结合上，例如“Explainable AI for Large Language Models: A Review”和“Interpretability of Large Language Models”。