Explainable AI for Embedded Systems Design: A Case Study of Static Redundant NVM Memory Write Prediction

本文研究了可解释人工智能（XAI）在使用机器学习（ML）设计嵌入式系统中的应用。作为案例研究，它解决了静态静默存储预测这一具有挑战性的问题。这涉及仅基于静态程序特征识别冗余的内存写入。消除这样的存储可以通过减少内存访问和总线流量来提高性能和能源效率，特别是在新兴的非易失性存储器技术出现的情况下。为了实现这一目标，我们提出了一种方法，包括：1）开发相关的ML模型以解释静默存储预测，和2）应用XAI来解释这些模型。我们采用了两种最先进的模型无关的XAI方法来分析静默存储的原因。通过案例研究，我们评估了这些方法的有效性。我们发现这些方法提供了静默存储预测的解释，这些解释与以前研究中已知的静默存储发生原因一致。通常，这使我们能够确认在将零常量写入内存的操作中静默存储的普遍性，或在涉及循环归纳变量的操作中不存在静默存储。这表明XAI在分析ML模型在嵌入式系统设计中的决策方面具有潜在的相关性。从案例研究中，我们分享了一些有价值的见解和我们遇到的陷阱。更一般地说，这项研究旨在为未来在XAI领域的嵌入式系统设计方面的研究奠定基础。

本论文旨在研究eXplainable Artificial Intelligence (XAI)在采用机器学习（ML）进行嵌入式系统设计中的应用。具体来说，通过静态程序特征识别冗余内存写操作（称为静默存储器写入预测），并提出了一种方法论，包括开发相关的ML模型以解释静默存储器写入预测，并应用XAI解释这些模型。

该论文的关键思路是通过开发相关的ML模型和应用XAI方法来解释静默存储器写入预测，并在嵌入式系统设计中实现这一目标。相对于当前领域的研究，该论文的思路在于将XAI应用于嵌入式系统设计中的ML模型解释。

该论文使用了两种最先进的模型无关XAI方法来分析静默存储器写入的原因，并通过案例研究评估了这些方法的有效性。实验结果表明，这些方法提供了静默存储器写入预测的解释，这些解释与先前研究中已知的静默存储器发生原因一致。该论文还分享了一些有价值的见解和注意事项，并为未来的XAI在嵌入式系统设计中的研究奠定了基础。

在这个领域中，最近的相关研究包括：1. 'Explainable Artificial Intelligence: Understanding, Visualizing and Interpreting Deep Learning Models'；2. 'Explainable AI for Trees: From Local Explanations to Global Understanding'；3. 'Towards Explainable Artificial Intelligence (XAI): A Survey of Existing Approaches'等。