Interpretable Machine Learning for Weather and Climate Prediction: A Survey

最近，先进的机器学习模型在天气和气候预测方面已经取得了高度的预测准确性。然而，这些复杂的模型通常缺乏内在的透明度和可解释性，表现为“黑匣子”，阻碍用户的信任并阻碍进一步的模型改进。因此，可解释的机器学习技术已成为增强天气和气候建模的可信度和实用性的关键。在这篇综述中，我们回顾了当前应用于气象预测的可解释机器学习方法。我们将方法分为两个主要范式：1）后续可解释性技术，解释预先训练的模型，如基于扰动、基于博弈论和基于梯度的归因方法。2）从头开始设计本质上可解释的模型，使用树集成和可解释的神经网络等架构。我们总结了每种技术如何提供对预测的见解，揭示了机器学习捕捉到的新颖气象关系。最后，我们讨论了与实现与物理原理相一致的更深层次机制解释、开发标准化评估基准、将可解释性整合到迭代模型开发工作流程中以及为大型基础模型提供可解释性的研究挑战。

本论文致力于解决天气和气候预测中机器学习模型的不透明性和解释性问题，提出可解释机器学习技术来增强模型的可信度和实用性。

本论文将可解释机器学习技术分为两种范式：一种是解释预训练模型的后续解释技术，包括基于扰动、博弈论和梯度的归因方法；另一种是从头开始设计可解释模型的范式，如树集成和可解释神经网络。通过这些方法，可以揭示机器学习模型捕捉到的新颖气象关系。

本论文总结了可解释机器学习技术在气象预测中的应用，并讨论了实现更深入机制解释、制定标准化评估基准、将解释性融入迭代模型开发工作流程、为大型基础模型提供可解释性等方面的研究挑战。

最近的相关研究包括：1. K. T. Schenkman等人的“Interpretable Machine Learning for Weather Forecasting: A Review”；2. M. M. Islam等人的“Interpretability of machine learning models for weather and climate prediction: A review of meteorological applications”。