AnyLoss: Transforming Classification Metrics into Loss Functions

许多评估指标可以用来评估二元分类任务中模型的性能。然而，它们大多数都是从一个非可微的混淆矩阵中导出的，这使得生成一个直接优化它们的可微损失函数非常困难。缺乏解决这一挑战的方法不仅阻碍了我们解决困难的任务，例如不平衡学习，而且还需要在模型选择中部署计算昂贵的超参数搜索过程。在本文中，我们提出了一种通用方法，将任何基于混淆矩阵的指标转换为可用于优化过程的损失函数\textit{AnyLoss}。为此，我们使用一种近似函数将混淆矩阵表示为可微形式，这种方法使得任何基于混淆矩阵的指标都可以直接用作损失函数。提供了近似函数的机制以确保其可操作性，我们通过提出它们的导数证明了我们的损失函数的可微性。我们在许多数据集上使用不同的神经网络进行了广泛的实验，并展示了它们普遍适用于任何基于混淆矩阵的指标。我们的方法在处理不平衡数据集方面表现出了杰出的成就，与多个基线模型相比，其竞争学习速度突出了其效率。

本文旨在解决二分类任务中评估模型性能的评价指标难以直接转化为可微分的损失函数的问题，提出了一种将任何基于混淆矩阵的指标转化为可用于优化过程中的损失函数的通用方法。

本文提出了一种近似函数，将混淆矩阵转化为可微分的形式，从而使任何基于混淆矩阵的指标都可以直接用作损失函数。该方法在处理不平衡数据集方面表现出色，并且与多个基线模型相比具有竞争力的学习速度。

本文的方法可以解决混淆矩阵指标难以转化为可微分损失函数的问题，具有通用性和高效性。实验结果表明该方法在多个数据集和神经网络上都表现良好，并且可以有效处理不平衡数据集。本文提供了近似函数的机制以确保其可操作性，并提供了损失函数的导数证明。

相关研究包括使用混淆矩阵指标进行模型评估的方法，以及尝试将这些指标转化为可微分损失函数的方法。其中一些方法包括Focal Loss、Lovász Loss等。