TaskMet: Task-Driven Metric Learning for Model Learning

深度学习模型通常被部署在训练过程可能不知道的下游任务中。例如，仅为实现准确预测而训练的模型可能难以在下游任务中表现良好，因为看似小的预测误差可能会导致严重的任务错误。标准的端到端学习方法是使任务损失可微分或引入可微分的替代损失，以便模型进行训练。在这些设置中，需要仔细平衡任务损失和预测损失，因为它们可能具有冲突的目标。我们建议将任务损失信号提升到模型参数的一个更深层次，并用它来学习模型训练的损失函数的参数，这可以通过在预测空间中学习度量来完成。这种方法不会改变最优预测模型本身，而是改变模型学习，以强调对下游任务重要的信息。这使我们能够实现两全其美：在原始预测空间中训练的预测模型，同时对所需的下游任务也有价值。我们通过在两个主要设置中进行的实验验证了我们的方法：1）涉及组合优化和预算分配的决策焦点模型学习场景，以及2）在具有干扰状态的嘈杂环境中进行的强化学习。可用于复制我们的实验的源代码可在https://github.com/facebookresearch/taskmet中获得。

论文旨在解决深度学习模型在下游任务中表现不佳的问题，尤其是在任务损失和预测损失的目标存在冲突的情况下。通过使用任务损失信号来学习模型训练的损失函数参数，以在保持准确预测的同时提高下游任务的表现。

论文的关键思路是通过在预测空间中学习度量来学习损失函数参数，从而提高模型在下游任务中的表现。这种方法不会改变最优预测模型本身，而是改变了模型学习的重点，以强调对下游任务重要的信息。

论文通过实验验证了该方法在两个主要场景下的有效性：1）决策焦点模型学习场景，包括投资组合优化和预算分配，2）在具有干扰状态的嘈杂环境中进行强化学习。论文提供了开源代码以重现实验，并提出了未来工作的方向，例如将该方法应用于其他类型的深度学习模型和任务中。

在相关研究中，也有一些关注于深度学习模型在下游任务中的表现问题的研究。例如，一些研究提出了使用对抗性训练来提高模型的鲁棒性，另一些研究则提出了使用元学习来加速模型在新任务上的学习。