Pairwise Ranking Loss for Multi-Task Learning in Recommender Systems

多任务学习（MTL）在现实世界的广告应用中扮演着至关重要的角色，如推荐系统，旨在实现强大的表示，同时最小化资源消耗。MTL致力于同时优化多个任务，构建服务于不同目标的统一模型。在在线广告系统中，像点击率（CTR）和转化率（CVR）这样的任务通常被同时视为MTL问题。然而，人们忽视了一个事实，即转化（$y_{cvr}=1$）需要先有点击（$y_{ctr}=1$）。换句话说，虽然某些CTR任务与相应的转化相关联，但其他任务却缺乏这样的关联。此外，与发生转化的CTR任务相比，转化不发生的CTR任务中噪声的可能性显著更高，现有方法缺乏区分这两种情况的能力。在本研究中，与转化相对应的曝光标签被视为明确的指标，并通过计算模型预测之间的成对排序（PWiseR）损失引入了一种新的任务特定损失，表现为成对排名损失，以鼓励模型更多地依赖它们。为了证明所提出的损失函数的效果，使用四个不同的公共MTL数据集（阿里巴巴FR、NL、US和CCP）以及一个专有的工业数据集，在不同的MTL和单任务学习（STL）模型上进行了实验。结果表明，我们提出的损失函数在AUC指标方面在大多数情况下优于BCE损失函数。

提出在CTR和CVR任务同时进行的多任务学习中，存在一些CTR任务没有对应的CVR任务，且现有方法无法区分这两种情况，因此需要一种新的损失函数来解决这个问题。

引入一种新的损失函数——Pairwise Ranking Loss（PWiseR），通过计算模型预测之间的排名损失来鼓励模型更多地依赖转化相关的曝光标签，从而提高模型性能。

实验使用了四个公共MTL数据集和一个专有工业数据集，结果表明，相比于BCE损失函数，本文提出的PWiseR损失函数在大多数情况下在AUC指标上表现更好。

最近的相关研究包括《Deep Multi-Task Learning for Click-Through Rate Prediction》、《Multi-Task Learning for Sequential Recommendation with Implicit Feedback》等。