DTN: Deep Multiple Task-specific Feature Interactions Network for Multi-Task Recommendation

神经网络多任务学习（MTL）已成功应用于许多推荐应用中。然而，这些MTL模型（例如MMoE，PLE）在优化过程中没有考虑特征交互，这对于捕捉复杂的高阶特征至关重要，并且已经广泛用于实际推荐系统的排名模型中。此外，通过在MTL中跨各种任务进行特征重要性分析，我们观察到了一个有趣的分歧现象，即相同的特征在MTL中在不同任务中的重要性可以有显著不同。为了解决这些问题，我们提出了具有新型模型结构设计的Deep Multiple Task-specific Feature Interactions Network（DTN）。DTN引入了多个多样化的任务特定特征交互方法和任务敏感网络，使模型能够学习任务特定的多样化特征交互表示，从而提高了一般设置中的联合表示学习效率。我们将DTN应用于公司的实际电子商务推荐数据集，该数据集包含超过63亿个样本，结果表明DTN明显优于最先进的MTL模型。此外，在大规模电子商务推荐系统中在线评估DTN时，我们观察到与最先进的MTL模型相比，点击率增加了3.28％，订单增加了3.10％，GMV（总商品价值）增加了2.70％。最后，对公共基准数据集进行的广泛离线实验表明，DTN可以应用于超出推荐范围的各种情景，从而提高排名模型的性能。

本论文旨在解决多任务学习模型中特征交互优化的问题，并探究多任务学习中的特征重要性分析和差异现象。

论文提出了一种新型的深度多任务特定特征交互网络（DTN）结构，引入多元化的任务特定特征交互方法和任务敏感网络，以提高联合表示学习的效率。

论文使用了公司真实的电商推荐数据集进行实验，并在大规模电商推荐系统的在线评估中观察到DTN相对于现有的多任务学习模型的显著提升。此外，论文还进行了广泛的离线实验，证明DTN可以应用于各种场景，提高排名模型的性能。

相关研究包括MMoE和PLE等多任务学习模型，以及用于实现复杂高阶特征的特征交互技术。