论文标题：

Leaving No One Behind: A Multi-Scenario Multi-Task Meta Learning Approach for Advertiser Modeling

论文链接：

https://arxiv.53yu.com/pdf/2201.06814.pdf

广告商在许多电子商务平台中发挥着至关重要的作用。很多模型是基于点击率预测对用户建模，广告商受到的关注相对较少，尤其是在了解他们的多样化需求和表现方面。与用户建模不同，广告客户建模通常涉及多种任务（例如预测广告客户的支出、活跃率或促销产品的总印象数）。此外，各大电商平台往往会提供多种营销场景（如Sponsored Search、Display Ads、Live Streaming Ads），而广告主的行为往往分散在其中。面临这种多任务多场景的情况，主要需要面对以下挑战，

  • 首先，每个场景或每个任务一个模型存在无法扩展的问题；
  • 其次，在数据样本有限的情况下，特别难以对新的或次要的场景进行建模；
  • 第三，场景间的相关性很复杂，并且可能因不同的任务而有所不同。

因此，本文提出了多任务多场景的模型M2M，引入了一个新的元单元(Meta Unit)，它结合了丰富的场景知识来学习明确的场景间相关性，并且可以扩展到新场景。此外，本文提出了一个元注意模块来捕捉给定不同任务的不同场景间相关性，以及一个元塔模块来增强捕捉场景特定特征表征的能力。
本文比较有意思的地方时将场景信息(当然也可以衍生至其他信息)结合到权重中,从而使得不同的场景下可以给各个任务提供不同的权重,具体可见Meta Unit。

M2M方法主要包含三部分：主干网络用于获取特征和任务表征；元学习机制包含元注意力模块和元塔模块来捕获丰富的场景内关系，从而促进特定场景的特征表征能力；基于泊松的多任务学习用泊松损失对多任务进行预测。总体框架如下，

内容中包含的图片若涉及版权问题，请及时与我们联系删除