Know in AdVance: Linear-Complexity Forecasting of Ad Campaign Performance with Evolving User Interest

实时竞价广告商希望提前了解广告活动的预期成本和收益，以避免试错费用。然而，广告活动表现预测（CPF）是一个涉及数万次广告拍卖的序列建模任务，面临着用户兴趣的不断变化、拍卖表示和长期上下文等挑战，使得粗粒度和静态建模方法不够优化。我们提出了AdVance，这是一个时间感知的框架，它集成了本地拍卖级别和全局广告活动级别的建模。用户偏好和疲劳使用点击项的时间位置序列和所有展示项的简洁向量来区分。在疲劳向量的条件下，交叉注意力捕捉了用户对每个候选广告的兴趣动态。竞标者相互竞争，呈现了类似于自注意机制的完全图。因此，我们采用Transformer编码器通过解决辅助任务将每个拍卖压缩为嵌入。然后，这些序列嵌入由条件状态空间模型（SSM）总结，以理解长期依赖性，同时保持全局线性复杂度。考虑到拍卖之间的不规则时间间隔，我们使SSM的参数依赖于当前拍卖嵌入和时间间隔。我们进一步将SSM的全局预测条件化为本地结果的累积。广泛的评估和消融研究证明了它优于最先进的方法。AdVance已经部署在腾讯广告平台上，A/B测试显示平均用户收入（ARPU）有显着提高4.5％。

本论文旨在解决实时竞价广告投放中的广告活动性能预测问题，提高广告主的投放效率。

AdVance是一个时间感知的框架，结合了局部竞价级别和全局广告活动级别建模。使用Transformer编码器将每个竞价压缩为嵌入，再使用条件状态空间模型（SSM）来理解长期依赖性。SSM的参数取决于当前竞价嵌入和时间间隔，全局预测则基于局部结果的累积。同时，使用交叉注意力机制来捕捉用户对每个广告的兴趣动态。AdVance已经在腾讯广告平台上部署，并且经过A/B测试，平均用户收入（ARPU）提高了4.5％。

AdVance框架结合了局部竞价级别和全局广告活动级别建模，使用条件状态空间模型（SSM）来理解长期依赖性。使用交叉注意力机制来捕捉用户对每个广告的兴趣动态。AdVance已经在腾讯广告平台上部署，并且经过A/B测试，平均用户收入（ARPU）提高了4.5％。

在相关研究方面，最近的研究包括基于深度学习的广告投放模型、基于序列建模的广告CTR预测模型等。例如，DeepFM、NFM、DIN、DIEN等。