Investigating the Robustness of Counterfactual Learning to Rank Models: A Reproducibility Study

计数事实学习排序（CLTR）因其利用大规模用户交互数据训练排序模型的能力，在信息检索界引起了广泛关注。虽然当用户行为假设正确且倾向估计准确时，CLTR模型在理论上可以是无偏的，但由于缺乏广泛可用的大规模真实点击日志，它们的有效性通常是通过基于模拟的实验进行经验评估的。然而，主流的基于模拟的实验有一定局限性，因为它们经常只有一个确定的生产排名器和简化的用户模拟模型来生成合成点击日志。因此，CLTR模型在复杂和多样化情况下的鲁棒性大部分是未知的，需要进一步研究。为了解决这个问题，本文旨在通过广泛的基于模拟的实验来调查现有CLTR模型的鲁棒性，并使用（1）具有不同排名性能的确定性和随机性生产排名器，以及（2）利用具有不同用户行为假设的多个用户模拟模型。我们发现，在各种模拟设置下，DLA模型和IPS-DCM表现出更好的鲁棒性，而IPS-PBM和具有离线倾向估计的PRS则表现不佳。此外，当生产排名器具有相对较高的排名性能或某些随机性时，现有的CLTR模型通常无法超越简单的点击基线，这表明需要开发适用于这些情况的新的CLTR算法。

本论文旨在通过大量基于模拟的实验，探究现有的计数事实学习排序(CLTR)模型在不同情况下的鲁棒性，进而解决CLTR模型在复杂和多样化情况下的有效性问题。

本论文通过使用不同的确定性和随机性生产排名器以及多个用户模拟模型，探究现有CLTR模型的鲁棒性。结果表明，DLA模型和IPS-DCM模型在各种模拟环境下表现更好。而当生产排名器具有相对较高的排名性能或某种随机性时，现有CLTR模型往往无法优于简单的点击基线，这表明需要开发适用于这些情况的新CLTR算法。

论文使用大量基于模拟的实验来探究现有CLTR模型的鲁棒性，对比了不同的生产排名器和用户行为模型。实验结果表明DLA模型和IPS-DCM模型表现更好。论文指出现有CLTR模型在某些情况下无法优于简单的点击基线，需要进一步研究。

与本论文相关的研究包括：1.《A Reinforcement Learning Framework for Explainable Recommendation》 2.《Counterfactual Learning-to-Rank with Gated Linear Networks》 3.《Offline Evaluation of Ranking Policies with Click Models》等。