Does Negative Sampling Matter? A Review with Insights into its Theory and Applications

负采样已经迅速成为研究的焦点，并在机器学习、计算机视觉、自然语言处理、数据挖掘和推荐系统等广泛应用中发挥作用。这种日益增长的兴趣引发了几个关键问题：负采样真的很重要吗？是否有一个通用框架可以整合所有现有的负采样方法？它在哪些领域应用？回答这些问题，我们提出了一个利用负采样的通用框架。通过深入探讨负采样的历史，我们追溯了负采样通过五个演化路径的发展。我们剖析和分类了用于选择负样本候选者的策略，详细介绍了全局、局部、小批量、跳跃和基于记忆的方法。我们的综述将当前的负采样方法分为五类：静态、难样本、基于GAN、辅助式和批内方法，为理解负采样提供了清晰的结构。除了详细分类外，我们还强调了负采样在各个领域的应用，提供了对其实际效益的见解。最后，我们简要讨论了负采样的未解决问题和未来方向。

论文旨在研究负采样在人工智能领域中的应用及其重要性，探讨负采样的发展历程、策略和方法，并提供一般性框架和实际应用。

论文提出了一般性框架，并对负采样的发展历程、策略和方法进行了分类和概括，使人们更好地理解负采样。

论文详细分类了负采样的方法，包括静态、硬采样、基于GAN、基于辅助信息和批内方法，提供了实际应用的见解。此外，论文还讨论了负采样的未来研究方向。

最近的相关研究包括《Negative Sampling for Learning with Large Output Spaces》、《Distributed Representations of Words and Phrases and their Compositionality》等。