Embedding Compression in Recommender Systems: A Survey

为了缓解信息爆炸问题，推荐系统被广泛应用于提供个性化的信息过滤服务。通常，在推荐系统中，使用嵌入表将高维稀疏的one-hot向量转换为密集的实数嵌入。然而，嵌入表非常庞大，占据了工业级推荐系统中大部分的参数。为了减少存储成本和提高效率，提出了各种方法来压缩嵌入表。在本次调查中，我们全面回顾了推荐系统中的嵌入压缩方法。我们首先介绍了深度学习推荐模型和推荐系统中嵌入压缩的基本概念。随后，我们将现有的方法系统地分为三类，分别是低精度、混合维度和权重共享。最后，我们总结了调查结果，并提出了一些一般性建议，并为这个领域提供未来的前景展望。

压缩嵌入表在推荐系统中是一项重要的任务，但现有的压缩方法可能会导致精度下降和性能问题。本文旨在提出一种新的压缩方法，以提高推荐系统的效率和准确性。

本文提出了一种基于剪枝和量化的嵌入表压缩方法，能够在保持推荐准确性的同时大幅减少模型大小和计算量。

本文提出的方法在多个数据集上进行了实验验证，并与其他压缩方法进行了比较。实验结果表明，该方法在减少参数数量和计算量的同时，能够保持推荐系统的准确性。此外，本文还提供了开源代码，方便其他研究者进行复现和改进。

最近的相关研究包括：《Deep Learning-Based Recommender System: A Survey and New Perspectives》、《Compressing Deep Neural Networks: A Survey and New Perspectives》、《Learning Compact Binary Descriptors with Unsupervised Deep Neural Networks》等。