Synthetic Tabular Data Generation for Imbalanced Classification: The Surprising Effectiveness of an Overlap Class

在构建表格数据分类器时，处理类别分布不平衡的问题一直是长期关注的焦点。一种流行的方法是通过合成生成的数据来扩充训练数据集。传统的增强技术仅限于现有少数类样本的线性插值，而最近，更高容量的深度生成模型提供了更大的潜力。 然而，在构建深度生成模型时处理类别分布不平衡也是一个具有挑战性的问题，这方面的研究不如不平衡分类模型训练那么深入。我们发现，最先进的深度生成模型生成的少数类样本质量明显低于多数类样本。我们观察到，在不平衡数据集上训练的生成模型会低估少数类的代表性。我们提出了一种新颖的技术，即将二元类别标签转换为三元类别标签，通过引入一个少数类和多数类分布重叠的区域作为新类别。我们证明，仅通过这种对训练集的预处理，就可以显著提高多个最先进扩散模型和基于GAN的模型所生成数据的质量。在使用合成数据训练分类器时，我们将重叠类别从训练数据中移除，并解释了其背后提升准确性的原因。我们在四个真实数据集、五种不同的分类器和五种生成模型上进行了广泛的实验，证明我们的方法不仅增强了最先进模型的合成性能，还提升了分类器的性能。

该论文试图解决在不平衡数据集中训练深度生成模型时，少数类样本质量显著低于多数类样本的问题。这是一个长期存在的问题，但在生成模型中尚未得到充分研究。

论文的关键思路是通过将二元类别标签转换为三元类别标签，引入一个表示少数类和多数类分布重叠区域的类别。这种预处理方法显著提高了生成模型生成少数类样本的质量。相比现有研究，这种方法不仅改善了生成模型的表现，还提升了分类器的性能。

1. 论文展示了在四个真实数据集、五种不同分类器和五种生成模型上的广泛实验，验证了方法的有效性。 2. 提出的方法简单且有效，仅通过预处理步骤就能显著提升生成模型的质量。 3. 实验设计严谨，涵盖了多种生成模型（如扩散模型和GAN）以及分类器，确保结果的普适性。 4. 研究指出，在使用合成数据训练分类器时，移除重叠类别可以进一步提高分类器的准确性。 5. 虽未提及代码开源情况，但该方法易于实现，值得进一步探索其在其他领域的应用。

最近在这个领域中的相关研究包括： 1. 'Balancing GANs for Imbalanced Datasets' 2. 'Imbalanced Data Synthesis with Conditional GANs' 3. 'Handling Class Imbalance in Deep Learning Models' 4. 'Improving Generative Adversarial Networks for Rare Event Generation' 5. 'Synthetic Data Augmentation for Handling Imbalanced Classification'