Under the Hood of Tabular Data Generation Models: the Strong Impact of Hyperparameter Tuning

我们通过对16个数据集进行广泛基准测试，研究了数据集特定超参数、特征编码和架构调整对五个最近的表格数据生成模型家族的影响。这项研究解决了实际需要对模型进行统一评估，并充分考虑超参数优化的问题。此外，我们为每个模型提出了一个缩小的搜索空间，可以快速优化，以显著降低成本并实现几乎相同的性能。我们的基准测试表明，对于大多数模型，大规模数据集特定调整可以显著提高性能，相比原始配置。此外，我们确认扩散模型在表格数据上通常优于其他模型。然而，当整个调整和训练过程被限制在所有模型的相同GPU预算下时，这种优势并不显著。

本论文旨在通过在16个数据集上进行广泛的基准测试，研究数据集特定超参数、特征编码和架构调整对五个最近的表格数据生成模型家族的影响。同时，论文提出了每个模型的简化搜索空间，以实现快速优化，从而在显著降低成本的情况下实现几乎相同的性能。

论文的关键思路是通过数据集特定的超参数调整来优化表格数据生成模型的性能。此外，论文还发现扩散模型在表格数据上的性能优于其他模型。

论文通过广泛的基准测试发现，对于大多数模型，进行大规模的数据集特定调整可以显著提高性能。此外，论文还发现扩散模型在表格数据上的性能优于其他模型。论文提出了每个模型的简化搜索空间，以实现快速优化，从而在显著降低成本的情况下实现几乎相同的性能。论文的实验设计详细，使用了16个数据集，并提供了开源代码。

在这个领域中，最近的相关研究包括：1）《Tabular Data Generation with Generative Adversarial Nets》；2）《Autoencoder-based Tabular Data Generation for Data Augmentation》；3）《GAN-based Synthetic Tabular Data Generation for Medical Data》等。