Investigating Imperceptibility of Adversarial Attacks on Tabular Data: An Empirical Analysis

对于机器学习模型来说，对抗攻击是一种潜在威胁，因为它们可以通过向输入数据引入不可察觉的扰动来导致模型做出错误的预测。虽然在非结构化数据（如图像）中进行了广泛研究，但在结构化数据（如表格数据）中应用这种攻击面临着独特的挑战，因为表格数据具有异构性和复杂的特征相互依赖性。表格数据中的不可察觉性涉及保持数据完整性，同时可能导致错误分类，强调了需要针对表格数据量身定制的不可察觉性标准。然而，目前缺乏针对表格数据的对抗攻击评估的标准化指标。为了解决这一问题，我们提出了一组用于评估表格数据上对抗攻击不可察觉性的属性。这些属性被定义为捕捉扰动数据的七个方面：与原始输入的接近程度、扰动的稀疏性、与原始数据集中数据点的偏差、对敏感特征的影响、扰动的不可变性、扰动值的可行性以及表格特征之间的复杂特征相互依赖性。此外，我们对七个属性进行了定量实证评估和基于案例的定性示例分析。评估揭示了攻击成功和不可察觉性之间的权衡，特别是在接近程度、敏感性和偏差方面。虽然没有评估的攻击可以同时实现最佳效果和不可察觉性，但对于表格数据来说，无界攻击在制作不可察觉的对抗示例方面更有前途。该研究还强调了评估算法在有效控制稀疏性方面的局限性。我们建议在未来的攻击设计中加入稀疏度指标，以调节扰动特征的数量。

评估针对表格数据的对抗攻击的不可察觉性的标准度量指标缺乏，因此本文旨在提出一组用于评估表格数据对抗攻击不可察觉性的属性。

本文提出了一组属性来评估表格数据上的对抗攻击的不可察觉性，包括原始输入的接近程度、改变的稀疏性、与原始数据集中数据点的偏差、对敏感特征的影响、扰动的不可变性、扰动值的可行性以及表格特征之间的复杂特征相互依赖性。

本文通过定量实证评估和基于案例的定性示例分析了七个属性。评估揭示了攻击成功和不可察觉性之间的权衡，特别是涉及接近程度、敏感性和偏差。尽管没有评估的攻击可以同时实现最佳效果和不可察觉性，但无界攻击在制作不可察觉的对抗示例方面更具有前途。该研究还强调了评估算法在有效控制稀疏性方面的局限性。建议在未来的攻击设计中加入稀疏度度量来调节扰动特征的数量。

相关研究包括针对对抗攻击的防御方法、不同类型数据上的对抗攻击、评估对抗攻击的不可察觉性的度量指标等。例如，Papernot等人提出了一种基于生成对抗网络的对抗攻击方法，用于攻击图像分类器。