Generalizing Orthogonalization for Models with Non-linearities

黑匣子算法的复杂性可能会导致各种挑战，包括引入偏见。这些偏见在算法应用中会带来直接风险。例如，已经证明神经网络可以仅从患者的X光扫描中推断出种族信息，这是医学专家无法做到的任务。如果医学专家不知道这个事实，基于这个算法的自动决策可能会导致仅仅根据种族信息开出一种治疗方案。虽然当前的方法允许神经网络在这方面进行“正交化”或“归一化”，但现有方法基于线性模型。我们的论文通过引入对于ReLU激活等非线性的校正，推进了这一话题的讨论。我们的方法还包括标量和张量值预测，方便其集成到神经网络架构中。通过广泛的实验，我们验证了我们的方法在保护广义线性模型中的敏感数据、对元数据进行归一化卷积神经网络以及纠正不需要的属性的预先存在的嵌入方面的有效性。

解决黑盒算法中存在的偏差问题，特别是针对神经网络在医疗领域可能引入的种族偏差问题。

提出一种非线性校正方法，可以对神经网络中的ReLU激活函数进行校正，以消除敏感数据的偏差。

论文的方法在广义线性模型、卷积神经网络和预先存在的嵌入中进行了验证，证明了其有效性。实验使用了多个数据集，包括医疗数据集和元数据集。论文提供了开源代码。

最近的相关研究包括“基于深度学习的种族和性别分类问题”和“使用对抗训练消除神经网络中的种族偏差”等论文。