Interaction Asymmetry: A General Principle for Learning Composable Abstractions

学习概念的解缠表示并在未见过的方式中重新组合它们，对于泛化到领域外的情况至关重要。然而，使这种解缠和组合泛化成为可能的概念的基本属性仍然理解不足。在这项工作中，我们提出了交互不对称性原则，即：“同一概念的部分之间的相互作用比不同概念的部分之间的相互作用更复杂”。我们通过在将概念映射到观测数据的生成器的第 (n+1) 阶导数上施加块对角条件来形式化这一点，其中不同的“复杂度”等级对应于不同的 n 值。利用这一形式化方法，我们证明了交互不对称性能够实现解缠和组合泛化。我们的结果统一了最近关于学习对象概念的理论成果，这些成果被证明是作为特殊情况在 n=0 或 1 时得到的。我们提供了直到 n=2 的结果，从而将这些先前的工作扩展到更灵活的生成函数，并推测相同的证明策略可以推广到更大的 n 值。实际上，我们的理论建议，为了解缠概念，自编码器应惩罚其潜在容量以及概念之间的相互作用。我们提出了一种使用基于Transformer的变分自编码器（VAE）实现这些标准的方法，并对解码器的注意力权重施加了一个新的正则化器。在由对象组成的合成图像数据集上，我们提供了证据表明，该模型可以在与现有使用更显式对象中心先验的模型相当的水平上实现对象解缠。

该论文旨在解决如何在概念表示中实现解缠和组合泛化的问题，特别是在处理未见过的情境时。这是一个在机器学习和表征学习领域长期存在的问题。

论文提出了“交互不对称性”原则，即同一概念的部分之间的交互比不同概念的部分之间的交互更复杂。通过形式化这一原则，作者证明了交互不对称性能够促进解缠和组合泛化。这一思想为理解概念解缠提供了新的视角，并且可以应用于更复杂的生成函数。

论文通过数学推导证明了交互不对称性对解缠和组合泛化的贡献，扩展了先前的工作到更高阶的复杂度。此外，作者提出了一种基于Transformer的变分自编码器（VAE）模型，并引入了一个新的正则化项来惩罚潜在空间中的概念交互。实验结果显示，该模型在合成图像数据集上能够实现与现有对象中心先验方法相当的解缠效果。论文还提供了开源代码，方便其他研究者复现和进一步研究。

近年来，关于概念解缠和组合泛化的研究逐渐增多。例如，《Disentangled Representation Learning with Wasserstein Auto-Encoders》和《Compositional Generalization Through Meta-Learning》等论文都探讨了类似的问题。这些研究主要集中在如何通过不同的网络结构和损失函数设计来实现更好的解缠和泛化能力。