THOI: An efficient and accessible library for computing higher-order interactions enhanced by batch-processing

复杂系统的特点是非线性动态、多层次交互和涌现的集体行为。传统的分析方法往往只关注成对的交互，这通常过于简化了这些系统，忽视了理解其整体动态至关重要的高阶交互。近年来，多元信息理论的进步为量化这些高阶交互提供了一个有原则的框架，捕捉了诸如冗余、协同、共享随机性和集体约束等关键属性。然而，仍存在两大挑战：准确估计联合熵以及应对交互项的组合爆炸。为了解决这些挑战，我们引入了THOI（基于Torch的高阶交互），这是一种新颖、易用且高效的Python库，用于计算连续值系统中的高阶交互。THOI利用了广为人知的高斯Copula方法进行联合熵估计，并结合最先进的批处理和平行处理技术以优化在CPU、GPU和TPU环境中的性能。我们的结果显示，THOI在速度和可扩展性方面显著优于现有工具。对于更大规模的系统，其中详尽分析在计算上是不切实际的，THOI集成了优化策略，使得高阶交互分析成为可能。我们使用具有参数控制交互的合成数据集验证了THOI的准确性，并通过分析清醒静息状态和深度麻醉状态下人类受试者的fMRI数据进一步展示了其实用性。最后，我们分析了超过900个真实世界和合成数据集，建立了一个全面的框架，以应用于复杂系统中的高阶交互（HOI）分析。

该论文试图解决复杂系统分析中传统方法仅关注两两交互作用而忽视更高阶交互作用的问题，特别是准确估计联合熵和应对组合爆炸的挑战。这并非一个全新的问题，但以往的方法在处理大规模连续值系统时效率和准确性不足。

论文的关键思路是引入THOI（Torch-based High-Order Interactions），一个基于Python的新型库，用于计算连续值系统中的高阶交互作用。THOI结合了高斯Copula方法进行联合熵估计，并利用批处理和并行处理技术优化CPU、GPU和TPU环境下的性能。相比现有工具，THOI在速度和可扩展性上显著提升。

亮点包括：1) THOI通过合成数据集验证了其准确性；2) 使用fMRI数据展示了其在实际应用中的价值；3) 分析了超过900个真实和合成数据集，建立了全面的高阶交互分析框架；4) 提供了一个高效且易于使用的工具，适用于更大规模系统的高阶交互分析；5) 开源代码使得研究社区可以进一步改进和应用。

近期相关研究包括：1) 《Multivariate Information Theory for Complex Systems》探讨了多变量信息理论在复杂系统中的应用；2) 《High-Dimensional Entropy Estimation for Continuous Data》研究了高维连续数据的熵估计方法；3) 《Neural Dynamics and Information Processing in the Brain》分析了脑神经动力学与信息处理的关系；4) 《Efficient Computation of Higher-Order Interactions in Biological Networks》聚焦于生物网络中高阶交互作用的高效计算。