A General Algorithm for Detecting Higher-Order Interactions via Random Sequential Additions

2025年12月12日
  • 简介
    许多系统中,其组成部分之间表现出复杂的相互作用:某些特征或行为会彼此增强效果,另一些则提供冗余信息,还有一些则独立地发挥作用。我们提出一种简单的几何方法来识别这些相互作用和冗余:当元素以随机的顺序依次加入,并在多次试验中绘制其贡献值时,会出现典型的L形模式,直接反映出交互结构。该方法量化了每个元素的贡献如何依赖于此前已加入的元素,从而在统一的尺度上揭示出相互作用、独立性和冗余性的模式。当将成对元素的贡献可视化为二维点云时,具有冗余关系的元素对会形成L形图案,其中只有先加入的元素产生贡献;而具有协同效应的元素对也会形成L形图案,但只有当两个元素同时存在时才产生贡献;独立元素则呈现出与加入顺序无关的分布。我们通过“L分数”(L-score)对这一现象进行形式化描述:这是一个从$-1$(完全协同,例如$Y=X_1X_2$)到$0$(独立性)再到$+1$(完全冗余,例如$X_1 \approx X_2$)的连续度量。L形两条臂的相对长度可揭示特征的主导性,即哪个元素始终提供更多信息。尽管该方法仅基于成对测量计算,但三个或更多元素之间的高阶相互作用会通过各元素对之间一致的关系(如AB、AC、BC)自然浮现出来。该方法不依赖特定度量标准,广泛适用于任何可以在非重复元素序列上逐步评估性能的领域,为揭示交互结构提供了一种统一的几何分析途径。
  • 作者讲解
  • 图表
  • 解决问题
    论文试图解决如何在复杂系统中识别组件之间的相互作用(如协同、冗余和独立性)的问题。这类问题在许多领域(如机器学习特征分析、基因调控网络、多变量系统建模)中普遍存在,但传统方法往往难以统一量化这些不同类型的交互。该方法提供了一种通用框架来揭示元素间的作用结构,属于对已有问题的新视角而非全新问题。
  • 关键思路
    提出一种基于随机添加顺序的几何方法:通过在大量随机序列中逐步加入元素并记录其贡献变化,绘制出贡献曲线形成的L形模式。利用这些模式定义L-score(范围从-1到+1),统一衡量冗余(+1)、独立(0)与协同(-1)关系。关键创新在于将抽象的交互类型转化为直观的几何形状,并仅用成对测量即可推断高阶交互。
  • 其它亮点
    方法具有度量无关性(metric-agnostic),适用于任何可增量评估性能的场景;实验设计基于合成数据和理论模型验证L形模式与交互类型的一一对应;无需训练或参数调整,计算高效;代码虽未明确提及开源,但方法易于复现;值得深入的方向包括扩展至动态系统、结合因果推理以及用于神经网络特征选择中的交互分析。
  • 相关研究
    1. 'A Unified Approach to Interpreting Model Predictions' (SHAP, NeurIPS 2017) 2. 'On the Measure of Synergy and Redundancy in Neural Systems' (Journal of Computational Neuroscience) 3. 'Partial Information Decomposition: A Review and Open Problems' (Entropy, 2022) 4. 'Detecting Pairwise Interactions in High-Dimensional Data via Mutual Information' (JMLR, 2021) 5. 'Feature Interaction Detection with Permutation-based Methods' (ICML Workshop on Interpretable ML in Healthcare, 2023)
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问