Mixture-of-Experts Graph Transformers for Interpretable Particle Collision Detection

位于欧洲核子研究中心的大型强子对撞机产生了来自高能粒子碰撞的海量复杂数据，这些数据需要复杂的分析技术才能有效解读。神经网络，包括图神经网络，在事件分类和对象识别等任务中表现出色，通过将碰撞表示为图结构来进行处理。然而，尽管图神经网络在预测准确性方面表现出色，但其“黑箱”性质常常限制了其可解释性，使得难以信任其决策过程。在本文中，我们提出了一种新颖的方法，将图变换器模型与专家混合层相结合，以实现高预测性能的同时将可解释性嵌入到架构中。通过利用注意力图和专家专业化，该模型提供了对其内部决策过程的见解，将预测结果与基于物理特征联系起来。我们在ATLAS实验的模拟事件上评估了该模型，专注于区分稀有的超对称信号事件和标准模型背景事件。我们的结果显示，该模型不仅达到了有竞争力的分类准确性，还提供了与已知物理现象一致的可解释输出，展示了其作为高能物理数据分析的强大且透明工具的潜力。这一方法强调了在应用于高能物理的机器学习方法中解释性的重要性，为增加对人工智能驱动发现的信任提供了一条途径。

该论文旨在解决高能物理数据中，特别是大型强子对撞机（LHC）产生的复杂数据的高效解释与分类问题。具体来说，它试图克服图神经网络（GNNs）在预测准确性与可解释性之间的权衡问题，特别是在区分希格斯玻色子等稀有超对称信号事件和标准模型背景事件时。

关键思路是结合图变换器模型（Graph Transformer）与专家混合层（Mixture-of-Expert layers），以实现高预测性能并嵌入可解释性。通过利用注意力机制和专家专业化，模型不仅提高了分类精度，还提供了物理信息特征的内部决策过程的洞察，从而增强了对AI决策的信任度。

论文亮点包括：1) 在ATLAS实验的模拟事件上进行了评估，展示了模型的竞争性分类准确性；2) 提供了与已知物理现象一致的可解释输出；3) 强调了在高能物理数据分析中透明度的重要性；4) 模型设计允许通过注意力图和专家模块来追踪决策路径，增加了模型的透明性和可靠性。此外，论文未提及开源代码或详细的数据集信息，但指出未来研究可以进一步探索如何优化专家模块的设计以及提高模型的泛化能力。

最近的相关研究包括：1) 使用深度学习进行粒子物理中的事件分类（如《Deep Learning for Event Classification in Particle Physics》）；2) 图神经网络在高能物理中的应用（如《Graph Neural Networks for High Energy Physics》）；3) 解释性AI在科学发现中的作用（如《Interpretable AI for Scientific Discovery》）。这些研究共同推动了AI在高能物理领域的应用，尤其关注于提高模型的准确性和可解释性。