Fast proxy centers for Jeffreys centroids: The Jeffreys-Fisher-Rao and the inductive Gauss-Bregman centers

对称的Kullback-Leibler中心点，也称为Jeffreys中心点，是测度空间上一组相互绝对连续的概率分布的中心性概念，在信息检索、信息融合以及图像、视频和声音处理中的聚类任务中被证明是有用的。然而，对于分类分布和正态分布这两类广泛使用的统计模型，Jeffreys中心点没有闭式解，因此在实际应用中需要进行数值近似。在本文中，我们首先提出了新的Jeffreys-Fisher-Rao中心点，定义为两侧Kullback-Leibler中心点的Fisher-Rao中点，作为Jeffreys中心点的替代方案。这个Jeffreys-Fisher-Rao中心点对于单参数指数族分布具有通用公式，并且对于分类分布和正态分布有闭式解，与相同均值的正态分布的Jeffreys中心点完全匹配，并且在实践中观察到它与Jeffreys中心点非常接近。其次，我们定义了一种新的归纳中心点，推广了给定指数族中任意两个密度的Gauss算术几何双序列均值原则。实验表明，这种中心点可以很好地近似Jeffreys中心点，并建议在Jeffreys-Fisher-Rao中心点没有闭式解时使用。此外，这种Gauss-Bregman归纳中心点总是收敛，并且对于相同均值的正态分布集合与Jeffreys中心点匹配。我们报告了实验结果，展示了使用Jeffreys-Fisher-Rao中心点和Gauss-Bregman中心点代替Jeffreys中心点的效果。最后，我们通过信息几何中对偶平坦空间的视角重新解释了这些快速代理中心点。

论文试图解决的问题是，对于广泛使用的统计模型如分类分布和正态分布，Jeffreys中心点（对称Kullback-Leibler中心点）没有闭式解，因此需要数值近似。这是一个已知但尚未完全解决的问题。

论文提出了两个新的中心点概念：Jeffreys-Fisher-Rao中心点和Gauss-Bregman归纳中心点。前者通过Fisher-Rao中点来近似Jeffreys中心点，并且在某些情况下有闭式解；后者则通过扩展Gauss算术几何双序列均值的概念来近似Jeffreys中心点，适用于任何指数族分布。这些方法不仅提供了更有效的计算方式，而且在特定条件下与Jeffreys中心点完全匹配。

1. 提出了Jeffreys-Fisher-Rao中心点，为一类指数族分布提供了一个通用的闭式解公式。 2. 定义了Gauss-Bregman归纳中心点，适用于任何指数族分布，并且在特定条件下与Jeffreys中心点一致。 3. 实验表明，这两种新的中心点方法在实践中与Jeffreys中心点非常接近。 4. 论文从信息几何的角度重新解释了这些快速代理中心点，进一步加深了对这些方法的理解。 5. 提供了详细的实验结果，展示了新方法在不同数据集上的表现。

1. "On the Computation of the Kullback-Leibler Centroid of Normal Distributions" - 讨论了正态分布的Kullback-Leibler中心点的计算方法。 2. "A Riemannian Geometry for Probability Distributions" - 从Riemannian几何的角度研究概率分布的几何性质。 3. "Information Geometry and Its Applications" - 详细介绍了信息几何的基本理论及其应用。 4. "Efficient Algorithms for Approximating the Kullback-Leibler Centroid of Categorical Distributions" - 提出了一些近似分类分布的Kullback-Leibler中心点的有效算法。