Anderson acceleration for iteratively reweighted $\ell_1$ algorithm

迭代重新加权L1（IRL1）算法是一种常用的算法，用于解决具有非凸和非光滑正则化的稀疏优化问题。通过采用Nesterov加速等加速算法的发展，已经引起了相当大的兴趣。然而，这些加速算法的收敛性和复杂性分析一直存在重大挑战。最近，由于其在加速固定点迭代方面的出色表现，Anderson加速已经受到了重视，许多最近的研究将其应用于基于梯度的算法。受到Anderson加速强大影响的启发，我们提出了一种Anderson加速的IRL1算法，并建立了其局部线性收敛速度。我们将这种通常在光滑设置中观察到的收敛结果扩展到非光滑情况。重要的是，我们的理论结果不依赖于Kurdyka-Lojasiewicz条件，这是现有的基于Nesterov加速的算法中必要的条件。此外，为了确保全局收敛，我们引入了一种全局收敛的Anderson加速IRL1算法，通过引入经典的非单调线搜索条件。实验结果表明，我们的算法优于现有的基于Nesterov加速的算法。

Anderson-accelerated IRL1算法解决稀疏优化问题

使用Anderson加速算法加速IRL1算法，建立其局部线性收敛速率，同时扩展到非光滑情况下的收敛结果

该算法无需依赖Kurdyka-Lojasiewicz条件，实验结果表明其优于现有的Nesterov加速算法

最近的相关研究包括使用Anderson加速算法加速梯度下降算法的论文，如J. Xu等人的"Anderson Acceleration for Gradient-Based Optimization Algorithms via Matrix Extrapolation"