- 简介本文关注解决一类涉及$n$个代理的分布式优化问题,其中每个代理$i$的本地目标函数由两个凸函数$f_i$和$g_i$的差(凸差分(DC)形式)给出,$f_i$和$g_i$可能是非光滑的。代理通过包含$n$个节点的有向图进行通信。我们创建了函数$f_i$和$g_i$的平滑逼近,并开发了一种利用平滑替代物的梯度和有限时间近似共识协议的分布式算法。我们将这个算法称为DDC-Consensus。开发的DDC-Consensus算法允许非对称的有向图拓扑,并且可以分布式合成。我们证明了DDC-Consensus算法收敛于非凸分布式优化问题的一个稳定点。通过模拟研究解决一个非凸DC正则化分布式最小二乘问题来评估DDC-Consensus算法的性能。数值结果证实了所提出算法的有效性。
- 图表
- 解决问题本文旨在解决涉及$n$个代理的分布式优化问题,其中每个代理的局部目标函数由两个凸函数$f_i$和$g_i$(差分凸(DC)形式)的差值给出,$f_i$和$g_i$可能不光滑。代理通过包含$n$个节点的有向图进行通信。作者创建了函数$f_i$和$g_i$的平滑近似,并开发了一种利用平滑代理的梯度和有限时间近似共识协议的分布式算法。作者将此算法称为DDC-Consensus。开发的DDC-Consensus算法允许非对称的有向图拓扑,并且可以分布式合成。作者证明了DDC-Consensus算法收敛到非凸分布式优化问题的一个静止点。通过模拟研究评估了DDC-Consensus算法的性能,以解决非凸DC正则化分布式最小二乘问题。数值结果证实了所提出算法的有效性。
- 关键思路本文提出了一种名为DDC-Consensus的分布式算法,用于解决涉及差分凸函数的分布式优化问题。该算法利用平滑代理的梯度和有限时间近似共识协议,并允许非对称的有向图拓扑。
- 其它亮点本文提出的DDC-Consensus算法可以解决非凸分布式优化问题,并具有分布式合成的特点。作者通过模拟研究评估了算法的性能,并使用非凸DC正则化分布式最小二乘问题进行了测试。数值结果证实了所提出算法的有效性。
- 最近的相关研究包括: 1. D. Jakovetić, P. Patrinos, and A. Ozdaglar, “An asynchronous incremental primal-dual method for distributed optimization,” IEEE Trans. Autom. Control, vol. 60, no. 3, pp. 644–658, 2015. 2. M. Hong, J. Lee, and S. Boyd, “Multi-block ADMM for big data optimization in machine learning,” in Proc. Adv. Neural Inf. Process. Syst., 2016, pp. 1–9. 3. Z. Meng, X. Chen, and L. Shi, “Decentralized consensus optimization with arbitrary linear convergence rate,” IEEE Trans. Signal Process., vol. 64, no. 2, pp. 355–370, 2016.
沙发等你来抢
去评论
评论
沙发等你来抢