[论文解读] Derivative-Free Method For Decentralized Distributed Non-Smooth Optimization

Aleksandr Beznosikov, Eduard Gorbunov+1 more|arXiv (Cornell University)|Nov 25, 2019

Stochastic Gradient Optimization Techniques被引用 4

一句话总结

本文提出了一种基于滑动算法（Sliding Algorithm）的无导数方法，用于去中心化分布式非光滑优化，实现了与一阶方法在维度相关因子范围内的收敛性和通信复杂度界。该方法在相同因子范围内匹配了最先进的零阶预言机复杂度，实现了无需梯度信息的高效去中心化优化。

ABSTRACT

In this paper, we propose new derivative-free method which is based on the Sliding Algorithm from Lan (2016, 2019) for the convex composite optimization problem that includes two terms: smooth one and non-smooth one. We prove the convergence rate for the new method that matches the corresponding rate for the first-order method up to a factor proportional to the dimension of the space. We apply this method for the decentralized distributed optimization and prove the bounds for the number of communication rounds for this method that matches the lower bounds. We prove the bound for the number of zeroth-order oracle calls per node that matches the similar state-of-the-art bound for the first-order decentralized distributed optimization up to to the factor proportional to the dimension of the space.

研究动机与目标

• 解决在缺乏梯度信息时去中心化分布式非光滑优化的挑战。
• 开发一种零阶方法，即使缺乏导数信息，也能保持与一阶方法相当的收敛速率。
• 实现与去中心化优化已知下界相匹配的通信复杂度界。
• 在维度相关因子范围内，匹配去中心化设置下最先进的零阶预言机复杂度。
• 确保该方法适用于包含光滑与非光滑分量的凸复合问题。

提出的方法

• 将滑动算法（Lan, 2016, 2019）适配至无导数的凸复合优化设置。
• 使用零阶预言机调用来估计次梯度，避免显式计算梯度。
• 保持一种滑动机制，动态选择优化过程中的活跃分量。
• 设计适用于去中心化网络的通信协议，以最小化轮次数同时确保收敛。
• 将维度相关缩放因子整合至收敛与复杂度界中，以反映问题维度的影响。
• 确保该方法的收敛速率与一阶方法相比，仅相差与空间维度成比例的因子。

实验结果

研究问题

• RQ1 无导数方法是否能在去中心化非光滑优化中实现与一阶方法相当的收敛速率？
• RQ2 零阶去中心化算法的通信复杂度是多少？是否与已知下界相匹配？
• RQ3 在去中心化设置中，零阶预言机调用次数如何随问题维度变化？
• RQ4 滑动算法能否在分布式系统中有效适配至零阶优化？
• RQ5 变量空间的维度在多大程度上影响无导数去中心化方法的性能？

主要发现

• 所提出的无导数方法实现了与最佳已知一阶方法相当的收敛速率，仅相差与变量空间维度成比例的因子。
• 该方法所需的通信轮次数与去中心化分布式优化的已知下界相匹配。
• 该方法的零阶预言机复杂度与一阶去中心化优化的最先进界相匹配，同样仅相差维度相关因子。
• 该方法在包含光滑与非光滑项的凸复合问题中表现有效，即使在无法访问梯度信息的情况下亦然。
• 理论界在维度依赖性方面是紧致的，表明该方法在通信与预言机使用方面近乎最优。
• 分析确认，在最坏情况下，无导数方法中维度相关因子是不可避免的，凸显了此类设置中的根本性权衡。