[논문 리뷰] Derivative-Free Method For Decentralized Distributed Non-Smooth Optimization

Aleksandr Beznosikov, Eduard Gorbunov외 1명|arXiv (Cornell University)|2019. 11. 25.

Stochastic Gradient Optimization Techniques인용 수 4

한 줄 요약

이 논문은 슬라이딩 알고리즘을 기반으로 한 도함수를 필요로 하지 않는 분산 비미분 가능 최적화를 위한 방법을 제안하며, 차원에 따라 달라지는 요소를 제외하고는 일阶 방법과 동일한 수렴성과 통신 복잡도 한계를 달성한다. 이 방법은 동일한 요소를 고려할 때 최첨단의 제로계층 오라클 복잡도를 달성하며, 기울기 정보가 없는 효율적인 분산 최적화를 가능하게 한다.

ABSTRACT

In this paper, we propose new derivative-free method which is based on the Sliding Algorithm from Lan (2016, 2019) for the convex composite optimization problem that includes two terms: smooth one and non-smooth one. We prove the convergence rate for the new method that matches the corresponding rate for the first-order method up to a factor proportional to the dimension of the space. We apply this method for the decentralized distributed optimization and prove the bounds for the number of communication rounds for this method that matches the lower bounds. We prove the bound for the number of zeroth-order oracle calls per node that matches the similar state-of-the-art bound for the first-order decentralized distributed optimization up to to the factor proportional to the dimension of the space.

연구 동기 및 목표

• 기울기 정보가 없는 경우에 분산된 비미분 가능 최적화 문제를 해결하는 데 도전한다.
• 도함수 정보가 없음에도 불구하고 일阶 방법과 비슷한 수렴 속도를 유지하는 제로계층 방법을 개발한다.
• 기존의 분산 최적화에 대한 하한선과 일치하는 통신 복잡도 한계를 확보한다.
• 차원에 따라 달라지는 요소를 고려할 때, 분산 환경에서 최첨단의 제로계층 오라클 복잡도를 달성한다.
• 이 방법이 미분 가능하고 비미분 가능한 성분을 모두 포함하는 복합 볼록 문제에 적용 가능하도록 보장한다.

제안 방법

• 복합 볼록 최적화를 위한 도함수 없는 설정으로 란(2016, 2019)의 슬라이딩 알고리즘을 적응시킨다.
• 기울기 계산 없이 서브기울기를 추정하기 위해 제로계층 오라클 호출을 사용한다.
• 최적화 과정에서 활성 성분을 동적으로 선택하는 슬라이딩 메커니즘을 유지한다.
• 수렴을 보장하면서 라운드 수를 최소화하기 위해 분산 네트워크에 특화된 통신 프로토콜을 설계한다.
• 문제 차원성의 영향을 반영하기 위해 수렴성 및 복잡도 한계에 차원에 따라 달라지는 스케일링 요소를 통합한다.
• 이 방법의 수렴 속도가 공간 차원에 비례하는 요소를 제외하고는 일阶 방법과 동일하다.

실험 결과

연구 질문

• RQ1 도함수 없는 방법이 분산 비미분 가능 최적화에서 일阶 방법과 비슷한 수렴 속도를 달성할 수 있는가?
• RQ2 제로계층 분산 알고리즘의 통신 복잡도는 무엇이며, 기존의 하한선과 일치하는가?
• RQ3 분산 환경에서 제로계층 오라클 호출 수는 문제 차원에 따라 어떻게 증가하는가?
• RQ4 슬라이딩 알고리즘이 분산 시스템에서 제로계층 최적화에 효과적으로 적용될 수 있는가?
• RQ5 변수 공간의 차원은 도함수 없는 분산 최적화 방법의 성능에 어느 정도 영향을 미치는가?

주요 결과

• 제안된 도함수 없는 방법은 변수 공간의 차원에 비례하는 요소를 제외하고 최고의 일阶 방법과 동일한 수렴 속도를 달성한다.
• 이 방법이 요구하는 통신 라운드 수는 분산 분산 최적화에 대한 알려진 하한선과 일치한다.
• 이 방법의 제로계층 오라클 복잡도는 동일한 요소를 고려할 때, 일阶 분산 최적화의 최첨단 기준과 일치한다.
• 이 방법은 기울기 정보가 없음에도 불구하고, 복합 볼록 문제에 대해 효과적으로 작동한다. 이 문제에는 미분 가능하고 비미분 가능한 항이 모두 포함되어 있다.
• 이론적 한계는 차원 의존성 측면에서 날카롭게 조정되어 있어, 통신 및 오라클 사용 측면에서 거의 최적임을 시사한다.
• 분석을 통해 도함수 없는 방법의 최악의 경우에 차원에 따라 달라지는 요소는 피할 수 없음을 확인하였으며, 이러한 설정에서의 기본적인 상충관계를 부각시킨다.