[논문 리뷰] SMART: The Stochastic Monotone Aggregated Root-Finding Algorithm

Damek Davis|arXiv (Cornell University)|2016. 01. 04.

Stochastic Gradient Optimization Techniques참고 문헌 41인용 수 9

한 줄 요약

SMART는 유한한 합으로 구성된 연산자들을 포함하는 대규모 단조성 근 찾기 문제를 해결하기 위한 새로운 확률적, 비동기적, 랜덤화된 연산자 분할 알고리즘이다. 약한 정규성 조건 하에서 기대값으로 선형 수렴성을 달성하며, 기울기를 블랙박스 연산자로 대체하여 증분 기울기 방법을 일반화함으로써 더 넓은 적용 범위와 분산 시스템에서의 효율적 병렬 처리를 가능하게 한다.

ABSTRACT

We introduce the Stochastic Monotone Aggregated Root-Finding (SMART) algorithm, a new randomized operator-splitting scheme for finding roots of finite sums of operators. These algorithms are similar to the growing class of incremental aggregated gradient algorithms, which minimize finite sums of functions; the difference is that we replace gradients of functions with black-boxes called operators, which represent subproblems to be solved during the algorithm. By replacing gradients with operators, we increase our modeling power, and we simplify the application and analysis of the resulting algorithms. The operator point of view also makes it easy to extend our algorithms to allow arbitrary sampling and updating of blocks of coordinates throughout the algorithm. Implementing and running an algorithm like this on a computing cluster can be slow if we force all computing nodes to be synched up at all times. To take better advantage of parallelism, we allow computing nodes to delay updates and break synchronization. This paper has several technical and practical contributions. We prove the weak, almost sure convergence of a new class of randomized operator-splitting schemes in separable Hilbert spaces; we prove that this class of algorithms convergences linearly in expectation when a weak regularity property holds; we highlight connections to other algorithms; and we introduce a few new algorithms for large-scale optimization.

연구 동기 및 목표

• 유한합 단조성 근 찾기 문제를 해결하기 위한 새로운 유형의 랜덤화 연산자 분할 알고리즘을 개발하는 것.
• 기울기를 연산자로 대체하여 대규모 및 고차원 환경에서 효율적이고 확장 가능한 최적화를 가능하게 하는 것.
• 계산 노드 간 지연 및 비동기 업데이트를 허용함으로써 비동기적이고 탈중앙화된 계산을 지원하는 것.
• 분리 가능한 힐버트 공간에서 제안된 알고리즘의 이론적 수렴 보장(약한 수렴 및 거의 확실 수렴)을 확립하는 것.
• 하위문제를 연산자로 모델링하여 기존 증분 방법의 범위를 볼록 최적화를 초월해 확장하는 것.

제안 방법

• 기울기 계산을 하위문제를 나타내는 블랙박스 연산자로 대체함으로써 더 유연하고 모듈화된 프레임워크를 구현하는 것.
• 각 반복에서 색인을 확률적으로 샘플링하는 랜덤화 블록좌표 업데이트 방식을 사용하는 것.
• 과거와 현재의 연산자 평가를 통합하여 수렴을 안정화하는 집합적 업데이트 규칙을 적용하는 것.
• 핵심 요소로는 연산자에 대한 일관성 조건이며, 이는 기대 업데이트 방향이 실제 근 찾기 방향과 일치하도록 보장한다.
• 좌표 블록의 임의의 샘플링과 업데이트를 허용함으로써 분산 및 비동기 환경에서의 유연성을 높이는 것.
• 수렴 분석은 반복적 기대의 법칙과 분산 분해를 활용하여 약한 정규성 가정 하에 선형 수렴 속도를 도출한다.

실험 결과

연구 질문

• RQ1 랜덤화 연산자 분할 방식이 유한합 연산자로 구성된 단조성 근 찾기 문제에 대해 기대값으로 선형 수렴성을 달성할 수 있는가?
• RQ2 수렴성을 유지하면서 비동기적 및 지연된 업데이트를 연산자 분할 알고리즘에 통합할 수 있는가?
• RQ3 어떤 조건이 연산자에 대해 적용되어야 하며, 이는 랜덤화 및 비동기 업데이트 조건 하에서도 알고리즘이 선형으로 수렴하도록 보장하는가?
• RQ4 기본 기반 프레임워크는 SAGA, SVRG, Finito와 같은 기존 증분 기울기 방법을 어떻게 일반화하고 통합하는가?
• RQ5 일阶 알고리즘이 선형 수렴성을 달성할 수 있는 가장 약한 정규성 조건은 무엇이며, SMART는 이 조건과 어떻게 관련이 있는가?

주요 결과

• SMART는 분리 가능한 힐버트 공간에서 일관성 조건 하에 반복값이 해로 약한 수렴 및 거의 확실 수렴을 보인다.
• 약한 정규성 성질인 '기본 강한 준단조성' 조건 하에 알고리즘은 기대값으로 선형 수렴성을 달성한다.
• 수렴 속도는 $ 1 - \xi $ 요소를 가진 선형이며, 여기서 $ \xi $ 는 알고리즘 파라미터와 문제 구조에 따라 달라진다.
• 알고리즘은 임의의 샘플링과 비동기 업데이트를 지원하여 병렬 및 분산 컴퓨팅 자원을 효율적으로 활용할 수 있다.
• 기울기를 연산자로 대체함으로써 증분 기울기 방법을 일반화하여 비미분 가능 및 비볼록 문제에까지 적용 범위를 넓힌다.
• 수치 실험에서는 비동기 환경에서 선형 속도 향상이 예상되나, 구현 복잡도 문제는 여전히 도전 과제로 남아 있다.