[논문 리뷰] Perturbed gradient descent with occupation time.

Xin Guo, Jiequn Han외 1명|arXiv (Cornell University)|2020. 05. 09.

Stochastic Gradient Optimization Techniques참고 문헌 41인용 수 2

한 줄 요약

이 논문은 직업 시간(occupation time)을 사용하여 이전 상태 방문 기록에 기반해 변동성을 적응적으로 조정하는 PGDOT라는 펌진된 경사하강법 알고리즘을 제안한다. 이는 표준 PGD와 동일하거나 빠른 수렴 속도를 확보하면서 동시에 안장점(saddle points)을 확실히 피하는 것을 보장한다. 이 방법은 누적된 상태 방문 기록을 활용해 동적으로 변동성을 조정함으로써 비볼록 최적화 설정에서 최적화 안정성을 향상시킨다.

ABSTRACT

This paper develops further the idea of perturbed gradient descent, by adapting perturbation with the history of state via the notation of occupation time for saddle points. The proposed algorithm PGDOT is shown to converge at least as fast as perturbed gradient descent (PGD) algorithm, and is guaranteed to avoid getting stuck at saddle points. The analysis is corroborated by experimental results.

연구 동기 및 목표

• 비볼록 최적화에서 안장점 정체 문제를 적응형 변동성 전략을 통해 해결하기 위해.
• 역사적 상태 방문 데이터를 통합함으로써 펌진된 경사하강법의 수렴 속도와 안정성을 향상시키기 위해.
• 안장점에 갇히는 것을 방지하는 증명 가능하게 수렴하는 알고리즘을 개발하기 위해.
• 직업 시간을 최적화에서 동적 변동성 적응의 수단으로 공식화하기 위해.

제안 방법

• 알고리즘은 안장점에 머문 누적 시간인 직업 시간을 도입하여 변동성 크기를 지시한다.
• 안장점의 직업 시간에 따라 변동성을 조정하며, 자주 방문될수록 증가시킨다.
• 표준 PGD 업데이트 규칙에 직업 시간에 의존하는 시간에 따라 변하는 변동성 항을 통합함으로써 수정한다.
• 이론적 분석은 PGDOT가 동일한 가정 하에 표준 PGD와 동일하거나 빠른 수렴 속도를 유지함을 보여준다.
• 직업 시간이 증가할수록 변동성 강도를 높임으로써 안장점에 장기간 머무르는 것을 방지하도록 알고리즘을 설계하였다.

실험 결과

연구 질문

• RQ1 직업 시간을 사용해 경사하강법에서 변동성을 동적으로 적응시켜 안장점에서 벗어나는 데 유용한가?
• RQ2 표준 펌진된 경사하강법과 비교해 PGDOT는 수렴 속도를 유지하거나 향상시키는가?
• RQ3 PGD와 동일한 조건 하에서 PGDOT는 안장점 수렴을 보장적으로 피할 수 있는가?
• RQ4 역사적 상태 방문 데이터의 사용이 최적화 안정성과 수렴에 어떤 영향을 미치는가?

주요 결과

• 동일한 가정 하에 PGDOT는 표준 펌진된 경사하강법과 동일하거나 빠른 수렴 속도를 보인다.
• 직업 시간에 기반한 변동성 적응을 통해 안장점에 갇히는 것을 증명 가능하게 방지한다.
• 실험 결과는 이론적 분석을 뒷받침하며, 안장점에서의 탈출이 향상됨을 보여준다.
• 직업 시간 메커니즘은 자주 방문되는 안장점에서 변동성 강도를 효과적으로 증가시켜 더 빠른 탈출을 가능하게 한다.