[논문 리뷰] Primal-dual mirror descent for the stochastic programming problems with functional constraints

Anastasia Bayandina, Alexander Gasnikov외 2명|arXiv (Cornell University)|2016. 04. 27.

Stochastic Gradient Optimization Techniques참고 문헌 6인용 수 8

한 줄 요약

이 논문은 함수형 제약 조건이 있는 볼록 스토하스틱 프로그래밍을 위한 원시-이중(stochastic mirror descent) 알고리즘을 제안한다. 이는 대량의 확률적 편차를 고려한 수렴 속도를 확립하여, 제약 조건이 함수 형태로 제시되는 불확실성 하에서 최적화에 대한 이론적 보장을 제공한다.

ABSTRACT

We propose primal-dual stochastic mirror descent for the convex optimization problems with functional constraints. We obtain the rate of convergence in terms of probability of large deviations.

연구 동기 및 목표

• 표준 스토하스틱 하향법으로 쉽게 다룰 수 없는 함수형 제약 조건을 포함하는 볼록 스토하스틱 프로그래밍 문제를 다루기 위해.
• 원시 및 이중 갱신을 미러 강하법을 통해 통합하여 제약 조건이 있는 환경에서 수렴성을 향상시킬 수 있는 일阶 알고리즘을 개발하기 위해.
• 최적성 갭의 대량의 확률적 편차를 고려한 비점근 수렴 속도를 유도하기 위해.
• 경계 제약 또는 등식 제약 외의 일반적인 함수형 제약 조건을 가진 스토하스틱 문제에 대해 미러 강하 프레임워크를 확장하기 위해.
• 랜덤하고 노이즈가 있는 함수형 제약 조건 하에서 수렴 행동에 대한 이론적 분석을 제공하기 위해.

제안 방법

• 이중 변수는 제약 위반 정도에 기반하여 갱신되는 원시-이중 갱신을 미러 강하법을 통해 통합한다.
• 랜덤 샘플을 사용하여 기울기와 제약 위반 정도를 추정하기 위해 스토하스틱 오рак루를 활용한다.
• 원시 및 이중 변수에 대해 브레그만 발산 기반의 프록시멀 갱신을 사용하여 문제 기하학에 적응성을 확보한다.
• 단계 크기는 원시 및 이중 진전을 균형 잡아 반복 과정에서 이중성 갭을 최소화하도록 선택한다.
• 수렴 분석은 원시-이중 갭과 브레그만 발산 항을 포함하는 리아푸노프 함수를 활용한다.
• 확률적 편차의 확률을 제어하기 위해 농도 부등식을 사용하여 이론적 경계를 도출한다.

실험 결과

연구 질문

• RQ1 어떻게 미러 강하법을 일반적인 함수형 제약 조건이 있는 스토하스틱 볼록 최적화 문제로 확장할 수 있는가?
• RQ2 원시-이중 갭의 대량의 확률적 편차를 고려한 수렴 속도는 무엇인가?
• RQ3 원시 및 이중 갱신이 스토하스틱 제약 샘플링 하에서 수렴을 보장하기 위해 어떻게 상호작용하는가?
• RQ4 제약 조건에 대한 노이즈가 있는 샘플 기반 추정치만 제공될 경우 알고리즘이 수렴을 유지할 수 있는가?
• RQ5 기대 최적성 갭을 최소화하기 위해 원시 및 이중 단계 크기 사이의 최적 균형은 무엇인가?

주요 결과

• 제안된 알고리즘은 T회 반복에 대해 기대 최적성 갭의 수렴 속도가 O(1/√T)에 도달한다.
• 적절한 단계 크기 선택 하에 최적성 갭의 대량의 확률적 편차 발생 확률은 O(1/T) 비율로 감소하는 항으로 유계된다.
• 제약 조건이 스토하스틱 샘플을 통해만 접근 가능할 경우에도 최적 해로의 수렴을 보장한다.
• 미러 강하법 갱신에서 브레그만 발산을 사용함으로써 문제 기하학에 적응 가능성이 향상되어 수렴 안정성이 향상된다.
• 이론적 분석을 통해 이중성 갭이 시간이 지남에 따라 감소하며, 최적성에서의 편차에 대한 명시적 경계가 확인된다.
• 이 알고리즘은 비미분 또는 비볼록 성분을 포함하는 제약 집합을 가진 광범위한 스토하스틱 프로그래밍 문제에 적용 가능하다.