[논문 리뷰] Optimal Transport Based Distributionally Robust Optimization: Structural Properties and Iterative Schemes

José Blanchet, Karthyek Murthy외 1명|arXiv (Cornell University)|2018. 10. 04.

Risk and Portfolio Optimization참고 문헌 38인용 수 25

한 줄 요약

이 논문은 국소적으로 강凸인 비용 함수와 애핀 의사결정 규칙을 사용한 최적 운반 이론 기반 분포로버스트 최적화(DRO) 프레임워크를 개발한다. 원래 문제에 강凸성이 없더라도 DRO 문제에서 강凸성을 보장하는 구조적 성질을 확립함으로써, 샘플 수와 반복 횟수 복잡도가 확률적 경사하강법과 동일한 효율적인 반복 알고리즘을 가능하게 하며, 약한 조건 하에서도 최적 수렴 속도를 달성한다.

ABSTRACT

We consider optimal transport based distributionally robust optimization (DRO) problems with locally strongly convex transport cost functions and affine decision rules. Under conventional convexity assumptions on the underlying loss function, we obtain structural results about the value function, the optimal policy, and the worst-case optimal transport adversarial model. These results expose a rich structure embedded in the DRO problem (e.g. strong convexity even if the non-DRO problem was not strongly convex, a suitable scaling of the Lagrangian for the DRO constraint, etc. which are crucial for the design of efficient algorithms). As a consequence of these results, one can develop efficient optimization procedures which have the same sample and iteration complexity as a natural non-DRO benchmark algorithm such as stochastic gradient descent.

연구 동기 및 목표

• 데이터 기반 최적화에서의 강건성을 향상시키기 위해 국소적으로 강凸인 비용 함수를 갖는 최적 운반 이론 기반 유연한 DRO 프레임워크를 개발하는 것.
• 특히 대규모 데이터에 대해 기존 DRO 방법의 계산적 제약을 해결하기 위해 효율적인 반복 알고리즘을 가능하게 하는 것.
• 원래 문제에 이러한 성질이 없더라도 DRO 문제의 구조적 성질(예: 강凸성, 값 함수의 볼록성)을 규명하는 것.
• 마할라노비스 유형의 비용 함수를 갖는 DRO 설정이 암묵적 정규화를 유도하고 비-DRO 기준과 비교해 유사한 계산 효율성을 유지하는지 보여주는 것.
• 기본 워샤르-거리 이외의 더 일반적인 미분 가능하고 강凸인 운반 비용 함수로 DRO를 확장하기 위한 기반 마련

제안 방법

• 국소적으로 강凸인 비용 함수를 사용한 최적 운반 이론 기반 DRO 문제를 설정하며, 워샤르-유사 불확실성 집합을 통해 분포 불확실성을 모델링한다.
• 유한차원 최적화로 문제를 축소하기 위해 애핀 의사결정 규칙을 적용하여 계산 가능성을 확보한다.
• 볼록 해석학과 두 번째 차수 조건을 사용하여 값 함수와 최적 정책의 구조적 성질을 유도하며, 국소적 강凸성을 입증한다.
• Envelope 정리를 활용해 확률적 경사도를 효율적으로 계산함으로써 확률적 최적화 방법의 적용을 가능하게 한다.
• DRO 목표 함수의 강凸성과 미세성에 기반해, 예를 들어 확률적 경사하강법과 같은 반복적 방법을 개발한다.
• 점근 정규성과 고유값 경계 분석을 통해 수렴 속도를 분석하며, 반복이 수렴 속도 $ O_p(k^{-1}) $ 로 수렴함을 보여준다.

실험 결과

연구 질문

• RQ1 국소적으로 강凸인 비용 함수를 갖는 최적 운반 기반 DRO는 기존 비-DRO 문제와 비교해 계산 효율성을 유지하거나 향상시키는가?
• RQ2 탄력적인 비용 함수를 갖는 DRO 설정이 원래 문제에 강凸성이 없더라도 강凸성을 유도하는가?
• RQ3 최악의 경우 분포는 질량 운반 측면에서 어떻게 행동하는가? 그리고 작은 $ ilde{ ho} $ 에 대해 $ ilde{O}( ilde{ ho}) $ 로 특성화할 수 있는가?
• RQ4 이러한 비용 함수를 갖는 DRO 문제에 대해 확률적 경사하강법을 효과적으로 적용할 수 있으며, 그 수렴 속도는 어떠한가?
• RQ5 이러한 가정 하에서 DRO 설정에 의해 유도되는 값 함수와 최적 정책의 구조적 성질(예: 볼록성, 미세성)은 무엇인가?

주요 결과

• 원래 문제에 강凸성이 없더라도 국소적으로 강凸인 비용 함수를 갖는 DRO 문제에서는 결정 변수에 대해 국소적 강凸성을 보인다.
• DRO 설정에서 최악의 경우 분포는 $ O_p( ilde{ ho}) $ 정도의 질량을 운반하며, 이는 불확실성 수준 $ ilde{ ho} $ 와 관련된 작은 편차 파라미터 $ ilde{ ho} $ 와 관련된다. 이는 의미 있는 대립적 행동를 보장한다.
• DRO 문제의 값 함수는 볼록하고 연속적으로 미분 가능하며, 헤시안 행렬이 $ ilde{ ho}^{-1/4} $ 로 유계이므로 안정적인 최적화를 가능하게 한다.
• DRO 문제에 적용된 확률적 경사하강법은 수렴 속도 $ O_p(k^{-1}) $ 로 수렴하며, 이는 기존 비-DRO 문제의 수렴 속도와 동일하다.
• 최적 정책과 값 함수는 국소 이웃에서 함께 강凸이며, 이는 빠른 수렴과 강건성을 보장한다.
• 추가된 강건성에도 불구하고, 동일한 샘플 수와 반복 복잡도를 갖는 확률적 경사하강법을 통해 효율적인 계산이 가능하다.