[논문 리뷰] Sinkhorn Distributionally Robust Optimization

Jie Wang, Rui Gao외 1명|arXiv (Cornell University)|2021. 09. 24.

Risk and Portfolio Optimization참고 문헌 70인용 수 7

한 줄 요약

이 논문은 Sinkhorn 거리—정규화된 워셔스타인 거리—를 사용하는 새로운 DRO 프레임워크인 Sinkhorn 분포로 Robust Optimization(DRO)를 제안한다. 이는 일반적인 손실 함수와 운반 비용에 대해 볼록 쌍대성 재구성 가능하게 하여 최적화를 효율적으로 수행할 수 있도록 한다. 비편향된 기울기 오ракูล을 사용하는 확률적 미러 강하 알고리즘을 통해 거의 최적의 표본 복잡도를 달성하며, 계산의 용이성과 모델링의 타당성 면에서 워셔스타인 DRO를 능가하면서도 경험적 리스크 최소화의 표본 효율성과 동일한 성능을 보인다.

ABSTRACT

We study distributionally robust optimization with Sinkhorn distance -- a variant of Wasserstein distance based on entropic regularization. We derive a convex programming dual reformulation for general nominal distributions, transport costs, and loss functions. To solve the dual reformulation, we develop a stochastic mirror descent algorithm with biased subgradient estimators and derive its computational complexity guarantees. Finally, we provide numerical examples using synthetic and real data to demonstrate its superior performance.

연구 동기 및 목표

• 일반적인 손실 함수와 연속적인 지지집합에서 발생하는 워셔스타인 DRO의 계산 비용 증가와 모델링의 과도한 보수성 문제를 해결하기 위해.
• 계산의 용이성은 유지하면서도 전통적인 워셔스타인 DRO보다 더 현실적인 악성 경우 분포를 생성하는 DRO 프레임워크를 개발하기 위해.
• 부드럽고 부드럽지 않은 손실 함수 모두에서 경험적 리스크 최소화와 거의 동일한 표본 복잡도를 달성하기 위해.
• 효율적인 확률적 최적화를 가능하게 하는 Sinkhorn DRO의 쌍대 기반 재구성 제공하기 위해.

제안 방법

• 일반적인 명목 분포, 운반 비용, 손실 함수에 대해 유효한 엔트로피 정규화를 사용한 Sinkhorn DRO의 볼록 프로그래밍 쌍대 재구성식 유도.
• 쌍대 재구성식을 해결하기 위해 편향된 기울기 오라클을 사용하는 확률적 미러 강하(SMD) 알고리즘 제안.
• 기울기 편향과 분산을 제어하기 위해 두 가지 샘플링 기법—확률적 기울기(SG)와 무작위 다중 수준 몬테카를로(RT-MLMC)—도입.
• 리프시츠 연속성과 하위기울기 유계를 활용하여, 비정확한 오라클을 사용하는 이중 변수(Lagrangian 승수) 최적화를 위해 이분법 검색 수행.
• 총 계산 비용을 최소화하기 위해 $ m = \lceil \log_2(1/\eta) \rceil $ 전략을 사용한 배치 크기 선택 방법 제안.
• 표본 복잡도에 대한 이론적 경계 설정: SG의 경우 $ \mathcal{O}(\delta^{-3} \log(1/\eta)) $, RT-MLMC의 경우 $ \widetilde{\mathcal{O}}(\delta^{-2} \log(1/\eta)) $ 로, 경험적 리스크 최소화의 최적 $ \mathcal{O}(\delta^{-2}) $ 과 거의 동일함을 입증.

실험 결과

연구 질문

• RQ1 Sinkhorn DRO는 일반적인 손실 함수와 운반 비용에 대해 워셔스타인 DRO보다 더 계산에 용이하고 보수성이 낮은 대안을 제공할 수 있는가?
• RQ2 Sinkhorn DRO에서 엔트로피 정규화의 사용은 워셔스타인 DRO의 이산 악성 경우 측도에 비해 더 현실적인 악성 경우 분포를 도출하는가?
• RQ3 편향된 오라클을 사용하는 확률적 미러 강하 알고리즘이 Sinkhorn DRO에서 경험적 리스크 최소화와 거의 동일한 표본 복잡도를 달성할 수 있는가?
• RQ4 다양한 샘플링 기법 하에서 Sinkhorn DRO의 총 계산 비용을 최소화하기 위한 최적의 배치 크기 전략은 무엇인가?

주요 결과

• 제안된 Sinkhorn DRO 프레임워크는 일반적인 손실 함수, 운반 비용, 명목 분포에 적용 가능한 볼록 쌍대성 재구성식을 달성하여 효율적인 최적화를 가능하게 한다.
• SG 및 RT-MLMC 기반의 확률적 미러 강하 알고리즘은 각각 $ \mathcal{O}(\delta^{-3} \log(1/\eta)) $ 와 $ \widetilde{\mathcal{O}}(\delta^{-2} \log(1/\eta)) $ 의 표본 복잡도를 달성하며, 경험적 리스크 최소화의 최적 $ \mathcal{O}(\delta^{-2}) $ 과 거의 동일한 성능을 보인다.
• Sinkhorn DRO 하의 악성 경우 분포는 특히 진짜 분포가 연속일 경우 워셔스타인 DRO의 이산 악성 경우 측도보다 더 현실적인 분포를 제공한다.
• 최적의 배치 크기 $ m = \lceil \log_2(1/\eta) \rceil $ 는 기울기 편향과 분산을 균형 있게 조절하여 총 계산 비용을 최소화한다.
• 이론적 분석을 통해 이중 목표 함수가 볼록적이고 리프시츠 연속임을 확인하였으며, 이는 비정확한 오라클을 사용한 효율적 이분법 검색 가능성을 보장한다.
• 합성 및 실세계 데이터에 대한 수치 실험은 Sinkhorn DRO가 워셔스타인 DRO보다 강건성과 계산 효율성 면에서 뛰어난 성능을 보임을 입증한다.