[논문 리뷰] Distributionally Robust Learning

Ruidi Chen, Ioannis Ch. Paschalidis|arXiv (Cornell University)|2021. 08. 20.

Risk and Portfolio Optimization인용 수 8

한 줄 요약

이 논문은 워샤프스키 메트릭을 기반으로 한 분포로 불안정한 최적화(Distributionally Robust Optimization, DRO)를 사용하여 데이터 분포 이탈에 대한 모델의 강건성을 향상시키는 분포로 강건한 학습 프레임워크를 제안한다. 다양한 학습 문제—예측, 분류, 준지도 학습, 강화 학습—에 대해 실현 가능한 DRO 근사해를 도출함으로써 강건성과 정규화 사이의 관계를 규명하고, 유한 표본 및 渐近 성능 보장을 제공한다.

ABSTRACT

This monograph develops a comprehensive statistical learning framework that is robust to (distributional) perturbations in the data using Distributionally Robust Optimization (DRO) under the Wasserstein metric. Beginning with fundamental properties of the Wasserstein metric and the DRO formulation, we explore duality to arrive at tractable formulations and develop finite-sample, as well as asymptotic, performance guarantees. We consider a series of learning problems, including (i) distributionally robust linear regression; (ii) distributionally robust regression with group structure in the predictors; (iii) distributionally robust multi-output regression and multiclass classification, (iv) optimal decision making that combines distributionally robust regression with nearest-neighbor estimation; (v) distributionally robust semi-supervised learning, and (vi) distributionally robust reinforcement learning. A tractable DRO relaxation for each problem is being derived, establishing a connection between robustness and regularization, and obtaining bounds on the prediction and estimation errors of the solution. Beyond theory, we include numerical experiments and case studies using synthetic and real data. The real data experiments are all associated with various health informatics problems, an application area which provided the initial impetus for this work.

연구 동기 및 목표

• 데이터 분포 이탈 상황에서의 모델 성능 저하 문제를 해결하기 위해 강건한 통계적 학습 프레임워크를 개발한다.
• 워샤프스키 메트릭을 기반으로 한 분포로 강건한 최적화(DRO)를 수립하여 데이터의 분포 변화를 모델링하고 완화한다.
• 여러 문제 유형에 걸쳐 강건한 학습의 유한 표본 및 渐近 성능 보장을 확립한다.
• DRO의 강건성과 정규화의 관계를 연결하여 모델 일반화에 대한 체계적인 접근법을 제공한다.
• 합성 및 실제 건강 정보학 응용 사례를 통해 프레임워크의 실용적 유용성을 입증한다.

제안 방법

• 실제 분포를 중심으로 한 애매함 집합을 워샤프스키 거리로 정의하여 가능한 데이터 분포 변화를 포괄한다.
• 이중성 이론을 활용하여 원래의 DRO 문제를 효율적인 계산이 가능한 볼록 최적화 문제로 변환한다.
• 선형 및 다중 출력 회귀, 분류, 준지도 학습 등 여섯 가지의 다른 학습 문제에 대해 닫힌 형태 또는 효율적으로 풀 수 있는 근사해를 도출한다.
• 근접 이웃 추정과 DRO를 융합하여 분포 불확실성 하에서 최적의 의사결정을 내리는 데 활용한다.
• 강화 학습에 프레임워크를 적용하기 위해 DRO를 분포 이탈 하에서 가치 함수 추정과 융합한다.
• 유한 표본 및 渐近 분석을 통해 예측 오차 및 추정 오차에 대한 이론적 경계를 확립한다.

실험 결과

연구 질문

• RQ1 워샤프스키 메트릭을 체계적으로 활용하여 데이터 분포 이탈에 대한 강건성을 확보할 수 있는 분포로 강건한 학습을 어떻게 정식화할 수 있는가?
• RQ2 DRO 기반 학습이 다양한 지도 및 준지도 학습 과제에서 유한 표본 및 渐近 성능 보장에 대해 어떻게 작용하는가?
• RQ3 DRO 정규화는 표준 경험 리스크 최소화보다 일반화 성능을 얼마나 향상시키는가?
• RQ4 DRO는 다중 출력 회귀 및 다중 분류 문제에 어떻게 효과적으로 확장될 수 있는가?
• RQ5 DRO와 근접 이웃 추정의 융합은 불확실한 환경에서 의사결정의 강건성을 어떻게 향상시키는가?

주요 결과

• 제안된 DRO 프레임워크는 분포로 강건한 선형 및 다중 출력 회귀를 포함한 여섯 가지 학습 문제 모두에 대해 유한 표본 성능 보장을 달성한다.
• 각 문제 유형에 대해 실현 가능한 DRO 근사해를 도출하여 효율적인 최적화를 가능하게 하며, 강건성과 정규화를 체계적으로 연결한다.
• 실제 건강 정보학 데이터셋에서의 강력한 경험적 성능을 보이며, 실용성과 강건성의 타당성을 입증한다.
• 수치 실험 결과 DRO 기반 모델이 분포 이탈 상황에서 예측 정확도와 안정성 측면에서 표준 기준 모델을 능가함을 확인하였다.
• 이론적 분석을 통해 DRO 해가 온건한 정규성 조건 하에서 유한한 추정 오차 및 예측 오차를 달성함을 확인하였다.
• DRO와 근접 이웃 추정의 융합은 비 i.i.d. 및 분포 외부 데이터 설정에서 의사결정의 강건성을 향상시킨다.