[논문 리뷰] Kernel Distributionally Robust Optimization

Jia-Jie Zhu, Wittawat Jitkrittum외 2명|arXiv (Cornell University)|2020. 06. 12.

Risk and Portfolio Optimization참고 문헌 51인용 수 11

한 줄 요약

이 논문은 재생 커널 힐버트 공간(RKHS)를 사용하여 유연한 볼록 불확실성 집합을 구성하는 커널 분포로 불확실성 최적화(Kernel DRO)를 소개한다. 일반화된 이중성 정리(Generalized Duality Theorem)를 증명함으로써, 최악의 위험 최소화 문제를 RKHS 함수 위의 이중 문제로 재구성함으로써, 리프시츠 조건이나 커널 특화 제약 조건이 필요 없는 일반적인 손실 함수에 대한 강건 최적화를 가능하게 한다.

ABSTRACT

We propose kernel distributionally robust optimization (Kernel DRO) using insights from the robust optimization theory and functional analysis. Our method uses reproducing kernel Hilbert spaces (RKHS) to construct a wide range of convex ambiguity sets, which can be generalized to sets based on integral probability metrics and finite-order moment bounds. This perspective unifies multiple existing robust and stochastic optimization methods. We prove a theorem that generalizes the classical duality in the mathematical problem of moments. Enabled by this theorem, we reformulate the maximization with respect to measures in DRO into the dual program that searches for RKHS functions. Using universal RKHSs, the theorem applies to a broad class of loss functions, lifting common limitations such as polynomial losses and knowledge of the Lipschitz constant. We then establish a connection between DRO and stochastic optimization with expectation constraints. Finally, we propose practical algorithms based on both batch convex solvers and stochastic functional gradient, which apply to general optimization and machine learning tasks.

연구 동기 및 목표

• 기존 강건 최적화 방법이 리프시츠 상수를 알고 있어야 하거나 다항 손실 함수에 국한되는 한계를 해결한다.
• 일반적인 손실 함수와 데이터 기반 불확실성 집합에 적용 가능한 분포로 불확실성 최적화(DRO)의 일반적 프레임워크를 개발한다.
• 재생 커널 힐버트 공간(RKHS)과 적분 확률 거리(IPM)를 사용하여 기존의 강건 및 확률적 최적화 방법을 통합한다.
• DRO와 기대치 제약 조건이 있는 확률적 최적화 간의 연결 고리를 확립하여, 확장 가능한 알고리즘을 설계할 수 있도록 한다.
• 구형 이중성과 함수해석학을 활용하여 수학적 문제의 순간 문제에서 고전적인 이중성 결과를 일반화하는 이론적 기반을 마련한다.

제안 방법

• RKHS 노름과 적분 확률 거리(IPM)를 이용해 정의된 불확실성 집합 내에서 확률 측도 위의 최소-최대 최적화 문제로 DRO 문제를 수립한다.
• 기본 DRO 문제를 RKHS 함수 위의 이중 문제로 변환하는 일반화된 이중성 정리(정리 3.1)를 증명함으로써, 함수 공간 위의 볼록 최적화를 가능하게 한다.
• RKHS 기반 노름과 모멘트 한계를 사용하여 불확실성 집합을 구성하며, MMD(최대 평균 차이)와 IPM를 통해 정의된 집합을 포함하여 볼록성과 해석 가능성 확보.
• 보편 RKHS를 활용하여 비다항 및 비리프시츠 함수에 대해서도 이중성 결과가 적용 가능하도록 함으로써, 이전 DRO 방법의 핵심 한계를 극복한다.
• 이중 문제의 반무한 구조를 갖는 구형 문제로 재구성하고, S-레마를 사용하여 정수형 프로그래밍(SDP)을 통해 해결할 수 있는 이차 제약 조건이 있는 선형 프로그래밍(QCLP)으로 재구성한다.
• 대규모 머신러닝 작업에서의 확장 가능한 학습을 위해, 확률적 근사와 기능적 기울기 업데이트를 결합한 확률적 기능적 기울기 DRO(SFG-DRO) 알고리즘을 제안한다.

실험 결과

연구 질문

• RQ1 수학적 문제의 순간 문제에서의 이중성은 다항식이나 리프시츠 연속 함수를 초월한 임의의 손실 함수에 일반화될 수 있는가?
• RQ2 RKHS 기반의 불확실성 집합은 모멘트 한계와 IPM 기반의 기존 강건 최적화 방법을 통합하기 위해 어떻게 구성할 수 있는가?
• RQ3 이중성 프레임워크는 커널화되지 않은 모델로 어떻게 확장될 수 있으며, 이를 통해 커널화된 학습을 초월한 강건성을 확보할 수 있는가?
• RQ4 분포로 불확실성 최적화와 기대치 제약 조건이 있는 확률적 최적화 간의 관계는 무엇이며, 이를 알고리즘적으로 어떻게 활용할 수 있는가?
• RQ5 암시적 리프시츠 상수나 커널 구조에 대한 지식이 필요 없이, DRO를 위한 확장 가능한 실용적 알고리즘을 개발할 수 있는가?

주요 결과

• 일반화된 이중성 정리(정리 3.1)는 DRO의 최악의 위험을 RKHS 함수 위의 볼록 최적화 문제로 재구성함으로써, 리프시츠 연속성 또는 다항 손실 가정 없이도 적용 가능함을 입증한다.
• RKHS 노름을 통해 정의된 불확실성 집합은 입력 공간이 컴act일 경우 컴팩트하고 볼록하므로 최적 해의 존재를 보장한다.
• 보편 RKHS를 사용함으로써, 비다항 및 비리프시츠 손실 함수를 포함한 광범위한 손실 함수 클래스에 적용 가능함을 보장하여, 이전 DRO 방법의 핵심 한계를 극복한다.
• DRO와 기대치 제약 조건이 있는 확률적 최적화 간의 연결 고리를 공식적으로 확립함으로써, 새로운 확률적 기능적 기울기 DRO(SFG-DRO) 알고리즘 설계가 가능해졌다.
• 확률적 근사와 기능적 기울기 업데이트를 조합함으로써 SFG-DRO 알고리즘이 현대 머신러닝 작업에 확장 가능하며 실용적인 효율성을 달성한다.
• 이론적 분석을 통해 이중성 프레임워크가 고전적인 수학적 문제의 순간 문제 결과를 일반화함을 확인하였으며, 부록에 완전한 자가 포함된 증명이 제공된다.