[논문 리뷰] Distributionally Robust Submodular Maximization

Matthew Staib, Bryan Wilder외 1명|arXiv (Cornell University)|2018. 02. 14.

Risk and Portfolio Optimization참고 문헌 35인용 수 8

한 줄 요약

이 논문은 알려지지 않은 분포로부터 유한한 수의 표본만 이용 가능한 확률적 함수 하에서 부분모듈라 최대화를 위한 분포로 불변 최적화(DRO) 프레임워크를 제안한다. 편향과 분산을 균형 잡는 분산 정규화된 목적함수를 직접 최적화함으로써, 표준 경험 리스크 최소화보다 더 나은 일반화 성능을 달성한다. 새로운 알고리즘(MFW)은 이론적 보장을 제공하며, 특히 분산이 높고 표본 수가 적은 경우에 우수한 성능을 보인다.

ABSTRACT

Submodular functions have applications throughout machine learning, but in many settings, we do not have direct access to the underlying function $f$. We focus on stochastic functions that are given as an expectation of functions over a distribution $P$. In practice, we often have only a limited set of samples $f_i$ from $P$. The standard approach indirectly optimizes $f$ by maximizing the sum of $f_i$. However, this ignores generalization to the true (unknown) distribution. In this paper, we achieve better performance on the actual underlying function $f$ by directly optimizing a combination of bias and variance. Algorithmically, we accomplish this by showing how to carry out distributionally robust optimization (DRO) for submodular functions, providing efficient algorithms backed by theoretical guarantees which leverage several novel contributions to the general theory of DRO. We also show compelling empirical evidence that DRO improves generalization to the unknown stochastic submodular function.

연구 동기 및 목표

• 알려지지 않은 분포로부터 유한한 수의 표본만 확보된 경우 부분모듈라 최적화의 일반화 갭을 해소하기 위해.
• 경험 평균에 의존하는 대신, 편향-분산 트레이드오���을 직접 최적화하여 진정한 확률적 부분모듈라 함수에서의 성능 향상.
• 표준 분산 정규화된 접근 방식에서의 비가역성 문제를 극복하기 위해, 실용적이고 확장 가능한 분포로 불변 부분모듈라 최적화 알고리즘 개발.
• DRO의 이론적 기초를 확립하고, DRO와 분산 정규화 간의 관계를 향상된 방식으로 특성화하기 위해.
• 제안된 방법이 표준 기준보다 일반화 성능이 뛰어나다는 것을 경험적으로 검증하며, 특히 표본 분산이 높을 경우에 유의미한 성능 향상을 보일 것.

제안 방법

• 문제를 변형된 경험 분포에 대한 최악의 기대값을 최대화하는 분포로 불변 최적화(DRO) 문제로 공식화한다.
• DRO 공식화에 해당하는 분산 정규화된 목적함수를 도입하여, 경험 분포의 불확실성을 고려함으로써 일반화 성능 향상을 달성한다.
• 핵심 알고리즘인 수정된 프랭크-울프(MFW)는 비볼록이고 조합 최적화 성격을 지닌 부분모듈라 함수를 다룰 수 있도록 설계되었으며, 리프시츠 기울기 상한을 보장하는 수렴성을 확보한다.
• 부분모듈라 함수의 다각형 확장과 스왑 라운딩을 활용하여 분수 해를 가용 부분집합의 분포로 변환하며, 보장된 근사 비율을 확보한다.
• 부분모듈라성과 유한한 마진 수익의 조건을 이용해 DRO 목적함수의 기울기 리프시츠 상한을 유계로 제한함으로써 이론적 수렴 속도를 확립한다.
• 항목에 대한 곱 분포를 사용하고 상관관계 갭 결과를 적용하여, 최적의 임의의 분포에 비해 최적의 곱 분포가 (1−1/e) 요인 이내에 있음을 보여준다.

실험 결과

연구 질문

• RQ1 소수의 표본만 확보된 경우 분포로 불변 최적화가 부분모듈라 최대화의 일반화 성능을 향상시킬 수 있는가?
• RQ2 비볼록이고 조합 최적화 성격을 지닌 문제이지만, 확률적 부분모듈라 함수의 맥락에서 분산 정규화는 실용적이고 확장 가능한가?
• RQ3 DRO 공식화는 부분모듈라 설정에서 분산 정규화와 어떻게 관련되어 있으며, 효율적 최적화를 가능하게 하는 구조적 성질은 무엇인가?
• RQ4 이러한 비볼록, 부분모듈라 DRO 환경에서 프랭크-울프 스타일 알고리즘에 대해 이론적 수렴 보장을 확립할 수 있는가?
• RQ5 제안된 방법이 실생활에서 표준 경험 리스크 최소화(즉, 표본 평균화)보다 뛰어나게 성능을 발휘하는가, 특히 분산이 높을 경우에 유의미한 성능 향상을 보일 수 있는가?

주요 결과

• 제안된 MFW 알고리즘은 $ big(ig|Vig|^{1/2}L + 1ig) $ 의 리프시츠 기울기 상한을 갖는 수렴성을 확보한다. 여기서 $ b $ 는 최대 마진 수익이고 $ L $ 은 함수에 따라 결정되는 상수이다.
• 분수 출력 $ x $ 에서 유도된 해는 부분집합에 대한 분포로 라운딩될 수 있으며, 이 경우 DRO 문제에 대해 최적해의 $ (1 - 1/e) $ 요인 이내의 기대값을 확보한다.
• 경험 결과에 따르면, 표본 분산이 높을 경우 표준 경험 평균화보다 DRO 접근 방식이 더 나은 일반화 성능을 보인다.
• 이론적 분석을 통해 DRO 목적함수는 분산 정규화된 목적함수와 동치임을 밝혀내었으며, 이전 연구보다 더 정교한 관계 특성화를 제공한다.
• 부분모듈라성에 특화된 구조를 통합하고 더 강력한 알고리즘 보장을 제공함으로써, 이전의 강력한 부분모듈라 최적화 방법보다 향상된 성능을 달성한다.
• 표본 수가 적은 영역에서도 확장 가능하고 효과적이며, 표준 경험 리스크 최소화가 높은 분산으로 인해 실패하는 상황에서도 유의미한 성능을 유지한다.