[논문 리뷰] Continuous DR-submodular Maximization: Structure and Algorithms

An Bian, Kfir Y. Levy외 2명|arXiv (Cornell University)|2017. 11. 04.

Complexity and Algorithms in Graphs참고 문헌 37인용 수 10

한 줄 요약

이 논문은 일반적인 내림차순 볼록 제약 조건 하에서 비단조화 연속 DR-하위모듈러 함수를 최대화하기 위한 두 가지 새로운 알고리즘을 제안한다. 정류점과 전역 최적해 사이의 기하적 성질을 규명하고, 1/4-근사 보장과 함께 수렴 속도가 1/√k인 이중 단계 프랭크-울프 방법과, 1/e-근사 보장과 하위선형 수렴을 보이는 비단조화 프랭크-울프 변형을 제안하며, 각각 증명 가능한 성능 한계를 갖는다.

ABSTRACT

DR-submodular continuous functions are important objectives with wide real-world applications spanning MAP inference in determinantal point processes (DPPs), and mean-field inference for probabilistic submodular models, amongst others. DR-submodularity captures a subclass of non-convex functions that enables both exact minimization and approximate maximization in polynomial time. In this work we study the problem of maximizing non-monotone DR-submodular continuous functions under general down-closed convex constraints. We start by investigating geometric properties that underlie such objectives, e.g., a strong relation between (approximately) stationary points and global optimum is proved. These properties are then used to devise two optimization algorithms with provable guarantees. Concretely, we first devise a "two-phase" algorithm with $1/4$ approximation guarantee. This algorithm allows the use of existing methods for finding (approximately) stationary points as a subroutine, thus, harnessing recent progress in non-convex optimization. Then we present a non-monotone Frank-Wolfe variant with $1/e$ approximation guarantee and sublinear convergence rate. Finally, we extend our approach to a broader class of generalized DR-submodular continuous functions, which captures a wider spectrum of applications. Our theoretical findings are validated on synthetic and real-world problem instances.

연구 동기 및 목표

• 일반적인 내림차순 볼록 제약 조건 하에서 비단조화 연속 DR-하위모듈러 함수를 최대화하기 위한 보장된 알고리즘이 부족한 문제를 해결한다.
• DR-하위모듈러 함수의 배경이 되는 기하학적 구조, 특히 정류점과 전역 최적해 사이의 관계를 탐구한다.
• 이 일반적인 비볼록 문제의 클래스에 대해 증명 가능한 근사 보장이 있는 효율적인 최적화 알고리즘을 개발한다.
• 원뿔 격자 위에서 일반화된 DR-하위모듈러 함수를 정의하고, 비음수 PCA 및 비볼록 정규화 로지스틱 회귀와 같은 더 넓은 응용을 모델링할 수 있도록 한다.
• 합성 및 실세계 사례에서 이론적 결과를 실증적으로 검증하며, DPP의 소프트맥스 확장 및 평균장 추론 문제를 포함한다.

제안 방법

• 기존 방법을 사용해 근사 정류점을 찾는 서브루틴을 활용하는 이중 단계 프랭크-울프 스타일 알고리즘을 도입하여, 1/√k 수렴 속도로 1/4-근사 보장을 달성한다.
• 비단조화 프랭크-울프 변형을 제안하여, DR-하위모듈러성의 구조를 활용해 1/e-근사 보장과 하위선형 수렴을 달성한다.
• 정류점에서의 목적 함수 값과 전역 최적해 사이의 차이에 대한 이론적 한계를 설정하며, 강한 DR-하위모듈러성 하에서는 더 탴한 한계를 확보한다.
• 원뿔 격자 위에서 일반화된 DR-하위모듈러 함수의 클래스를 정의하고 분석하여, 비음수 PCA 및 비볼록 정규화 로지스틱 회귀와 같은 응용을 모델링할 수 있도록 한다.
• 일반화된 DR-하위모듈러 문제를 표준 연속 하위모듈러 최적화 문제로 변환하는 감소 기법을 제공하여 기존 솔버의 사용을 가능하게 한다.
• 제약 조건 최적화에서의 비정류성 개념과 DR 성질을 활용해 수렴성 및 근사 보장의 이론적 근거를 도출한다.

실험 결과

연구 질문

• RQ1 연속 DR-하위모듈러 최대화 문제에서 정류점과 전역 최적해를 연결하는 기하적 성질은 무엇인가?
• RQ2 일반적인 내림차순 볼록 제약 조건 하에서 비단조화 연속 DR-하위모듈러 최대화 문제에 대해 증명 가능한 수렴 성질을 갖는 알고리즘을 설계할 수 있는가?
• RQ3 이러한 문제에서 달성 가능한 근사 보장은 무엇이며, 단조성 또는 상자 제약 조건 설정 하에서 알려진 한계와 비교해 볼 때 어떻게 다른가?
• RQ4 이 프레임워크는 표준 DR-하위모듈러 함수를 초월해 더 넓은 비볼록 최적화 문제의 클래스를 모델링하기 위해 어떻게 확장할 수 있는가?
• RQ5 특히 DPP 및 평균장 추론 응용에서 실세계 및 합성 사례에서 기대할 수 있는 경험적 성능는 어떠한가?

주요 결과

• 논문은 정류점에서의 목적 함수 값과 전역 최적해 사이의 차이가 유계임을 증명하며, 강한 DR-하위모듈러성 하에서는 더 탄탄한 한계를 확보한다.
• 이중 단계 프랭크-울프 알고리즘은 1/4-근사 보장을 달성하며, 수렴 속도가 O(1/√k)임을 입증한다.
• 비단조화 프랭크-울프 변형은 1/e-근사 보장을 달성하고 하위선형 수렴을 보이며, 1/4 보다 향상된 성능를 제공한다.
• 이론적 분석을 통해 정류점이 전역 최적해에 가까워지며, 이는 비볼록 최적화 서브루틴의 효과적 활용을 가능하게 한다.
• 일반화된 DR-하위모듈러 프레임워크를 통해 비음수 PCA 및 비볼록 정규화 로지스틱 회귀와 같은 복잡한 응용을 표준 하위모듈러 최적화 문제로의 감소를 통해 모델링할 수 있다.
• 합성 및 실세계 사례에서의 경험적 결과는 제안된 알고리즘이 효과적임을 확인하며, 테스트된 환경에서 이중 단계 프랭크-울프가 뛰어난 성능를 보였다.