[논문 리뷰] Gradient Methods for Submodular Maximization

Hamed Hassani, Mahdi Soltanolkotabi외 1명|arXiv (Cornell University)|2017. 08. 13.

Stochastic Gradient Optimization Techniques참고 문헌 26인용 수 28

한 줄 요약

이 논문은 볼록 제약 조건 하에서 연속적인 하위모듈러 함수를 최대화하기 위해 투영된 경사상승법이 강력한 근사 보장을 제공한다는 것을 입증한다. 단조적이고 DR-하위모듈러 함수의 모든 고정점은 전역 최적해에 대해 1/2 근사값을 제공하며, 확률적/투영된 경사상승법은 $\mathcal{O}(1/\epsilon^2)$ 반복 이내에 $\text{OPT}/2$에 $\epsilon$ 이내의 해로 수렴한다. 이는 연속적 근사를 통한 확률적 및 이산 하위모듈러 문제의 효율적 최적화를 가능하게 한다.

ABSTRACT

In this paper, we study the problem of maximizing continuous submodular functions that naturally arise in many learning applications such as those involving utility functions in active learning and sensing, matrix approximations and network inference. Despite the apparent lack of convexity in such functions, we prove that stochastic projected gradient methods can provide strong approximation guarantees for maximizing continuous submodular functions with convex constraints. More specifically, we prove that for monotone continuous DR-submodular functions, all fixed points of projected gradient ascent provide a factor $1/2$ approximation to the global maxima. We also study stochastic gradient and mirror methods and show that after $\mathcal{O}(1/ε^2)$ iterations these methods reach solutions which achieve in expectation objective values exceeding $(\frac{ ext{OPT}}{2}-ε)$. An immediate application of our results is to maximize submodular functions that are defined stochastically, i.e. the submodular function is defined as an expectation over a family of submodular functions with an unknown distribution. We will show how stochastic gradient methods are naturally well-suited for this setting, leading to a factor $1/2$ approximation when the function is monotone. In particular, it allows us to approximately maximize discrete, monotone submodular optimization problems via projected gradient descent on a continuous relaxation, directly connecting the discrete and continuous domains. Finally, experiments on real data demonstrate that our projected gradient methods consistently achieve the best utility compared to other continuous baselines while remaining competitive in terms of computational effort.

연구 동기 및 목표

• 연속 하위모듈러 함수 최적화에서 경사 기반 방법의 경험적 성공에 대한 이론적 근거를 제공하기 위해.
• 볼록 제약 조건이 존재하는 상황에서 비볼록이지만 하위모듈러 목표 함수에 대한 투영된 경사상승법의 근사 보장을 수립하기 위해.
• 대규모 또는 노이즈가 있는 하위모듈러 최적화를 위한 스 tochastic 및 미러 강하 변종으로 이러한 보장을 확장하기 위해.
• 투영된 경사강하법이 다항선형 확장에 적용될 때 이산적이고 연속적 하위모듈러 최적화를 연결함으로써 증명 가능하게 좋은 해를 도출함을 보여주기 위해.
• $L_2$, $L_*$, 및 하위모듈러 비율 $\gamma$ 에 따른 수렴 속도와 부드러움 의존성 분석하기 위해.

제안 방법

• 유계 볼록 집합 $\mathcal{K}$ 상에서 연속적, 단조적, DR-하위모듈러 함수에 대해 투영된 경사상승법을 사용한다.
• 이러한 함수의 모든 정적점이 비록 함수가 비볼록이지만 전역 최적해에 대해 $1/2$ 근사값을 제공함을 증명한다.
• 편향 없는 경사 추정치를 사용하는 확률적 경사강하법을 적용하여, $\mathcal{O}(L_2/\epsilon + \sigma^2/\epsilon^2)$ 반복 이내에 $\text{OPT}/2 - \epsilon$ 으로 수렴함을 보인다.
• Bregman 발산을 사용하는 미러 강하법을 도입하여, 동일한 근사 보장을 $\mathcal{O}(L_*/\epsilon + \sigma^2/\epsilon^2)$ 반복 이내에 달성한다.
• 부드러움과 약한 DR-하위모듈러성(파라미터 $\gamma$ 로 표현)을 활용하여, 약한 하위모듈러 함수에 대해 $1/2$ 보장을 $\gamma^2/(1+\gamma^2)$ 로 일반화한다.
• 강한 볼록성의 잠재 함수 $\Phi$ 를 활용하여 Bregman 발산과 기대 최적성 불일치를 통해 수렴 경계를 유도한다.

실험 결과

연구 질문

• RQ1 투영된 경사 방법은 볼록 제약 조건 하에서 연속 하위모듈러 함수 최대화에 대해 증명 가능한 근사 보장을 제공할 수 있는가?
• RQ2 연속 하위모듈러 최대화를 위한 확률적 투영된 경사상승법의 수렴 속도는 얼마인가?
• RQ3 약한 하위모듈러 함수에서 하위모듈러 비율 $\gamma$ 는 근사 품질에 어떻게 영향을 미치는가?
• RQ4 부드러움 파라미터 측면에서 $\ell_2$ 기반 경사 방법보다 Bregman 발산을 사용하는 미러 강하법이 더 나은 수렴 성능을 달성할 수 있는가?
• RQ5 연속적 경사 방법을 통해 다항선형 확장의 연속적 근사를 통해 얼마나 효율적으로 이산 하위모듈러 최적화 문제를 근사해 낼 수 있는가?

주요 결과

• 유계 볼록 집합 $\mathcal{K}$ 상에서 단조적이고 연속적인 DR-하위모듈러 함수의 모든 고정점은 전역 최대값에 대해 $1/2$ 근사값을 제공한다.
• 작은 스텝 크기를 갖는 투영된 경사상승법(경사 흐름)은 $1/2$ 근사해로 수렴한다.
• 확률적 투영된 경사상승법은 $\mathcal{O}(L_2/\epsilon + \sigma^2/\epsilon^2)$ 반복 이내에 기대 목표값이 $\text{OPT}/2 - \epsilon$ 이상이 되도록 보장한다.
• 투영된 미러 상승법은 $\mathcal{O}(L_*/\epsilon + \sigma^2/\epsilon^2)$ 반복 이내에 동일한 $\text{OPT}/2 - \epsilon$ 보장을 달성하며, $L_*$ 는 $L_2$ 와 비교해 상당히 작을 수 있다.
• 하위모듈러 비율 $\gamma$ 를 갖는 약한 DR-하위모듈러 함수의 경우 근사 보장은 $\gamma^2/(1 + \gamma^2)$ 로 일반화되며, 이는 $1/2$ 결과를 일반화한다.
• 이 방법은 다항선형 확장의 연속적 근사를 통해 이산 단조 하위모듈러 최적화 문제의 효율적 근사화를 가능하게 한다.