[논문 리뷰] Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap

Aryan Mokhtari, Hamed Hassani외 1명|arXiv (Cornell University)|2017. 11. 05.

Complexity and Algorithms in Graphs참고 문헌 37인용 수 9

한 줄 요약

이 논문은 볼록체 제약 조건 하에서 스 tochastic 연속 하위모듈러 최대화를 위한 새로운 조건부 그래디언트 방법인 Stochastic Continuous Greedy (SCG)를 제안한다. 이는 기댓값으로 $(1-1/e)$의 날것있는 근사 보장을 달성하며, $\mathcal{O}(1/ heta^3)$개의 스 tochastic 그래디언트 계산을 통해, 결정론적 및 스 tochastic 설정 간의 격차를 해소하고, 매트로이드 제약 조건 하에서 스 tochastic 하위모듈러 집합 함수에 대해 처음으로 $(1-1/e)$-근사해를 제공한다.

ABSTRACT

In this paper, we study the problem of extit{constrained} and extit{stochastic} continuous submodular maximization. Even though the objective function is not concave (nor convex) and is defined in terms of an expectation, we develop a variant of the conditional gradient method, called \alg, which achieves a extit{tight} approximation guarantee. More precisely, for a monotone and continuous DR-submodular function and subject to a extit{general} convex body constraint, we prove that \alg achieves a $[(1-1/e) ext{OPT} -\eps]$ guarantee (in expectation) with $\mathcal{O}{(1/\eps^3)}$ stochastic gradient computations. This guarantee matches the known hardness results and closes the gap between deterministic and stochastic continuous submodular maximization. By using stochastic continuous optimization as an interface, we also provide the first $(1-1/e)$ tight approximation guarantee for maximizing a extit{monotone but stochastic} submodular extit{set} function subject to a general matroid constraint.

연구 동기 및 목표

• 결정론적 및 스 tochastic 연속 하위모듈러 최대화 간 격차를 메우기 위해 스 tochastic 설정에서 날것있는 $(1-1/e)$ 근사 보장을 달성하는 것.
• 미니배치를 사용하지 않고 이전 스 tochastic 그래디언트를 평균화하는 방식으로 메모리 효율적인 스 tochastic 최적화 방법을 개발하는 것.
• 연속적 근사화를 통해 이론적 보장을 이산적 스 tochastic 하위모듈러 최대화에 확장하는 것, 특히 매트로이드 제약 조건 하에서.
• 목적 함수가 기댓값으로 정의될 때, 단조적이고 매끄럽고 DR-하위모듈러인 함수에 대해 일반적인 볼록체 제약 조건 하에서 증명 가능하게 수렴하는 알고리즘을 제공하는 것.

제안 방법

• 불편한 스 tochastic 그래디언트 추정치를 사용하지만 미니배치가 필요 없도록 하는 조건부 그래디언트 방법의 변종인 Stochastic Continuous Greedy (SCG)를 제안한다.
• 최근의 스 tochastic 그래디언트와 이전 그래디언트의 가중 평균을 사용하여 진정한 그래디언트의 추정치를 유지하기 위해 재귀적 평균화 전략을 활용한다.
• 스 tochastic 설정에서 수렴성과 분산을 균형 잡기 위해 감소하는 스텝 사이즈 $\rho_t = \frac{4}{(t+8)^{2/3}}$를 사용한다.
• 목적 함수의 DR-하위모듈러성과 매끄러움을 활용하여 헤시안 근사의 하한을 유도함으로써 수렴 분석을 가능하게 한다.
• 테일러 전개와 행렬 노름 한계를 적용하여 함수 값 증가를 그래디언트 방향과 곡률과 연결함으로써, $(1-1/e)$-근사해로 수렴함을 보장한다.
• 다양한 선형 확장 프레임워크를 활용하여 연속적 스 tochastic 하위모듈러 최적화를 이산 하위모듈러 최대화(매트로이드 제약 조건 하)와 연결한다.

실험 결과

연구 질문

• RQ1 조건부 그래디언트 방법의 스 tochastic 변종이 볼록 제약 조건 하에서 연속 DR-하위모듈러 최대화에 대해 날것있는 $(1-1/e)$ 근사 보장을 달성할 수 있는가?
• RQ2 제안된 SCG 알고리즘이 미니배치를 사용하지 않음에도 불구하고 수렴성과 근사 품질을 유지할 수 있는가? 즉, 메모리 효율성이 향상되는가?
• RQ3 연속적 스 tochastic 최적화 프레임워크를 활용하여 일반 매트로이드 제약 조건 하에서 이산적 스 tochastic 하위모듈러 최대화에 대해 처음으로 $(1-1/e)$-근사해를 유도할 수 있는가?
• RQ4 오직 편향이 없는 그래디언트 접근만을 가질 때, 스 tochastic 하위모듈러 최적화에서 수렴 속도와 근사 오차 사이의 최적 균형은 무엇인가?

주요 결과

• Stochastic Continuous Greedy는 $\mathcal{O}(1/\theta^3)$개의 스 tochastic 그래디언트 계산 후 기댓값으로 최소 $(1-1/e)\text{OPT} - \theta$의 목적 함수 값을 달성한다.
• 이 알고리즘은 $(1-1/e)$의 알려진 경계 결과를 충족하여, 결정론적 및 스 tochastic 연속 하위모듈러 최대화 간 이론적 격차를 해소한다.
• 이 방법은 메모리 효율적이며, 반복마다 단일 스 tochastic 그래디언트만 필요로 하고, 이전의 스 tochastic 조건부 그래디언트 방법과 달리 미니배치가 필요로 하지 않는다.
• 분석을 통해 근사 오차의 수렴 속도가 $\mathcal{O}(T^{-1/3})$임을 입증하였으며, 함수 곡률 및 영역 직경과 같은 문제 파라미터에 명시적인 의존성을 보였다.
• 이 프레임워크를 통해 일반 매트로이드 제약 조건 하에서 단조적 스 tochastic 하위모듈러 집합 함수를 최대화하기 위한 처음으로 $(1-1/e)$-근사해를 도출할 수 있었다.