[논문 리뷰] Stochastic Submodular Maximization: The Case of Coverage Functions

Mohammad Reza Karimi, Mario Lučić외 2명|arXiv (Cornell University)|2017. 11. 05.

Complexity and Algorithms in Graphs참고 문헌 23인용 수 12

한 줄 요약

이 논문은 매트로이드 제약 조건 하에서 가중 커버리지 함수를 최대화하기 위한 확률적 연속 최적화 프레임워크를 제안한다. 다중선형 확장 상에서 투영된 확률적 경사상승법을 활용하여 (1−1/e)-근사 보장을 보장한다. 이는 탐욕 알고리즘 대비 수개의 주기적 속도 향상을 이룩하면서도 영향력 확산 및 예시 클러스터링 작업에서 near-optimal 성능을 유지한다.

ABSTRACT

Stochastic optimization of continuous objectives is at the heart of modern machine learning. However, many important problems are of discrete nature and often involve submodular objectives. We seek to unleash the power of stochastic continuous optimization, namely stochastic gradient descent and its variants, to such discrete problems. We first introduce the problem of stochastic submodular optimization, where one needs to optimize a submodular objective which is given as an expectation. Our model captures situations where the discrete objective arises as an empirical risk (e.g., in the case of exemplar-based clustering), or is given as an explicit stochastic model (e.g., in the case of influence maximization in social networks). By exploiting that common extensions act linearly on the class of submodular functions, we employ projected stochastic gradient ascent and its variants in the continuous domain, and perform rounding to obtain discrete solutions. We focus on the rich and widely used family of weighted coverage functions. We show that our approach yields solutions that are guaranteed to match the optimal approximation guarantees, while reducing the computational cost by several orders of magnitude, as we demonstrate empirically.

연구 동기 및 목표

• 서브모듈러 최대화 문제에 대한 이산 탐욕 알고리즘의 계산 비효율성을 해결한다.
• 예를 들어 사회적 네트워크 내의 영향력 또는 클러스터링에서의 경험적 위험과 같이 랜덤 인스턴스의 기대값으로 정의된 서브모듈러 목표 함수의 스케일러블 최적화를 가능하게 한다.
• 이론적 근사 보장을 유지하면서도 확률적 경사 방법을 통해 런타임을 줄이는 연속 영역 접근법을 개발한다.
• 속도와 정확성 측면에서 기존의 이산 방법에 비해 실용적으로 뛰어난 성능을 보이는 확률적 연속 최적화의 우수성을 입증한다.

제안 방법

• 가중 커버리지 함수의 다중선형 확장( multilinear extension )을 사용하여 이산 서브모듈러 문제를 연속 영역으로 이행한다.
• 독립 동일분포(i.i.d.) 샘플로부터의 비편향된 기울기 추정치를 사용하여 다중선형 확장의 오목 리프레젠테이션을 최대화하기 위해 투영된 확률적 경사상승법을 적용한다.
• Fenchel 쌍대성과 이중 쌍대성을 활용하여 쌍대 공식화를 유도하고 최적 해로의 수렴을 보장한다.
• 근사 품질을 유지하면서도 분수 해를 무작위 라운딩을 통해 정수 해로 변환하며, (1−1/e)-근사 보장을 유지한다.
• 연속 영역 내 수렴 속도를 향상시키기 위해 적응형 최적화 알고리즘(예: Adam, AdaGrad)을 통합한다.
• 최적화 과정 중에 반복값을 매트로이드 페취토( matroid polytope )에 투영하여 제약 조건을 충족시킨다.

실험 결과

연구 질문

• RQ1 확률적 연속 최적화 기법은 확률적 서브모듈러 최대화 문제에서 탐욕 알고리즘과 동일한 근사 보장을 달성할 수 있는가?
• RQ2 다중선형 확장 상에서의 확률적 경사상승법은 탐욕 알고리즘 대비 런타임과 해 품질 측면에서 어떻게 비교되는가?
• RQ3 매트로이드 제약 조건 하에서 가중 커버리지 함수에 대해 제안된 방법의 이론적 근사 보장은 무엇인가?
• RQ4 정확한 목표 함수 평가가 계산적으로 불가능한 대규모 문제에 이 프레임워크가 대응할 수 있는가?
• RQ5 매트로이드 제약 조건이 분할 매트로이드인 경우, 초기 결정이 비최적일 수 있는 영향력 확산 문제에서 탐욕 알고리즘이 실패하는 상황에서 이 방법이 탐욕보다 뛰어난 성능을 보이는가?

주요 결과

• 제안된 방법은 기대값 기반으로 가중 커버리지 함수에 대해 (1−1/e)-근사 보장을 달성하며, 다항식 시간 알고리즘에서 확보 가능한 최고의 이론적 상한과 일치한다.
• 실험 결과, 탐욕 알고리즘 대비 런타임을 최대 한 단계(10배) 감소시키며, 평균 오차율은 1% 미만을 기록한다.
• 탐욕 알고리즘이 초기 결정으로 인해 비최적의 노드를 선택하는 경우, 예를 들어 분할 매트로이드 제약 조건 하에서의 영향력 확산 문제에서, 본 방법은 최적의 해를 성공적으로 식별한다.
• 다중선형 확장 상에서의 확률적 경사상승법은 효율적으로 수렴하며, 실무에서 수렴 속도를 가속화하는 데에 Adam과 같은 적응형 방법이 효과적이다.
• 정확한 평가가 불가능한 대규모 데이터셋에서도 이론적 보장을 유지하면서 스케일러블 최적화를 가능하게 한다.
• Fenchel 쌍대성 분석을 통해 다중선형 확장의 이중 쌍대가 원래 함수를 복원함을 확인하여, 쌍대 기반 접근법의 타당성을 검증한다.