[논문 리뷰] Optimal Streaming Algorithms for Submodular Maximization with Cardinality Constraints

Naor Alaluf, Alina Ene외 3명|arXiv (Cornell University)|2019. 11. 29.

Complexity and Algorithms in Graphs참고 문헌 40인용 수 6

한 줄 요약

이 논문은 기수 제약 조건 하에서 비단조화 하위모듈라 최대화를 위한 단일 패assing 스트리밍 알고리즘을 제안한다. 이 알고리즘은 O(k/ε²) 메모리를 사용하며, 임계값 기반 그레디언트 프로세스를 통해 후보 집합을 유지하고, 후처리 단계에서 어떤 오프라인 알고리즘을 사용하여도 α/(1+α) − ε의 근사 보장을 달성한다. 정확한 후처리를 통해 1/2 − ε 근사 비율을 달성하고, 최신의 다항시간 알고리즘(α = 0.385)을 사용하면 0.2779-근사 비율을 달성한다.

ABSTRACT

We study the problem of maximizing a non-monotone submodular function subject to a cardinality constraint in the streaming model. Our main contributions are two single-pass (semi-)streaming algorithms that use Õ(k)⋅poly(1/ε) memory, where k is the size constraint. At the end of the stream, both our algorithms post-process their data structures using any offline algorithm for submodular maximization, and obtain a solution whose approximation guarantee is α/(1+α)-ε, where α is the approximation of the offline algorithm. If we use an exact (exponential time) post-processing algorithm, this leads to 1/2-ε approximation (which is nearly optimal). If we post-process with the algorithm of [Niv Buchbinder and Moran Feldman, 2019], that achieves the state-of-the-art offline approximation guarantee of α = 0.385, we obtain 0.2779-approximation in polynomial time, improving over the previously best polynomial-time approximation of 0.1715 due to [Feldman et al., 2018]. One of our algorithms is combinatorial and enjoys fast update and overall running times. Our other algorithm is based on the multilinear extension, enjoys an improved space complexity, and can be made deterministic in some settings of interest.

연구 동기 및 목표

• 기수 제약 조건 하에서 비단조화 하위모듈라 최대화에 대한 최적의 스트리밍 알고리즘이 부족한 문제를 해결한다.
• 기존의 스트리밍 알고리즘이 다항시간 내에서 오직 1/3 + 2/√2 ≈ 0.1715 근사 비율을 달성하는 데에 한계가 있다는 것을 극복한다.
• 기존의 오프라인 하위모듈라 최대화 알고리즘을 후처리 단계에서 활용할 수 있도록 하는 스트리밍 알고리즘을 설계한다.
• 다항식 공간과 시간 내에서 거의 최적의 근사 비율(1/2 − ε)을 달성하며, 알려진 근사 불가능성 경계와 일치시킨다.
• 빠른 요소 갱신 시간을 가진 결정론적이고 조합론적인 알고리즘을 설계한다. 이는 비단조화 하위모듈라 최적화에서 흔하지 않다.

제안 방법

• 동적 임계값 κ를 사용하는 임계값 기반 그레디언트 선택 프로세스를 통해 후보 집합 S1,1을 유지하는 단일 패assing 스트리밍 접근법을 사용한다.
• 랜덤 샘플링 전략을 적용한다: 스트림의 m = Θ(1/ε)개의 독립적인 샘플을 생성하고, 각 샘플을 임계값 기반 그레디언트 알고리즘으로 처리하여 집합 Si,1를 형성한다.
• 합집합 집합 U = ∪i Si,1를 구성하고, 이를 어떤 오프라인 하위모듈라 최대화 알고리즘의 후처리 입력으로 사용한다.
• U를 오프라인 알고리즘을 사용해 후처리하여 해 T를 구하고, S1,1과 T 중 더 나은 것을 반환한다.
• 볼록 확장과 집중 경계를 활용하여 최종 해의 기대값을 분석하며, 다중선형 확장과 제한된 척도 불변성을 사용한다.
• 조건부 확률과 하위모듈라성의 성질을 이용하여 S1,1에 대한 O′₂의 경계 기여도를 제한하고, f(S1,1 ∪ (O1 ∩ U))가 기대적으로 f(OPT)에 가까운지를 보인다.

실험 결과

연구 질문

• RQ1 다항식(k, 1/ε) 메모리 내에서 기수 제약 조건 하에서 비단조화 하위모듈라 최대화에 대해 (1/2 − ε)-근사 비율을 달성할 수 있는 스트리밍 알고리즘이 존재하는가?
• RQ2 단일 임계값 기반 그레디언트 접근법이 단조화 경우에 성공했듯이, 비단조화 설정에서도 스트리밍 환경에서 적용 가능한가?
• RQ3 기존의 고성능 오프라인 하위모듈라 최대화 알고리즘을 후처리를 통해 스트리밍 모델에서 효과적으로 활용할 수 있는가?
• RQ4 다항식(k, 1/ε) 공간 내에서 비단조화 하위모듈라 최대화 문제에 대해 스트리밍 모델에서 달성 가능한 최적의 근사 비율은 무엇인가?
• RQ5 비단조화 하위모듈라 최대화에 대해 빠른 갱신 시간을 가진 결정론적이고 조합론적인 스트리밍 알고리즘을 설계할 수 있는가?

주요 결과

• 제안된 알고리즘은 후처리 단계에서 사용된 오프라인 알고리즘의 근사 비율 α에 대해 α/(1+α) − ε의 근사 비율을 달성한다.
• 정확한(지수시간) 오프라인 알고리즘을 후처리에 사용할 경우 (1/2 − ε)-근사 비율을 달성하며, 이는 이 문제에 대해 알려진 스트리밍 모델 내 근사 불가능성 하한선 1/2와 일치한다.
• 최신의 다항시간 오프라인 알고리즘(α = 0.385)을 사용할 경우 0.2779-근사 비율을 달성하며, 이는 이전 최고 성능인 0.1715를 향상시킨다.
• 알고리즘은 오직 O(k/ε²) 메모리만을 사용하고, 요소당 갱신 시간이 O((log k + log(1/α))/ε²)로 매우 효율적이며, 대규모 데이터 처리에 적합하다.
• 알고리즘은 결정론적이고 조합론적이며, 비단조화 하위모듈라 최적화에서 흔하지 않은 특성으로, 연속적 근사나 복잡한 분포에 의존하지 않는다.
• 분석 결과 E[f(S1,1 ∪ (O1 ∩ U))] ≥ (1 − 3ε)f(OPT) − κb 이고, 최종 해는 E[max{f(S1,1), f(T)}] ≥ (α/(1+α) − 3ε)f(OPT)를 만족함을 보여, 주요 근사 보장을 증명한다.