[논문 리뷰] Nearly Linear Time Algorithms and Lower Bound for Submodular Maximization

Wenxin Li, Ness B. Shroff|arXiv (Cornell University)|2018. 04. 22.

Complexity and Algorithms in Graphs참고 문헌 1인용 수 2

한 줄 요약

이 논문은 제약 조건이 있는 부분모듈러 최대화를 위한 거의 선형 시간 알고리즘을 제안하며, 거의 최적의 근사 비율을 달성한다: 순서 제약 조건의 경우 (1−1/e−ε)이며, 단일 배낭 제약 조건의 경우 (7/16−ε)를 달성한다. 이 알고리즘은 O(n·max{ε⁻¹,log log n})의 쿼리 수를 사용한다. 스트리밍 환경에서 두 번의 패ass로 상수 근사가 가능하도록 적응형 감소 임계값 기법을 도입하였으며, 비제약 최대화 문제에 대해 (1/4+ε)-근사 알고리즘이 o(n/log n)의 쿼리 수를 사용할 수 없음을 보이는 쿼리 복잡도 하한선도 설정하였다.

ABSTRACT

In this work, we study constrained submodular maximization problems and design algorithms that improve the state-of-the-art performance guarantees. We first present a linear query complexity algorithm that achieves the approximation ratio of $(1-1/e-\varepsilon)$ for cardinality constraint and monotone objective. To the best of our knowledge, this is the first deterministic algorithm that achieves the almost optimal approximation using linear number of function evaluations. We next study the single knapsack constraint and achieve an approximation of $(7/16-\varepsilon)$ by $O(n\cdot \max\{\varepsilon^{-1},\log\log n\})$ queries. We note that in streaming setting our algorithm only requires two passes over the stream. The double logarithmic factor comes from our \emph{adaptive decreasing threshold} algorithm that is used to obtain a constant approximation of the optimal objective value. Furthermore, we show that there is an $(1/2-\varepsilon)$-approximate deterministic algorithm for constant number of binary packing constraints, which only makes $O_{\varepsilon}(\log \log n)$ queries per element. Lastly we present an improved algorithm for the intersection of $p$-system and $d$ knapsack constraint, which achieves an approximation ratio of $1/(p+\frac{7}{4}d+1)-\varepsilon$. In addition, a similar result can be obtained for non-monotone objective function. Query complexity lower bound of submodular maximization problems is also studied in this paper. We show that there exists no (randomized) $(1/4+\varepsilon)$-approximate algorithm using $o(n/\log n)$ queries for unconstrained submodular maximization. Combining with existing results, we present a complete characterization of the query complexity of unconstrained submodular maximization.

연구 동기 및 목표

• 선형 또는 거의 선형 쿼리 복잡도로 거의 최적의 근사 비율을 달성하는 결정적 알고리즘을 설계하는 것.
• 순서, 배낭, p-시스템/d-배낭 교차 제약 조건을 포함한 다양한 제약 조건 하에서 단조 및 비단조 부분모듈러 함수에 대한 결정적 알고리즘의 격차를 메우는 것.
• 특히 단일 배낭 및 다중 패킹 제약 조건에 대해 최소한의 패ass 수와 쿼리 오버헤드를 갖는 효율적인 스트리밍 알고리즘을 개발하는 것.
• 비제약 부분모듈러 최대화 문제에 대해 쿼리 복잡도 하한선을 밀도 있게 설정하여 효율적 근사의 한계를 규명하는 것.

제안 방법

• 각 요소당 O(log log n)의 쿼리 수로 최적 해의 값을 추정하는 새로운 적응형 감소 임계값 알고리즘을 제안하여, 스트리밍 환경에서 상수 근사를 가능하게 한다.
• 추정된 최적 값에 기반해 동적으로 조정되는 임계값 기반 그래디언트 선택 전략을 활용하여, 근사 보장을 유지하면서 쿼리 사용량을 줄인다.
• 단일 배낭 제약 조건에 대해 두 번의 패ass로 (7/16−ε)-근사를 달성하는 스트리밍 알고리즘을 제안한다. 이 알고리즘은 O(n·max{ε⁻¹,log log n})의 쿼리 수를 사용한다.
• 다중 이진 패킹 제약 조건을 처리하기 위해 재귀적 분할 및 임계값 기법을 적용하여, 요소당 Oε(log log n)의 쿼리 수로 (1/2−ε)-근사를 달성한다.
• p-시스템과 d-배낭 제약 조건의 교차를 다룰 수 있도록 프레임워크를 확장하여, (1/(p+7/4 d+1)−ε)-근사 비율을 달성한다.
• 정보 이론적 논증을 통해 쿼리 복잡도 하한선을 설정하여, 비제약 최대화 문제에서 (1/4+ε)-근사 알고리즘이 o(n/log n)의 쿼리 수를 사용할 수 없음을 보였다.

실험 결과

연구 질문

• RQ1 순서 제약 조건 하에서 단조 부분모듈러 최대화 문제에 대해, O(n) 쿼리만으로 (1−1/e−ε)-근사를 달성할 수 있는 결정적 알고리즘이 존재하는가?
• RQ2 스트리밍 모델에서 단일 배낭 제약 조건 하에서 부분모듈러 최대화 문제에 대해 상수 근사를 달성하기 위해 필요한 최소 쿼리 복잡도는 얼마인가?
• RQ3 다중 이진 패킹 제약 조건을 효율적으로 다루면서도 요소당 낮은 쿼리 복잡도를 유지할 수 있는 방법은 무엇인가?
• RQ4 비제약 부분모듈러 최대화 문제에 대해 1/4를 초월하는 근사 비율을 달성하기 위한 가장 날카로운 쿼리 복잡도 하한선은 무엇인가?
• RQ5 p-시스템과 d-배낭 제약 조건의 교차를 다룰 수 있도록 프레임워크를 확장하여 정량화된 근사 비율을 달성할 수 있는가?

주요 결과

• 논문은 순서 제약 조건 하에서 단조 부분모듈러 최대화 문제에 대해 O(n) 쿼리만으로 (1−1/e−ε)-근사를 달성하는 첫 번째 결정적 알고리즘을 제시한다.
• 단일 배낭 제약 조건 하에서 알고리즘은 O(n·max{ε⁻¹,log log n})의 쿼리 수를 사용하여 (7/16−ε)-근사를 달성하며, 스트리밍 모델에서 두 번의 패ass만을 필요로 한다.
• 새로운 적응형 감소 임계값 기법을 통해, 이진 패킹 제약 조건의 수가 일정할 경우 요소당 O(log log n)의 쿼리 수로 상수 근사를 달성할 수 있다.
• p-시스템과 d-배낭 제약 조건의 교차를 다루는 알고리즘은 (1/(p+7/4 d+1)−ε)-근사 비율을 달성하며, 비단조 목적 함수로의 확장도 가능하다.
• 논문은 비제약 부분모듈러 최대화 문제에 대해 어떤 (랜덤화된) (1/4+ε)-근사 알고리즘도 o(n/log n)의 쿼리 수를 사용할 수 없음을 보이며, 이 문제의 쿼리 복잡도 특성화를 완성한다.