[논문 리뷰] Towards Practical Constrained Monotone Submodular Maximization.

Wenxin Li, Ness B. Shroff|arXiv (Cornell University)|2018. 04. 22.

Complexity and Algorithms in Graphs인용 수 2

한 줄 요약

이 논문은 제약 조건이 있는 단조 증가하는 부분모듈러 함수 최대화를 위한 적응적 감소 임계값(ADT) 알고리즘을 제안하며, 알려진 바 중 가장 빠른 시간 복잡도와 향상된 근사 보장치를 달성한다. 카디널리티 제약 조건 하에서 $O(n \times \max\{\varepsilon^{-1}, \log\log k\})$ 쿼리로 $(1 - \frac{1}{e} - \varepsilon)$-근사치를 달성하며, 임의 알고리즘이 $\frac{1}{2} + \Theta(1)$ 보다 우수한 근사치를 달성하기 위해선 $\Omega(n / \log n)$ 쿼리의 하한을 설정한다.

ABSTRACT

We design new algorithms for maximizing a monotone non-negative submodular function under various constraints, which improve the state-of-the-art in time complexity and/or performance guarantee. We first investigate the cardinality constrained submodular maximization problem that has been widely studied for about four decades. We design an $(1-\frac{1}{e}-\varepsilon)$-approximation algorithm that makes $O(n\cdot \max \{\varepsilon^{-1},\log\log k \})$ queries. To the best of our knowledge, this is the fastest known algorithm. We further answer the open problem on finding a lower bound on the number of queries. We show that, no (randomized) algorithm can achieve a ratio better than $(\frac{1}{2}+\Theta(1))$ with $o(\frac{n}{\log n})$ queries. The acceleration above is achieved by our \emph{Adaptive Decreasing Threshold} (ADT) algorithm. Based on ADT, we study the $p$-system and $d$ knapsack constrained maximization problem. We show that an $(1/(p+\frac{7}{4}d+1)-\varepsilon)$-approximate solution can be computed via $O(\frac{n}{\varepsilon}\log \frac{n}{\varepsilon}\max\{\log \frac{1}{\varepsilon},\log\log n\})$ queries. Note that it improves the state of the art in both time complexity and approximation ratio. We also show how to improve the ratio for a single knapsack constraint via $O(n\cdot \max \{\varepsilon^{-1},\log\log k \})$ queries. For maximizing a submodular function with curvature $\kappa$ under matroid constraint, we show an $(1-\frac{\kappa}{e}-\varepsilon)$-approximate algorithm that uses $ ilde{O}(nk)$ value oracle queries. Our ADT could be utilized to obtain faster algorithms in other problems. To prove our results, we introduce a general characterization between randomized complexity and deterministic complexity of approximation algorithms that could be used in other problems and may be interesting in its own right.

연구 동기 및 목표

• 다양한 제약 조건 하에서 단조 증가하는 부분모듈러 함수 최대화를 위한 더 빠르고 정확한 알고리즘을 설계하기 위해.
• 임의 알고리즘에서 부분상수 근사치를 달성하기 위해 필요한 쿼리 수에 대한 하한을 설정하는 열린 문제를 해결하기 위해.
• p-시스템 및 나이스백 제약 조건 하에서 근사 비율과 쿼리 복잡도 측면에서 현재 기술 수준을 향상시키기 위해.
• ADT 프레임워크를 확장하여 곡률 인식 및 매트로이드 제약 조건이 있는 부분모듈러 최대화를 다룰 수 있도록 하기 위해.

제안 방법

• 모서리 수익에 따라 임계값을 동적으로 조정하여 해 공간을 효율적으로 탐색하는 적응적 감소 임계값(ADT) 알고리즘을 도입한다.
• 임의 알고리즘과 결정적 근사 복잡도 사이의 관계를 연결하는 새로운 특성화를 사용하여 쿼리 복잡도 하한을 유도한다.
• 제약 조건의 구조를 고려하여 임계값 갱신 방식을 조정함으로써 ADT를 p-시스템 및 나이스백 제약 조건에 적용한다.
• 부분모듈러 함수의 곡률 $\kappa$ 를 활용하여 매트로이드 제약 조건 하에서 근사 보장을 정밀화한다.
• 적응적 임계값을 통해 고수익 요소를 우선순위로 지정함으로써 값 오라클 호출 수를 줄이는 쿼리 효율적인 프레임워크를 설계한다.
• 카디널리티 제약 조건 하에서 $(1 - \frac{1}{e} - \varepsilon)$-근사치를 달성하기 위해 $O(n \cdot \max\{\varepsilon^{-1}, \log\log k\})$ 쿼리로 충분하다는 것을 증명한다.

실험 결과

연구 질문

• RQ1 카디널리티 제약 조건 하에서 $O(n \varepsilon^{-1})$ 보다 적은 쿼리로 $(1 - \frac{1}{e} - \varepsilon)$-근사치를 달성할 수 있는 부분모듈러 최대화 알고리즘을 설계할 수 있는가?
• RQ2 임의 알고리즘이 부분모듈러 최대화 문제에서 비트리비얼 근사 비율을 달성하기 위해 필요한 쿼리 수의 최적 하한은 무엇인가?
• RQ3 ADT 프레임워크를 확장하여 p-시스템 및 나이스백 제약 조건 하에서 근사 비율을 향상시키고 쿼리 복잡도를 감소시킬 수 있는가?
• RQ4 매트로이드 제약 조건 하에서 함수 곡률 $\kappa$ 가 근사 보장치에 미치는 영향은 무엇이며, 이를 성능 향상에 활용할 수 있는가?
• RQ5 부분모듈러 문제에 대해 임의 알고리즘과 결정적 근사 알고리즘 간의 일반적인 복잡도 특성화를 수립할 수 있는가?

주요 결과

• ADT 알고리즘은 카디널리티 제약 조건 하에서 $O(n \cdot \max\{\varepsilon^{-1}, \log\log k\})$ 값 오라클 쿼리를 사용하여 $(1 - \frac{1}{e} - \varepsilon)$-근사치를 달성하며, 지금까지 알려진 바 중 가장 빠른 알고리즘이다.
• 논문은 임의 알고리즘이 $o(n / \log n)$ 쿼리로 $\frac{1}{2} + \Theta(1)$ 보다 우수한 근사치를 달성할 수 없음을 보여주는 하한을 설정한다.
• p-시스템 및 d-나이스백 제약 조건 하에서 ADT 기반 알고리즘은 $(1/(p + \frac{7}{4}d + 1) - \varepsilon)$-근사치를 $O(\frac{n}{\varepsilon} \log \frac{n}{\varepsilon} \cdot \max\{\log \frac{1}{\varepsilon}, \log\log n\})$ 쿼리를 사용하여 달성하며, 이는 이전 작업 대비 근사 비율과 쿼리 복잡도 측면에서 모두 향상된 것이다.
• 단일 나이스백 제약 조건 하에서 ADT 알고리즘은 카디널리티 경우와 동일한 쿼리 복잡도 $O(n \cdot \max\{\varepsilon^{-1}, \log\log k\})$ 를 유지하면서도 근사 비율을 향상시킨다.
• 매트로이드 제약 조건 하에서 곡률 $\kappa$ 를 가진 부분모듈러 함수에 대해 알고리즘은 $(1 - \frac{\kappa}{e} - \varepsilon)$-근사치를 $\tilde{O}(nk)$ 값 오라클 쿼리를 사용하여 달성한다.
• 논문은 임의 알고리즘과 결정적 근사 알고리즘 간의 일반적인 복잡도 특성화를 도입하였으며, 이는 부분모듈러 최대화를 넘어서도 적용 가능할 수 있다.