[논문 리뷰] Multi-Objective Maximization of Monotone Submodular Functions with Cardinality Constraint

Rajan Udwani|arXiv (Cornell University)|2017. 11. 17.

Complexity and Algorithms in Graphs인용 수 4

한 줄 요약

이 논문은 카디널리티 제약 조건 하에서 단조성 하위모듈라 함수의 다중목적 최대화를 위한 빠르고 점근적으로 최적의 알고리즘을 제시한다. 다중 가중치 업데이트(MWU)를 사용하여 $(1-1/e)^2 - \delta$ 근사값을 $\tilde{O}(n/\delta^3)$ 시간 내에 달성한다. 기존 연구와 비교해 목표 수가 초수렴적일 수 있도록 하면서도 강력한 이론적 보장을 유지하며 실험적으로 히وري스틱보다 뛰어난 성능을 보였다.

ABSTRACT

We consider the problem of multi-objective maximization of monotone submodular functions subject to cardinality constraint, often formulated as $\\max_{|A|=k}\\min_{i\\in\\{1,\\dots,m\\}}f_i(A)$. While it is widely known that greedy methods work well for a single objective, the problem becomes much harder with multiple objectives. In fact, Krause et al.\\ (2008) showed that when the number of objectives $m$ grows as the cardinality $k$ i.e., $m=\\Omega(k)$, the problem is inapproximable (unless $P=NP$). On the other hand, when $m$ is constant Chekuri et al.\\ (2010) showed a randomized $(1-1/e)-\\epsilon$ approximation with runtime (number of queries to function oracle) $n^{m/\\epsilon^3}$. %In fact, the result of Chekuri et al.\\ (2010) is for the far more general case of matroid constant. We focus on finding a fast and practical algorithm that has (asymptotic) approximation guarantees even when $m$ is super constant. We first modify the algorithm of Chekuri et al.\\ (2010) to achieve a $(1-1/e)$ approximation for $m=o(\\frac{k}{\\log^3 k})$. This demonstrates a steep transition from constant factor approximability to inapproximability around $m=\\Omega(k)$. Then using Multiplicative-Weight-Updates (MWU), we find a much faster $\ ilde{O}(n/\\delta^3)$ time asymptotic $(1-1/e)^2-\\delta$ approximation. While the above results are all randomized, we also give a simple deterministic $(1-1/e)-\\epsilon$ approximation with runtime $kn^{m/\\epsilon^4}$. Finally, we run synthetic experiments using Kronecker graphs and find that our MWU inspired heuristic outperforms existing heuristics.

연구 동기 및 목표

• 카디널리티 제약 조건 하에서 다수의 단조성 하위모듈라 목표 함수를 동시에 최대화하는 문제에 대응하기 위해, 목표 수 $m$이 카디널리티 $k$와 함께 증가할 경우에도 효과적으로 작동하도록 하는 것.
• 목표 수 $m = \Omega(k)$일 경우 알려진 근사 불가능성 결과와, 기존 알고리즘이 상수 $m$에 대해서만 작동하는 것 사이의 격차를 메우기 위한 것.
• 목표 수 $m$이 초수렴적일 경우, 즉 $m = o(k / \log^3 k)$일 경우에도 강력한 이론적 근사 보장을 유지하면서도 빠르고 확장 가능한 알고리즘을 개발하기 위한 것.
• 실제로는 MWU 기반의 히وري스틱을 설계하여, 크론커 그래프에서의 합성 실험에서 기존 히وري스틱보다 뛰어난 성능을 보이게 하는 것.

제안 방법

• 체쿠리 등(2010)의 랜덤화 알고리즘을 수정하여 $m = o(k / \log^3 k)$일 경우 $(1-1/e)$ 근사값을 달성하고, 상대적 이득 기반의 단계별 그리디 선택과 임계값 설정을 활용한다.
• 기존에 없는 새로운 MWU 기반 알고리즘을 도입하여 원소에 대한 분포를 유지하고, 모든 목표 함수에 대한 마진 간이 기반으로 가중치를 업데이트함으로써 $(1-1/e)^2 - \delta$ 근사값을 달성한다.
• 각 원소를 그 가중치 비례로 독립적으로 포함하는 랜덤 샘플링 과정을 사용하고, 기대 함수 값이 최적값의 $(1-1/e)^2 - \delta$ 배 이상임을 증명한다.
• 이중 단계 접근법을 사용한다: 첫 번째로, 크기가 $O(m / \varepsilon^3)$인 코어 세트를 구성하는 그리디 선택 단계를 거치고, 두 번째로 MWU를 사용해 다수의 라운드 동안 해를 정밀 조정한다.
• 잠재 함수 분석과 하위모듈라성의 성질을 활용하여 MWU 알고리즘을 분석하고 기대 마진 이득을 경계함으로써, 근사 최적 해로의 수렴을 보여준다.
• 후보 집합에 대한 완전 탐색을 사용한 결정론적 변형을 제시하여 $(1-1/e) - \varepsilon$ 근사값을 달성하고 런타임은 $kn^{m/\varepsilon^4}$이 된다.

실험 결과

연구 질문

• RQ1 목표 수 $m$이 카디널리티 $k$와 함께 증가할 경우, 상수 $m$ 이외의 범위에서도 다중목적 하위모듈라 최대화 문제에 대해 일정 요소 근사값을 달성할 수 있는가?
• RQ2 목표 수 $m$이 $k$에 비해 증가함에 따라 근사 가능성의 점근적 임계값은 무엇이며, 근사 가능성에서 근사 불가능성으로의 급격한 전이가 발생하는가?
• RQ3 초수렴적 $m$에 대해 $\tilde{O}(n/\delta^3)$ 런타임을 갖는 빠른 알고리즘을 설계하여 $(1-1/e)^2 - \delta$ 근사값을 달성할 수 있는가?
• RQ4 MWU 기반 히وري스틱은 대규모 합성 그래프에서 기존 히وري스틱과 비교해 실제로 어떻게 성능을 냈는가?

주요 결과

• 논문은 근사 가능성에 대한 날카로운 임계값을 규명했다: $m = o(k / \log^3 k)$일 경우 $(1-1/e)$ 근사값이 달성 가능하지만, $m = \Omega(k)$일 경우 $P = NP$가 아닌 한 문제는 근사 불가능해진다.
• 제안된 MWU 기반 알고리즘은 $\tilde{O}(n/\delta^3)$ 시간 내에 $(1-1/e)^2 - \delta$ 근사값을 달성하며, 이는 이전의 랜덤화 알고리즘의 $n^{m/\varepsilon^3}$ 런타임에 비해 크게 향상된 성능이다.
• 결정론적 알고리즘은 $kn^{m/\varepsilon^4}$ 런타임으로 $(1-1/e) - \varepsilon$ 근사값을 달성하여, 무작위성이 바람직하지 않은 경우 강력한 대안을 제공한다.
• MWU 기반 히وري스틱은 크론커 그래프에서의 합성 실험에서 기존 히وري스틱보다 뛰어난 성능을 보였으며, 이는 실용적 우수성을 입증한다.
• 이론적 분석을 통해 하위모듈라성과 단조성 가정 하에 MWU로 샘플된 집합의 기대 값이 최적값의 $(1-1/e)^2 - \delta$ 배 이상임을 보였다.
• 분석을 통해 첫 번째 단계에서 각 목표 함수가 선택에 기여할 수 있는 원소 수는 최대 $1/\varepsilon^3$개 이하임을 증명하여, 집합 크기가 유한하고 효율적인 계산이 가능함을 보였다.