[논문 리뷰] Submodular Maximization Beyond Non-negativity: Guarantees, Fast Algorithms, and Applications

Christopher Harshaw, Moran Feldman외 2명|arXiv (Cornell University)|2019. 04. 19.

Complexity and Algorithms in Graphs참고 문헌 32인용 수 46

한 줄 요약

본 논문은 g가 비음수 단조이며 γ-약부분모듈이고 c가 비음수 모듈러인 상황에서 카디널리티 제약(및 무제한 설정) 하에서 g(S) − c(S)를 최대화하기 위한 빠른 알고리즘을 개발한다. 이는 k에 의존하지 않는 실행 시간으로 (1−e^{−γ}−ε) g(OPT) − c(OPT) 보장을 달성하며, γ-unknown 처리와 대응하는 하드니스 결과를 함께 제시한다.

ABSTRACT

It is generally believed that submodular functions -- and the more general class of $γ$-weakly submodular functions -- may only be optimized under the non-negativity assumption $f(S) \geq 0$. In this paper, we show that once the function is expressed as the difference $f = g - c$, where $g$ is monotone, non-negative, and $γ$-weakly submodular and $c$ is non-negative modular, then strong approximation guarantees may be obtained. We present an algorithm for maximizing $g - c$ under a $k$-cardinality constraint which produces a random feasible set $S$ such that $\mathbb{E} \left[ g(S) - c(S) ight] \geq (1 - e^{-γ} - ε) g(OPT) - c(OPT)$, whose running time is $O (\frac{n}ε \log^2 \frac{1}ε)$, i.e., independent of $k$. We extend these results to the unconstrained setting by describing an algorithm with the same approximation guarantees and faster $O(\frac{n}ε \log\frac{1}ε)$ runtime. The main techniques underlying our algorithms are two-fold: the use of a surrogate objective which varies the relative importance between $g$ and $c$ throughout the algorithm, and a geometric sweep over possible $γ$ values. Our algorithmic guarantees are complemented by a hardness result showing that no polynomial-time algorithm which accesses $g$ through a value oracle can do better. We empirically demonstrate the success of our algorithms by applying them to experimental design on the Boston Housing dataset and directed vertex cover on the Email EU dataset.

연구 동기 및 목표

• 목표가 비음수가 아닌 경우를 다루고 최적화를 다루기 위해 이를 f = g − c로 표현하며, g는 비음수 단조 γ-약부분모듈이고 c는 비음수 모듈러이다.
• 카디널리티 제약 하에서 g − c의 최대화에 대해 강한 근사 보장을 제공하는 빠른 알고리즘을 제시한다.
• 제약 없는 설정으로 결과를 확장하고 실행 시간 효율성을 분석한다.
• 다항 시간 가치-오라클 접근법의 한계를 보이는 하드니스 결과를 도입한다.

제안 방법

• 알고리즘의 진행에 따라 g와 c에 가중치를 다시 부여하는 왜곡 대체 목표 Φ를 도입한다: Φ_i(T) = (1−γ/k)^{k−i} g(T) − c(T).
• Ψ_i(T, e) = max{0, (1−γ/k)^{k−(i+1)} g(e|T) − c_e}.
• Distorted Greedy를 개발하여 매 이터레이션마다 왜곡된 이득을 최대로 하는 원소를 추가하고 왜곡된 이득이 양수일 때만 수용한다.
• 보장성을 유지하면서 평가를 줄이기 위해 기저 집합의 부분집합 B_i를 표본화하는 Stochastic Distorted Greedy를 도입한다.
• 알 수 없는 γ를 처리하기 위해 후보 γ 값을 기하급수적으로 swee(p) 하여 최적의 해를 선택하는 γ-Sweep 메타 알고리즘을 제공한다.
• 제시된 보장을 능가할 수 있는 다항 시간 가치-오라클 알고리즘이 존재하지 않음을 보이는 대응하는 하드니스 결과를 증명한다.

실험 결과

연구 질문

• RQ1 g가 γ-약부분모듈이고 c가 비음수 모듈러일 때 g(S) − c(S)를 최대화하는 데 비자명한 근사 보장을 달성할 수 있는가?
• RQ2 카디널리티 제약 하에서 g − c의 최대화를 위한 실행 시간이 k에 의존하지 않는 빠른 알고리즘을 어떻게 설계할 수 있는가?
• RQ3 γ를 알 수 없을 때 무엇을 얻을 수 있으며, γ를 견고하게 추정하거나 적응하는 방법은 무엇인가?
• RQ4 이 문제에 대한 다항 시간 가치-오라클 접근법에 대한 하드니스 장벽이 있는가?
• RQ5 이 방법들이 실험 설계나 그래프 문제와 같은 실제 작업에서 잘 작동하는가?

주요 결과

• Distorted Greedy는 알려진 γ 하에서 O(nk) 평가로 (1 − e^{−γ}) g(OPT) − c(OPT)를 달성한다.
• Stochastic Distorted Greedy는 기대값에서 같은 보장을 유지하며 O(n log(1/ε)) 평가를 사용한다.
• 제약 없는 Distorted Greedy는 동일한 근사를 O(n) 평가로 달성한다.
• γ가 알려지지 않았을 때, γ-Sweep는 보정된 γ 근사치를 거의 달성하고 부분 루프 호출의 수에서 곱해진 오버헤드 O((1/δ) log(1/δ))를 제공한다.
• 하드니스 결과는 γ-약부분모듈 함수에 대해 이 보장을 능가하는 다항 시간 가치-오라클 알고리즘이 존재하지 않음을 보인다.
• Boston Housing(실험 설계)와 Email EU(유향 정점 커버)에 대한 실험은 실용적 효과를 입증한다.