[논문 리뷰] Non-monotone DR-submodular Maximization: Approximation and Regret Guarantees

Christoph Dürr, Nguyễn Kim Thắng외 2명|arXiv (Cornell University)|2019. 05. 23.

Complexity and Algorithms in Graphs참고 문헌 33인용 수 4

한 줄 요약

이 논문은 일반 및 내림차순 폐쇄 볼록집합에서 비단조화 DR-하위모듈러 함수 최대화에 대해 오프라인 및 온라인 환경에서 최초의 근사 및 회귀 보장을 제시한다. 일반 볼록집합에 대해 $(1 - \min_{\bm{x} \in \mathcal{K}} \|\bm{x}\|_\infty)/(3\sqrt{3})$ 근사 비율을 달성하는 프랭크-울프 알고리즘과, 내림차순 폐쇄 집합에 대해 $1/4$-근사 및 $O(1/\sqrt{T})$ 회귀를 보장하는 확률적 경사 상승 알고리즘을 제안한다.

ABSTRACT

Diminishing-returns (DR) submodular optimization is an important field with many real-world applications in machine learning, economics and communication systems. It captures a subclass of non-convex optimization that provides both practical and theoretical guarantees. In this paper, we study the fundamental problem of maximizing non-monotone DR-submodular functions over down-closed and general convex sets in both offline and online settings. First, we show that for offline maximizing non-monotone DR-submodular functions over a general convex set, the Frank-Wolfe algorithm achieves an approximation guarantee which depends on the convex set. Next, we show that the Stochastic Gradient Ascent algorithm achieves a 1/4-approximation ratio with the regret of $O(1/\sqrt{T})$ for the problem of maximizing non-monotone DR-submodular functions over down-closed convex sets. These are the first approximation guarantees in the corresponding settings. Finally we benchmark these algorithms on problems arising in machine learning domain with the real-world datasets.

연구 동기 및 목표

• 실제 응용에서 흔한 제약 조건이 있는 볼록집합에서 비단조화 DR-하위모듈러 최대화에 대한 이론적 성능 보장의 부족을 해결한다.
• 일반 볼록집합에서 비단조화 DR-하위모듈러 함수에 대한 최초의 근사 알고리즘을 제공하며, 도메인의 구조에 따라 수렴 속도가 달라진다.
• 내림차순 폐쇄 볼록집합에서 비단조화 DR-하위모듈러 최대화에 대해 증명 가능성이 있는 $(1/4, O(1/\sqrt{T}))$-회귀를 갖는 온라인 알고리즘을 개발한다.
• 오프라인 및 온라인 학습 프레임워크에서 비단조화 및 제약 조건이 있는 DR-하위모듈러 최적화에 대한 이론적 이해 격차를 메운다.

제안 방법

• 일반 볼록집합에서 오프라인 최대화를 위해 프랭크-울프 알고리즘을 적응시켰으며, 도메인 내 점들의 최소 무한노름에 따라 의존하는 근사 비율을 도출하기 위해 DR-하위모듈러 성질을 활용한다.
• 각 시점 $t$ 에서 함수 $F^t$ 를 관측하기 전에 $\bm{x}^t \in \mathcal{K}$ 를 선택하고, 경사 피드백에 따라 업데이트하는 온라인 설정을 위한 확률적 경사 상승 알고리즘을 설계한다.
• DR-하위모듈러성과 볼록성의 성질을 이용하여, 확률적 경사 상승 알고리즘이 $1/4$-근사 비율과 $O(1/\sqrt{T})$ 회귀를 달성함을 증명한다.
• 내림차순 폐쇄 다면체 $\mathcal{K} = \{ \bm{x} \geq 0 \mid \sum_i x_i \leq 1 \}$ 를 위한 특수한 투영 연산자를 도입하여, 정렬과 반복 평균화를 통해 효율적인 계산을 가능하게 한다.
• 가능한 집합 $\mathcal{K}$ 위에서 함수 $F$ 의 곡률과 하위모듈러 성질을 분석하여 수렴 및 근사에 대한 이론적 경계를 확립한다.
• 실제 데이터셋(Advogato, Facebook)에서 두 알고리즘을 구현하고 벤치마크를 수행하여, 온라인 성능을 오프라인 프랭크-울프 기반선과 비교한다.

실험 결과

연구 질문

• RQ1 프랭크-울프 알고리즘을 사용하여 일반 볼록집합에서 비단조화 DR-하위모듈러 최대화에 대해 달성할 수 있는 근사 비율은 무엇인가요?
• RQ2 확률적 온라인 알고리즘이 내림차순 폐쇄 볼록집합에서 비단조화 DR-하위모듈러 함수에 대해 일정한 근사 비율과 하위선형 회귀를 달성할 수 있나요?
• RQ3 프랭크-울프 알고리즘의 근사 비율은 볼록집합의 기하학적 구조, 특히 $\min_{\bm{x} \in \mathcal{K}} \|\bm{x}\|_\infty$ 에 따라 어떻게 달라지나요?
• RQ4 비단조화 DR-하위모듈러 함수에 대해 일반 볼록집합에서 프랭크-울프 알고리즘의 수렴 속도는 얼마인가요?
• RQ5 제안된 온라인 및 오프라인 알고리즘이 비단조화 DR-하위모듈러 목표 함수를 가진 실세계 기계학습 문제에서 경험적으로 어떻게 비교되나요?

주요 결과

• 프랭크-울프 알고리즘은 일반 볼록집합에서 비단조화 DR-하위모듈러 최대화에 대해 $\left(1 - \min_{\bm{x} \in \mathcal{K}} \|\bm{x}\|_\infty\right)/(3\sqrt{3})$ 근사 비율을 달성하며, 수렴 속도는 $O(n / \ln^2 T)$ 이다.
• 볼록집합 $\mathcal{K}$ 가 원점을 포함할 경우, 임의의 $\epsilon > 0$ 에 대해 $T = O(e^{\sqrt{n/\epsilon}})$ 반복 후에 $1/(3\sqrt{3}) \approx 0.192$ 근사 비율을 보장한다.
• 확률적 경사 상승 알고리즘은 내림차순 폐쇄 볼록집합에서 비단조화 DR-하위모듈러 최대화에 대해 $1/4$-근사 비율과 $O(1/\sqrt{T})$ 회귀를 달성한다.
• Advogato 및 Facebook 데이터셋에서의 경험적 평가 결과 이론적 보장이 확인되었으며, 오프라인 기반선 대비 온라인 알고리즘의 성능 비율이 시간이 지남에 따라 향상됨을 보였다.
• 내림차순 폐쇄 다면체를 위한 투영 연산자는 정렬과 반복 평균화를 통해 $O(n \log n)$ 시간에 효율적으로 구현 가능하여 실용적 구현을 가능하게 한다.
• 온라인 알고리즘의 오프라인 최적 해 대비 성능 비율은 시간이 지남에 따라 증가하며, 이는 $O(1/\sqrt{T})$ 회귀 경계와 일치한다.