[논문 리뷰] Black Box Submodular Maximization: Discrete and Continuous Settings

Lin Chen, Mingrui Zhang외 2명|arXiv (Cornell University)|2019. 01. 28.

Complexity and Algorithms in Graphs참고 문헌 68인용 수 4

한 줄 요약

이 논문은 기울기가 계산 불가능한 환경에서만 함수 값에 접근 가능한 경우에 최적화를 수행할 수 있도록, 미분 불필요, 투영 불필요한 알고리즘인 블랙박스 연속 그레디언트(BCG)를 제안한다. 이 알고리즘은 볼록체 제약 조건 하에서 단조 연속 DR-하위모듈러 함수를 최대화하기 위해 기능 평가만을 사용한다. BCG는 $Ø(d/ϵ^3)$개의 기능 평가로 $(1-1/e)Ø - ϵ$의 근사치를 달성하여, 기울기를 계산할 수 없는 환경에서 효율적인 최적화를 가능하게 한다.

ABSTRACT

In this paper, we consider the problem of black box continuous submodular maximization where we only have access to the function values and no information about the derivatives is provided. For a monotone and continuous DR-submodular function, and subject to a bounded convex body constraint, we propose Black-box Continuous Greedy, a derivative-free algorithm that provably achieves the tight $[(1-1/e)OPT-ε]$ approximation guarantee with $O(d/ε^3)$ function evaluations. We then extend our result to the stochastic setting where function values are subject to stochastic zero-mean noise. It is through this stochastic generalization that we revisit the discrete submodular maximization problem and use the multi-linear extension as a bridge between discrete and continuous settings. Finally, we extensively evaluate the performance of our algorithm on continuous and discrete submodular objective functions using both synthetic and real data.

연구 동기 및 목표

• 기울기가 계산 불가능하거나 비용이 많이 들거나 불가능한 상황에서 기능 값만 이용 가능한 경우, 단조 연속 DR-하위모듈러 함수의 최대화 문제를 해결하기 위해.
• 비용이 많이 드는 투영을 피하고 강력한 이론적 보장을 유지하는 투영 불필요, 기울기 불필요 알고리즘을 개발하기 위해.
• 스토하스틱 환경으로의 프레임워크 확장과 다중선형 확장 기반으로 연속 및 이산 하위모듈러 최적화 간의 다리를 놓기 위해.
• 합성 및 실제 데이터에서 제안된 방법을 실증적으로 검증하여 효율성과 거의 최적의 성능을 입증하기 위해.
• 기능 평가 예산이 제한된 대규모 기계학습 환경에서 1차 최적화 방법의 실용적인 대안을 제공하기 위해.

제안 방법

• 기울기 계산 없이 기능 평가와 무작위 방향 샘플링을 사용해 하위기울기 방향을 추정하는 제로오더 알고리즘인 블랙박스 연속 그레디언트(BCG)를 제안한다.
• 투영 없이도 탇성 유지가 가능한 프랭크-울프 스타일의 선형 최소화 오라클을 사용하여 일반적인 볼록체 제약 조건 하에서도 수렴 보장이 가능하다.
• 유한 차분을 통한 방향 도함수 추정을 위한 랜덤 스무딩 기법을 사용해 기울기 불필요 업데이트를 가능하게 한다.
• 단조 DR-하위모듈러 함수에 대해 $(1-1/e)Ø - ϵ$ 근사치를 달성하기 위해 $Ø(d/ϵ^3)$개의 기능 평가로 이론적 수렴을 확립한다.
• 기능 평가에서 평균이 0인 노이즈가 존재하는 스토하스틱 환경으로 프레임워크를 확장하여 강건성과 근사 보장을 유지함을 증명한다.
• 이산 하위모듈러 최대화 문제에 BCG를 적용하기 위해 다중선형 확장을 연속적 근사로 사용함으로써 이산 문제에의 적용 가능성을 제시한다.

실험 결과

연구 질문

• RQ1 기울기가 계산 불가능한 상황에서 볼록 제약 조건 하에서 단조 연속 DR-하위모듈러 최대화에 대해 제로오더 알고리즘이 $(1-1/e)$ 근사 보장을 달성할 수 있는가?
• RQ2 기울기가 계산 불가능할 경우 기능 평가 정보를 어떻게 효율적으로 활용해 하위모듈러 함수를 최적화할 수 있는가?
• RQ3 기능 평가에서 스토하스틱 노이즈가 존재하는 상황에서도 알고리즘이 이론적 보장을 유지할 수 있는가?
• RQ4 기능 평가 효율성과 런타임 측면에서 제안된 방법이 1차 및 제로오더 기준선보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ5 다중선형 확장을 통해 연속적 BCG 프레임워크를 이산 하위모듈러 최적화 문제에 효과적으로 적용할 수 있는가?

주요 결과

• BCG는 $Ø(d/ϵ^3)$개의 기능 평가로 $(1-1/e)Ø - ϵ$ 근사 보장을 달성하여, 연속 DR-하위모듈러 최대화의 최고 이론적 한계와 일치한다.
• 합성 및 실제 데이터 실험에서 BCG는 SCG와 GA와 유사한 목적 함수 값을 달성했으며, 기능 평가 횟수는 훨씬 적게 사용했다.
• 모든 작업에서 BCG는 SCG와 ZGA보다 최소 두 배 이상 빠른 속도로 실행되어, 제로오더 평가의 저비용 덕분에 런타임 효율성이 뛰어나다는 것을 입증했다.
• 활성 집합 선택 및 影响 최대화와 같은 이산 작업에서 DBG(BCG의 이산 변형)는 ZGA보다 훨씬 적은 기능 쿼리를 사용했고, 경쟁 가능한 유틸리티를 달성했다.
• 함수 값과 효율성 측면에서 BCG는 ZGA를 능가했으며, 기능 평가 비용을 크게 줄였음에도 불구하고 1차 최적화 방법의 성능을 따라하거나 초월했다.
• 실증 결과는 BCG가 기능 평가 또는 런타임이 제한된 대규모 환경에서 특히 유리하다는 것을 확인했다.