[논문 리뷰] Beyond Adaptive Submodularity: Approximation Guarantees of Greedy Policy with Adaptive Submodularity Ratio

Kaito Fujii, Shinsaku Sakaue|arXiv (Cornell University)|2019. 04. 24.

Auction Theory and Applications인용 수 16

한 줄 요약

이 논문은 적응형 하위모듈라리티 비율이라는 새로운 이론적 프레임워크를 제안하여, 적응형 하위모듈라리티를 초월해 탐욕 정책에 대한 근사 보장을 확장한다. 적응형 목적 함수가 하위모듈라리티에 얼마나 가까운지 정량화함으로써, 적응형 영향력 확산 및 특징 선택과 같은 문제에서 탐욕 알고리즘에 대한 날카로운 근사 경계를 가능하게 하며, 이전 방법이 실패하는 곳에서도 상수 요소 보장을 달성한다.

ABSTRACT

We propose a new concept named adaptive submodularity ratio to study the greedy policy for sequential decision making. While the greedy policy is known to perform well for a wide variety of adaptive stochastic optimization problems in practice, its theoretical properties have been analyzed only for a limited class of problems. We narrow the gap between theory and practice by using adaptive submodularity ratio, which enables us to prove approximation guarantees of the greedy policy for a substantially wider class of problems. Examples of newly analyzed problems include important applications such as adaptive influence maximization and adaptive feature selection. Our adaptive submodularity ratio also provides bounds of adaptivity gaps. Experiments confirm that the greedy policy performs well with the applications being considered compared to standard heuristics.

연구 동기 및 목표

• 적응형 스토케스틱 최적화에서 탐욕 정책의 경험적 성공과 이론적 분석 사이의 격차를 해소하기 위해.
• 적응형 하위모듈라리티를 초월해 비적응형 하위모듈라리티가 아닌 문제에 대해 탐욕 알고리즘을 분석할 수 있는 이론적 프레임워크를 개발하기 위해.
• 적응형 영향력 확산 및 특징 선택과 같은 적용 분야에서 탐욕 정책에 대한 근사 보장과 적응성 갭 경계를 제공하기 위해.
• 목적 함수가 적응형 하위모듈라리티에 얼마나 가까운지를 정량화하는 새로운 측정 기준인 적응형 하위모듈라리티 비율을 정의하기 위해.

제안 방법

• 적응형 목적 함수가 하위모듈라리티에 얼마나 가까운지 측정하기 위해 적응형 하위모듈라리티 비율을 제안한다.
• 이 비율을 사용하여 적응형 탐욕 알고리즘의 근사 보장을 유도하며, α가 비율일 때 (1 - exp(-α)) 근사 보장을 달성함을 보여준다.
• 적응형 하위모듈라리티 비율을 사용하여 적응성 갭의 경계를 설정하며, 적응형 정책이 비적응형 정책보다 얼마나 유리한지 정량화한다.
• 프레임워크를 두 가지 핵심 문제에 적용한다: 트리거링 모델에서의 적응형 영향력 확산과 적응형 특징 선택.
• 이 적용 분야에서 적응형 하위모듈라리티 비율의 하한을 유도하며, 일부 경우에서의 날카로운 경계를 증명한다.
• 기존의 개념인 약한 적응형 하위모듈라리티보다 성능이 뛰어나며, 특히 그 개념이 근사 비율을 경계할 수 없는 경우에 뛰어난 성능을 보임을 실험적으로 확인한다.

실험 결과

연구 질문

• RQ1 적응형 스토케스틱 최적화 문제에서 적응형 하위모듈라리티를 갖지 않는 경우에도 탐욕 정책에 대한 이론적 근사 보장을 제공할 수 있는가?
• RQ2 적응형 환경에서 하위모듈라리티 정도를 캡처할 수 있는 측정 기준을 어떻게 정의할 수 있으며, 이를 통해 이러한 보장을 가능하게 할 수 있는가?
• RQ3 새로운 프레임워크 하에서 적응형 영향력 확산 및 특징 선택 문제에서 탐욕 정책의 근사 비율과 적응성 갭은 각각 얼마인가?
• RQ4 기존의 개념인 약한 적응형 하위모듈라리티와 비교해 볼 때, 제안된 적응형 하위모듈라리티 비율은 이론적 강도와 적용 가능성 측면에서 어떻게 다른가?
• RQ5 기존 방법이 실패하는 실용적 응용 분야에서 이 프레임워크가 비어 있지 않은 경계를 도출할 수 있는가?

주요 결과

• 적응형 탐욕 정책은 α가 적응형 하위모듈라리티 비율일 때 (1 - exp(-α)) 근사 보장을 달성하며, 이는 적응형 하위모듈라리티 함수를 초월해 이론적 타당성을 확장한다.
• 트리거링 모델에서의 적응형 영향력 확산 문제에서, 적응형 하위모듈라리티 비율은 (k+1)/(2k) 이상으로 하한이 존재하며, 이는 상수 근사 비율 1 - exp(-(k+1)/(2k))를 제공한다.
• 적응형 특징 선택 문제에서, 적응형 하위모듈라리티 비율은 λ_min,k+ℓ / λ_max,k+ℓ 이상으로 하한이 존재하며, 이는 비어 있지 않은 근사 보장을 제공한다.
• 프레임워크는 트리거링 모델에 대해 적응성 갭의 날카로운 경계를 제공하며, 적응형 정책이 비적응형 정책보다 뛰어남을 보여준다.
• 약한 적응형 하위모듈라리티는 O(1/k)와 같은 비어 있지 않은 경계를 제공할 수 있지만, 적응형 하위모듈라리티 비율은 상수 요소 근사 보장을 제공함으로써 이에 비해 뛰어나다.
• 실험 결과 탐욕 정책이 적응형 영향력 확산 및 특징 선택 문제에서 실용적으로 잘 작동함을 확인하였으며, 이는 이론적 결과의 타당성을 검증한다.