[논문 리뷰] Weakly Submodular Function Maximization Using Local Submodularity Ratio

Richard Santiago, Yuichi Yoshida|arXiv (Cornell University)|2020. 01. 01.

Complexity and Algorithms in Graphs참고 문헌 36인용 수 6

한 줄 요약

이 논문은 비단조화 함수에 대한 약한 순서부가능성의 일반화된 개념을 제안하고, 기수 제약 조건 하에서 증명 가능한 근사 보장을 갖는 랜덤화된 그레디언트 알고리즘을 제안한다. 실행 중에 적응적으로 변화하는 동적 局소 순서부가능성 비율을 활용함으로써, 단조성인 약한 순서부가능성 함수에 대해 (1−e⁻γ)-근사, 비단조화 케이스에서는 유리한 상황에서 더 날카운 근사 경계를 달성한다.

ABSTRACT

Weak submodularity is a natural relaxation of the diminishing return property, which is equivalent to submodularity. Weak submodularity has been used to show that many (monotone) functions that arise in practice can be efficiently maximized with provable guarantees. In this work we introduce two natural generalizations of weak submodularity for non-monotone functions. We show that an efficient randomized greedy algorithm has provable approximation guarantees for maximizing these functions subject to a cardinality constraint. We then provide a more refined analysis that takes into account that the weak submodularity parameter may change (sometimes improving) throughout the execution of the algorithm. This leads to improved approximation guarantees in some settings. We provide applications of our results for monotone and non-monotone maximization problems.

연구 동기 및 목표

• 비단조화 함수로의 약한 순서부가능성의 확장을 통해 더 넓은 실용적 최적화 문제 클래스에 대한 이론적 보장을 가능하게 한다.
• 단조성 및 비단조화 약한 순서부가능성 함수 모두에서 높은 근사 성능을 유지하는 랜덤화된 그레디언트 알고리즘을 개발한다.
• 알고리즘 실행 중에 순서부가능성 비율이 변화함에 따라 분석을 정교화함으로써, 유리한 상황에서 더 날카운 근사 경계를 도출한다.
• 서브모듈러 및 비례적 서브모듈러 성분을 포함하는 경우를 포함해 비단조화 목표 함수에 대한 구체적인 근사 보장을 제공한다.
• 기계 학습 및 데이터 요약 분야의 사례를 통해 프레임워크의 적용 가능성을 보여주며, 예를 들어 특징 선택 및 이미지 요약을 포함한다.

제안 방법

• 비단조화 설정으로의 약한 순서부가능성의 일반화를 위해 두 가지 새로운 함수 클래스인 γ-퍼세우드 서브모듈러 및 γ-약한 서브모듈러를 도입한다.
• 기대 경계 수익에 기반해 요소를 선택하는 랜덤화된 그레디언트 알고리즘을 제안하며, 국소 순서부가능성 비율의 동적 분석을 수행한다.
• 현재 해의 크기 |A|에 따라 순서부가능성 비율 γA,B 가 변화할 수 있도록 허용하는 정교화된 분석 프레임워크를 사용한다. 이는 γ가 시간이 지남에 따라 향상될 경우 근사 경계를 향상시킨다.
• g가 단조성 서브모듈러이고 h가 비단조화인 f = g + h 형태의 함수에 알고리즘을 적용하며, 국소 순서부가능성 비율에 기반한 경계를 유도한다.
• 비단조화 행동을 모델링하기 위해 가짜 요소를 도입함으로써 이중 근사 접근법을 사용하며, 원래의 기저 집합 요소 기반의 해 품질 분석을 가능하게 한다.
• 선택된 원래 기저 집합 요소의 수에 따라 의존하는 국소 순서부가능성 비율 매개변수 ¯γi 를 사용하여 기대 근사 보장을 도출한다.

실험 결과

연구 질문

• RQ1 약한 순서부가능성은 비단조화 함수로 의미적으로 확장될 수 있으며, 그레디언트 알고리즘의 강력한 근사 보장을 유지할 수 있는가?
• RQ2 실행 중에 순서부가능성 비율이 어떻게 변화하는가에 따라 랜덤화된 그레디언트 알고리즘의 성능이 달라지는가?
• RQ3 순서부가능성 비율이 시간이 지남에 따라 향상될 경우, 비단조화 약한 순서부가능성 함수에 대해 어떤 근사 보장을 달성할 수 있는가?
• RQ4 이 프레임워크는 특징 선택, 이미지 요약, 사전 학습 모델 해석과 같은 실용적 문제에 적용 가능하며, 증명 가능한 성능 경계를 제공할 수 있는가?
• RQ5 기수 제약 조건 하에서 (γ·e⁻¹/γ)-근사 경계는 날카로운가? 그리고 동적 순서부가능성 비율 조건 하에서 이를 향상시킬 수 있는가?

주요 결과

• 랜덤화된 그레디언트 알고리즘은 단조성 약한 순서부가능성 함수에 대해 (1−e⁻γ)-근사 보장을 달성하며, 이는 Das와 Kempe(2011)의 결과와 일치한다.
• 비단조화 함수의 경우, f = g + h 이며 g가 서브모듈러이고 h가 비례적 서브모듈러일 때, 원래 기저 집합에서 최소 k/2개의 요소가 선택된 경우 기대 근사 비율이 최소 0.05/e ≈ 0.018 이상 확보된다.
• f(S) = g(S) + |S|·h(S) 이며 g가 서브모듈러이고 h가 비단조화 서브모듈러일 경우, 기저 집합 E 에서 최소 k/2개의 요소가 선택된 경우 알고리즘은 기대 근사 비율이 최소 0.09/e ≈ 0.033 이상 보장된다.
• 분석 결과, 국소 순서부가능성 비율 γA,B 가 실행 중에 증가할수록 근사 경계가 향상되며, 특히 비율이 해 크기와 함께 감소하지 않을 경우에 특히 두드러진다.
• 실제로 순서부가능성 비율의 진정된 변화를 고려함으로써, 정적 비율 가정에 비해 더 날카운 경계를 도출할 수 있으며, 실용적 적용에 유리한 성능 보장을 제공한다.
• 영상 및 이미지 요약, 특징 선택, 블랙박스 모델 설명과 같은 실제 문제에 적용 가능하며, 이들 목표 함수는 종종 비단조화이지만 약한 순서부가능성을 갖는다.