[논문 리뷰] Streaming Robust Submodular Maximization: A Partitioned Thresholding Approach

Slobodan Mitrović, Ilija Bogunovic외 3명|arXiv (Cornell University)|2017. 11. 07.

Complexity and Algorithms in Graphs참고 문헌 13인용 수 13

한 줄 요약

이 논문은 데이터를 단일 패assing으로 처리하고, 어떤 $m$개의 요소가 제거된 후에도 일정 요소 근사값을 보장하는, 강건한 부분모듈러 최대화를 위한 스트리밍 알고리즘인 STAR-T를 제안한다. 이 알고리즘은 크기가 $O((k + m\log k)\log^2 k)$인 컴act하고 강건한 요약을 구성한다. 이는 지수적으로 감소하는 임계값을 사용하는 분할된 임계값 설정 기법을 통해 강건성과 효율성을 유지한다.

ABSTRACT

We study the classical problem of maximizing a monotone submodular function subject to a cardinality constraint k, with two additional twists: (i) elements arrive in a streaming fashion, and (ii) m items from the algorithm's memory are removed after the stream is finished. We develop a robust submodular algorithm STAR-T. It is based on a novel partitioning structure and an exponentially decreasing thresholding rule. STAR-T makes one pass over the data and retains a short but robust summary. We show that after the removal of any m elements from the obtained summary, a simple greedy algorithm STAR-T-GREEDY that runs on the remaining elements achieves a constant-factor approximation guarantee. In two different data summarization tasks, we demonstrate that it matches or outperforms existing greedy and streaming methods, even if they are allowed the benefit of knowing the removed subset in advance.

연구 동기 및 목표

• 대규모 데이터 요약 문제를 스트리밍 환경과 강건성 제약 조건 하에서 해결한다.
• 최대 $m$개의 요소 제거에 대비해 컴act하고 강건한 요약을 유지하는 스트리밍 알고리즘을 설계한다.
• 어떤 $m$개 요소가 제거된 후에도 나머지 요약 요소에 대해 단순 그레디언트 알고리즘이 일정 요소 근사값을 달성하도록 보장한다.
• 요소 손실 이후 전체 데이터셋을 재처리하는 것이 비현실적인 실시간 시스템에 실용적으로 구현 가능하도록 한다.
• 기존 방법들조차도 제거된 요소를 사전에 알고 있음에도 불구하고, 새로운 분할된 임계값 구조를 활용해 이를 뛰어넘는다.

제안 방법

• 데이터 스트림을 여러 파artition에 걸쳐 지수적으로 증가하는 버킷 크기로 분할한다.
• 각 파artition에 대해 지수적으로 감소하는 임계값 규칙을 적용하여 요소 선택을 제어하고 강건성을 확보한다.
• 각 파artition 내에서 마진 성과 임계값이 파artition 인덱스에 따라 감소하도록 유도하는 그레디언트 선택 전략을 사용한다.
• 고가치 요소를 여러 파artition에 분산시켜 어떤 $m$개 요소가 제거되더라도 요약이 강건해지도록 구성한다.
• 스트림 처리 후, 요약에 남아 있는 요소들에 대해 단순 그레디언트 알고리즘을 적용하여 최종 해를 도출한다.
• 부분모듈러성과 단조성 성질을 활용하여, 악성 제거 상황에서도 일정 요소 근사값 보장을 증명한다.

실험 결과

연구 질문

• RQ1 악성 요소 제거 상황에서도 부분모듈러 최대화에 대해 일정 요소 근사값을 달성할 수 있는 스트리밍 알고리즘이 존재하는가?
• RQ2 입력 크기의 아랫부분선형 크기로 유지하면서도, 단일 패assing 알고리즘이 컴act하고 강건한 요약을 유지할 수 있는가?
• RQ3 어떤 구조적 설계가 어떤 $m$개 요소 제거에 대비해 강건성을 확보하면서도 근사값 보장을 유지할 수 있는가?
• RQ4 제안된 분할된 임계값 설정 기법은 기존 스트리밍 방법에 비해 어떤 방식으로 강건성을 향상시키는가?
• RQ5 기존 기준선들보다도 제거된 요소를 사전에 알고 있음에도 불구하고, 이 알고리즘이 승리할 수 있는가?

주요 결과

• STAR-T는 요약에서 어떤 $m$개 요소가 제거된 후에도 강건한 부분모듈러 최대화에 대해 일정 요소 근사값 보장을 달성한다.
• 알고리즘은 크기가 $O((k + m\log k)\log^2 k)$인 요약을 구성하며, 이는 대규모 데이터에 대해 아랫부분선형이고 실용적이다.
• 영화 추천 작업에서, STAR-T-Greedy는 기준선 그레디언트 알고리즘과 몇 퍼센트 이내로 유사한 성능을 보였으며, 기준선조차도 제거된 요소를 사전에 알고 있음에도 불구하고 이를 뛰어넘었다.
• 장르 기반 필터링 시나리오에서는 59%의 영화가 제거된 상황에서도 STAR-T-Greedy가 높은 성능을 유지하여 강력한 강건성을 입증했다.
• 실험 결과, STAR-T-Sieve와 Sieve-Streaming은 유사한 성능을 보였지만, $|E| \gg k$인 경우 특히 STAR-T-Greedy가 뛰어난 성능을 보였다.
• 제거된 요소 수가 이론적 한계($k$)를 초과하는 경우에도 알고리즘이 효과를 유지하여, 이론을 초월한 실용적 강건성을 보였다.