[논문 리뷰] Pandora's Box with Correlations: Learning and Approximation

Shuchi Chawla, Evangelia Gergatsouli외 3명|arXiv (Cornell University)|2019. 11. 05.

Optimization and Search Problems참고 문헌 35인용 수 7

한 줄 요약

이 논문은 관련된 랜덤 변수를 가진 판도라 상자 문제에 대한 최초의 근사 알고리즘을 제안하며, 알고리즘이 연합 분포에서 샘플에 접근한다. 이는 전체 적응 전략이 샘플로 근사가 불가능한 경우조차도 다항 수준의 샘플 및 시간 복잡도로 최적의 부분 적응 전략(PA 전략)에 대한 상수 요인 근사치를 달성하는 부분 적응 전략—고정된 탐색 순서와 적응적 정지—에 집중한다.

ABSTRACT

The Pandora's Box problem and its extensions capture optimization problems with stochastic input where the algorithm can obtain instantiations of input random variables at some cost. To our knowledge, all previous work on this class of problems assumes that different random variables in the input are distributed independently. As such it does not capture many real-world settings. In this paper, we provide the first approximation algorithms for Pandora's Box-type problems with correlations. We assume that the algorithm has access to samples drawn from the joint distribution on input. Algorithms for these problems must determine an order in which to probe random variables, as well as when to stop and return the best solution found so far. In general, an optimal algorithm may make both decisions adaptively based on instantiations observed previously. Such fully adaptive (FA) strategies cannot be efficiently approximated to within any sublinear factor with sample access. We therefore focus on the simpler objective of approximating partially adaptive (PA) strategies that probe random variables in a fixed predetermined order but decide when to stop based on the instantiations observed. We consider a number of different feasibility constraints and provide simple PA strategies that are approximately optimal with respect to the best PA strategy for each case. All of our algorithms have polynomial sample complexity. We further show that our results are tight within constant factors: better factors cannot be achieved even using the full power of FA strategies.

연구 동기 및 목표

• 기존의 독립 분포 모델에서 간과된 실제 세계에서 흔한 상황인 관련된 랜덤 변수로 확장된 판도라 상자 문제의 격차를 메우기 위해.
• 샘플 액세스 하에서 전체 적응 전략을 근사하는 것이 비현실적일 수 있으며, 이는 관련된 결과 간의 임의의 매핑을 학습해야 할 수 있기 때문이다.
• 여전히 관련성 하에서 의미 있는 의사결정을 반영할 수 있는 다루기 쉬운 기준으로서 고정된 탐색 순서와 적응적 정지를 갖는 부분 적응 전략(PA 전략)에 집중하기 위해.
• 다양한 타당성 제약 조건 하에서 최적의 PA 전략에 대한 상수 요인 근사치를 달성하는 효율적인 알고리즘을 설계하며, 샘플 및 시간 복잡도가 다항 수준이 되도록 하기 위해.
• 최적의 전체 적응 전략조차도 더 나은 근사 요인을 달성할 수 없음을 보여줌으로써 결과의 날카로움을 입증함으로써 기본 한계를 설정하기 위해.

제안 방법

• 알고리즘이 고정된 순서로 탐색한 후 정지를 결정해야 하는 연합 분포에서 상자 값의 관련된 비용을 가진 온라인 스토케스틱 검색 문제로 문제를 모델링한다.
• 값 분포의 샘플 기반 추정과 임계값 기반 기법의 조합을 통해 최적의 PA 전략을 근사하는 프레임워크를 제안한다.
• 각 타당성 제약 조건(예: 배낭 제약, 매트로이드)에 대해 최적의 PA 전략에 대해 상수 근사 비율을 유지하는 단순한, 근사 유사 그리디 PA 전략을 설계한다.
• 집중 불등식과 확률적 경계를 사용하여 값 분포의 샘플 기반 추정이 근사 보장을 유지할 수 있도록 충분히 정확한지 보장한다.
• 연합 분포와 제약 조건의 구조적 성질(예: 매트로이드 랭크, 배낭 용량)을 활용하여 기대 비용과 탐색 횟수를 제한한다.
• 제안된 알고리즘이 다항 수준의 샘플 복잡도와 런타임을 달성함을 증명하여 대규모 응용에 실용적임을 보장한다.

실험 결과

연구 질문

• RQ1 랜덤 변수가 독립이 아니라 관련되어 있을 경우, 판도라 상자 문제에 대해 효율적인 근사 알고리즘을 설계할 수 있는가?
• RQ2 전체 적응 전략이 비현실적이지만, 샘플 액세스 하에서 최적의 부분 적응 전략에 대해 상수 요인 근사치를 달성하는 것이 가능한가?
• RQ3 관련성이 존재할 경우 근사의 기본 한계는 무엇이며, 전체 적응 전략을 사용하더라도 상수 요인보다 더 나은 근사치를 달성할 수 없는가를 보일 수 있는가?
• RQ4 다양한 타당성 제약 조건(예: 배낭 제약, 매트로이드)은 관련된 환경에서 근사 알고리즘의 설계와 성능에 어떻게 영향을 미치는가?
• RQ5 관련성이 존재하는 상황에서 다항 수준의 샘플 복잡도를 달성하면서도 상수 근사 비율을 유지할 수 있는가?

주요 결과

• 이 논문은 다항 수준의 샘플 및 시간 복잡도 하에서 관련된 비용을 가진 판도라 상자 문제에 대해 최적의 부분 적응(PA) 전략에 대한 상수 요인 근사치를 달성한다.
• 제안된 알고리즘은 관련성이 존재하는 상황에서 이러한 보장을 제공하는 최초의 알고리즘으로, 이전 연구에서 독립성을 가정한 결과를 일반화한다.
• 결과는 날카로움을 보인다: 샘플 액세스 하에서는 전체 적응 전략조차도 상수 요인 근사치를 초월할 수 없으며, 이는 기본 한계를 설정한다.
• 각 타당성 제약 조건(예: 배낭 제약, 매트로이드)에 대해 최적의 PA 전략에 대해 상수 근사치를 달성하는 단순한 PA 전략을 설계한다.
• 샘플 복잡도는 상자 수와 원하는 정확도의 역수에 대해 다항 수준이며, 이는 풍부한 분포로의 확장성과 일반화를 보장한다.
• 분석 결과, 샘플 액세스로는 변수 간의 임의의 상관관계를 학습하는 것은 불가능하며, 매핑이 매우 높은 확률을 가져야만 가능함을 보여주며, 이는 PA 전략에 집중하는 것이 타당함을 정당화한다.