[論文レビュー] Pandora's Box with Correlations: Learning and Approximation

Shuchi Chawla, Evangelia Gergatsouli+3 more|arXiv (Cornell University)|Nov 5, 2019

Optimization and Search Problems参考文献 35被引用数 7

ひとこと要約

この論文は、結合分布からのサンプルにアクセスできる状況下で、相関する確率変数を伴うパンダラボックス問題に対する、初めての近似アルゴリズムを提示する。アルゴリズムは部分的適応（PA）戦略—固定された調査順序に従い、停止を適応的に選択する—に焦点を当て、完全な適応戦略がサンプルでは近似不可能な場合でも、多項式時間およびサンプル複雑性のもとで最適PA戦略の定数倍近似を達成する。

ABSTRACT

The Pandora's Box problem and its extensions capture optimization problems with stochastic input where the algorithm can obtain instantiations of input random variables at some cost. To our knowledge, all previous work on this class of problems assumes that different random variables in the input are distributed independently. As such it does not capture many real-world settings. In this paper, we provide the first approximation algorithms for Pandora's Box-type problems with correlations. We assume that the algorithm has access to samples drawn from the joint distribution on input. Algorithms for these problems must determine an order in which to probe random variables, as well as when to stop and return the best solution found so far. In general, an optimal algorithm may make both decisions adaptively based on instantiations observed previously. Such fully adaptive (FA) strategies cannot be efficiently approximated to within any sublinear factor with sample access. We therefore focus on the simpler objective of approximating partially adaptive (PA) strategies that probe random variables in a fixed predetermined order but decide when to stop based on the instantiations observed. We consider a number of different feasibility constraints and provide simple PA strategies that are approximately optimal with respect to the best PA strategy for each case. All of our algorithms have polynomial sample complexity. We further show that our results are tight within constant factors: better factors cannot be achieved even using the full power of FA strategies.

研究の動機と目的

• 従来の独立分布モデルが無視してきた、現実世界で一般的な相関する確率変数への拡張により、パンダラボックス問題におけるギャップを埋める。
• サンプルアクセス下での完全適応（FA）戦略の近似が困難であるという課題を克服する。これは、相関する結果間の任意の写像を学習する必要がある可能性があるためである。
• 固定された調査順序に従い、停止を適応的に選択する部分的適応（PA）戦略を、相関下での意味のある意思決定を捉えることができる実行可能なベンチマークとして焦点化する。
• 複数の実行可能性制約（例：ナップサック、マトロイド）を満たす中で、最適PA戦略に対する定数倍近似を達成する効率的なアルゴリズムを設計する。サンプルおよび実行時間の両方が多項式複雑性を満たす。
• 完全適応戦略ですら、定数倍近似要因を上回ることはできないことを示すことにより、結果のタイトネスを示す。これにより、根本的な限界が確立される。

提案手法

• アルゴリズムが結合分布からサンプルを取得できる状況下で、相関するコストを伴うオンライン確率的探索問題として問題をモデル化する。固定された順序で調査を実行し、適切なタイミングで停止を決定する必要がある。
• 各変数の値分布の推定にサンプリングを用い、しきい値による手法と組み合わせることで、最適PA戦略の近似を可能にするフレームワークを導入する。
• 各実行可能性制約（例：ナップサック、マトロイド）に対して、単純で貪欲的なPA戦略を設計し、最適PA戦略に対する定数倍近似比を維持する。
• 集中不等式と確率的バウンドを用いて、値分布のサンプルベース推定が、近似保証を維持するのに十分に正確であることを保証する。
• 結合分布および制約の構造的性質（例：マトロイドのランク、ナップサック容量）を活用し、期待コストおよび調査回数の上限を導出する。
• 提案されたアルゴリズムが多項式サンプル複雑性および実行時間を持つことを証明し、大規模応用において実用的であることを示す。

実験結果

リサーチクエスチョン

• RQ1 確率変数が独立ではなく相関している場合に、パンダラボックス問題に対して効率的な近似アルゴリズムを設計することは可能か？
• RQ2 完全適応戦略がサンプルアクセス下で近似困難であるにもかかわらず、最適部分的適応（PA）戦略に対して定数倍近似を達成することは可能か？
• RQ3 相関が存在する場合の近似の根本的限界は何か？また、完全適応でさえ、定数倍を超える近似は不可能であることを示せるか？
• RQ4 ナップサックやマトロイドなどの異なる実行可能性制約は、相関する状況下での近似アルゴリズムの設計および性能にどのように影響を与えるか？
• RQ5 相関が存在する中で、多項式サンプル複雑性を維持しつつ、定数倍近似比を達成することは可能か？

主な発見

• 本論文は、サンプルおよび実行時間の両方が多項式複雑性である条件下で、相関するコストを伴うパンダラボックス問題に対して、最適部分的適応（PA）戦略の定数倍近似を達成する。
• 提案されたアルゴリズムは、相関が存在する状況でもこのような保証を提供する最初のものであり、独立性を仮定した従来の結果を一般化する。
• 結果はタイトである：サンプルアクセス下では、完全適応アルゴリズムですら、定数倍近似を上回ることは不可能であり、根本的な限界が確立される。
• ナップサックやマトロイドなどの各実行可能性制約に対して、最適PA戦略に対する定数倍近似を達成する単純なPA戦略を設計する。
• サンプル複雑性は、ボックス数および所望の精度の逆数の多項式に依存しており、豊かな分布へのスケーラビリティと一般化性を保証する。
• 分析により、サンプルアクセスでは、写像が極めて高い確率で発生しない限り、変数間の任意の相関を学習することは不可能であることが示され、PA戦略への焦点が正当化される。