[論文レビュー] Interactive algorithms: from pool to stream

Sivan Sabato, Tom Hess|arXiv (Cornell University)|Feb 2, 2016

Machine Learning and Algorithms参考文献 39被引用数 7

ひとこと要約

この論文は、要素が逐次的に到着し、即座に選択しなければならないストリーム設定において、プールベースのインタラクティブアルゴリズムをエミュレートする際の効率を研究している。本稿では、ブラックボックス型プールアルゴリズムを任意にエミュレートするストリームアルゴリズムを提示し、選択された要素の数に関して指数関数的に増加する期待ストリームサイズを持つことを示し、タイトな下界を証明している。主な結果は、2値分類におけるアクティブラーニングにおいて、ストリームベースのアルゴリズムはプールベースのアルゴリズムが必要な m 個の例に比べ、最大で Ω̃(m^{3/2}) 個のラベルなし例を必要とすることであり、特定の条件下で両者の設定間に根本的なギャップがあることを示している。

ABSTRACT

We consider interactive algorithms in the pool-based setting, and in the stream-based setting. Interactive algorithms observe suggested elements (representing actions or queries), and interactively select some of them and receive responses. Pool-based algorithms can select elements at any order, while stream-based algorithms observe elements in sequence, and can only select elements immediately after observing them. We assume that the suggested elements are generated independently from some source distribution, and ask what is the stream size required for emulating a pool algorithm with a given pool size. We provide algorithms and matching lower bounds for general pool algorithms, and for utility-based pool algorithms. We further show that a maximal gap between the two settings exists also in the special case of active learning for binary classification.

研究の動機と目的

• プールベースのインタラクティブアルゴリズムをストリーム設定にエミュレートするコストを理解すること。
• 与えられたプールアルゴリズムと同一の出力分布を達成するために必要な最小ストリームサイズを特定すること。
• 特に2値分類におけるアクティブラーニングにおいて、両者の設定の間のギャップが本質的かどうかを調査すること。
• 一般およびユーティリティベースのプールアルゴリズムの両方に対して、ストリームサイズのタイトな上界および下界を提供すること。

提案手法

• 要素を逐次的に観測し、拒否サンプリング戦略に基づいて選択することで、任意のブラックボックス型プールアルゴリズムをエミュレートするストリームベースのアルゴリズムを提案する。
• 選択された要素の数に関して指数関数的に増加する、観測要素数の期待値に対する一様な上界を用いる。
• 確率的議論と分布に関する仮定を用いて、エミュレーションに必要なストリームサイズを分析する。
• 特定の仮説クラスと例の分布を構築し、ストリーム設定とプール設定の間の明確なギャップを示す。
• ストリームベースのアルゴリズムが q = Θ(√m) のとき、少なくとも Ω̃(m^{3/2}) 個のラベルなし例を必要とすることを示す下界を証明する。一方、プールアルゴリズムは m 個の例で十分である。
• 上界をユーティリティベースのプールアルゴリズムに適用し、ラベル予算 q が小さい（例：q ∈ Θ(log(1/ε))）場合、ギャップが無視できるほど小さいことを示す。

実験結果

リサーチクエスチョン

• RQ1 与えられたプールベースのインタラクティブアルゴリズムをストリーム設定で正確にエミュレートするために必要な最小ストリームサイズは何か？
• RQ2 必要なストリームサイズは、選択された要素の数とラベル予算 q に対してどのようにスケーリングされるか？
• RQ3 2値分類におけるアクティブラーニングにおいて、プールベースとストリームベースの設定の間に根本的なギャップがあるか？
• RQ4 ラベル予算 q に対して線形のストリームサイズで、ユーティリティベースのプールアルゴリズムをストリーム設定で効率的にエミュレートできるか？
• RQ5 どのような条件下で、両者の間のギャップは無視できるか、あるいは顕著な大きさになるか？

主な発見

• 一般のプールアルゴリズムに対しては、ストリームベースのアルゴリズムが観測する要素数の期待値は、選択された要素の数に関して指数関数的に増加する。
• 下界により、q = Θ(√m) のとき、ストリームサイズは Ω̃(m^{3/2}) 以上に増加するが、プール設定では m 個の例で十分であることが示された。
• 2値分類におけるアクティブラーニングの特殊ケースでは、最大のギャップが生じる：ストリームベースのアルゴリズムは最大で Ω̃(m^{3/2}) 個のラベルなし例を必要とし、一方プールベースのアルゴリズムは m 個の例で十分である。
• ラベル予算 q が小さい（例：q ∈ Θ(log(1/ε))）ユーティリティベースのプールアルゴリズムでは、ストリームサイズの要件は O(log(1/ε)/ε) に留まり、ギャップは無視できる。
• ギャップは CAL のような特定のアルゴリズムの制限によるものではなく、ストリームベースの設定そのものに起因するものであり、任意のストリームベースのアクティブラーニングアルゴリズムに適用可能な構成によりそれが示された。
• 結果として、プールアルゴリズムのストリーム設定における正確なエミュレーションは可能であるが、特に q が m に対して大きい場合、ストリームサイズのコストが高くなる可能性があることが示された。