[論文レビュー] Learning Combinatorial Functions from Pairwise Comparisons

Maria-Florina Balcan, Ellen Vitercik+1 more|arXiv (Cornell University)|May 30, 2016

Machine Learning and Algorithms参考文献 13被引用数 5

ひとこと要約

本稿は、相対的好みクエリのみを用いて、部分集合関数（サブモジュラー、XOS、部分加法的、カバレッジ、フーリエスパース関数など）の組合せ的関数を、ペアワイズ比較までに効率的に推論できる、新しい学習フレームワークを導入する。これらの関数が証明可能な分離要因を伴い、比較可能に学習可能であることが示され、特に低曲率やスパースなフーリエサポートといった構造的性質が存在する場合、最適または近似的に最適なサンプル複雑性と実行時間が達成される。

ABSTRACT

A large body of work in machine learning has focused on the problem of learning a close approximation to an underlying combinatorial function, given a small set of labeled examples. However, for real-valued functions, cardinal labels might not be accessible, or it may be difficult for an expert to consistently assign real-valued labels over the entire set of examples. For instance, it is notoriously hard for consumers to reliably assign values to bundles of merchandise. Instead, it might be much easier for a consumer to report which of two bundles she likes better. With this motivation in mind, we consider an alternative learning model, wherein the algorithm must learn the underlying function up to pairwise comparisons, from pairwise comparisons. In this model, we present a series of novel algorithms that learn over a wide variety of combinatorial function classes. These range from graph functions to broad classes of valuation functions that are fundamentally important in microeconomic theory, the analysis of social networks, and machine learning, such as coverage, submodular, XOS, and subadditive functions, as well as functions with sparse Fourier support.

研究の動機と目的

• 人間の専門家から実数値評価（基数ラベル）を取得することが困難または不可能な状況において、組合せ的関数を学習する課題に対処すること。
• 正確な値の推定ではなく、2つの集合のうちどちらの関数値が高いかを予測することを目的とした、ペアワイズ比較に基づく学習モデルの構築。
• サンプル複雑性と誤差に関する保証を備えた、多様なクラスの組合せ的関数を比較可能に学習可能な一般化されたアルゴリズムフレームワークの確立。
• 関数値の乗法的または加法的分離要因の観点から、このような学習が可能となる条件の特定。
• 曲率、SUMツリーの数、フーリエドメインにおけるスパarsityといった構造的性質が、提案フレームワークの学習可能性と効率性に与える影響の調査。

提案手法

• 本稿は、入力分布上ですべてのペアに対して高い確率で正しい比較を予測できるようにする、PAC学習に類似した比較可能学習モデルを定義する。
• 先行研究の近似結果を活用する一般化されたアルゴリズムフレームワークを導入し、特に線形関数の累乗による関数の乗法的近似に依存する。
• フーリエサポートがスパースな関数に対しては、フーリエ解析と多項式時間アルゴリズムを用い、少数のペアワイズクエリから比較関数を再構築する。
• サブモジュラー関数およびXOS関数に対しては、曲率解析と線形成分への構造的分解を用い、必要な分離要因を制限する。
• 加法的誤差設定では、一様分布を仮定し、XOS関数および単調サブモジュラー関数のスペクトル的性質を活用して誤差を有界化する。
• 特にカバレッジ関数に対しては、効率的な経験的リスク最小化オラクルを統合し、サンプル複雑性を低減する。

実験結果

リサーチクエスチョン

• RQ1 基数ラベルが得られない状況で、ペアワイズ比較フィードバックのみを用いて組合せ的関数を効果的に学習できるか？
• RQ2 異なる関数クラスにわたって正確な比較可能学習を可能にするために、関数値間に必要な最小の乗法的または加法的分離要因は何か？
• RQ3 サブモジュラー関数の曲率やフーリエドメインにおけるスパarsityといった構造的性質が、比較可能学習のサンプル複雑性と誤差境界に与える影響は何か？
• RQ4 特定の関数クラスに対して、分離要因をゼロ（すなわち、完全な比較予測）にできるか。その場合、どのような条件下で可能か？
• RQ5 比較可能に学習可能なサブモジュラー関数の、最もタイトな分離要因は何か。また、問題サイズに伴いどのようにスケーリングされるか？

主な発見

• サブモジュラー関数は、乗法的分離要因 $ O(\tilde{\theta}(\text{poly}(n))) $ を伴い、上界が $ O(\tilde{\theta}(\text{poly}(n))) $、ほぼ一致する下界が $ \tilde{\theta}(n^{1/3}) $ であるため、近似的に最適なトレードオフが達成される。
• XOSおよび部分加法的関数は、分離要因 $ \tilde{\theta}(\tilde{\theta}(\text{poly}(n))) $ を伴い、両者とも $ \tilde{O}(n/\tilde{\theta}(\text{poly}(n))) $ のサンプル数を要する。
• 曲率が $ \tilde{\theta} $ のサブモジュラー関数に対しては、分離要因が $ O(\min\{\sqrt{n}, \frac{1}{1-\kappa}\}) $ に改善され、$ \kappa \to 0 $ のとき1に近づくため、ほぼ加法的関数に近い学習が可能になる。
• R 個の SUM ツリーを持つ XOS 関数は、ある $ \xi > 0 $ に対して分離要因 $ O(R^\xi) $ を達成し、サンプル複雑性が $ \tilde{O}(n^{1/\xi}/\epsilon^3) $ となる。構造的スパarsityが高くなるほど性能が向上する。
• 高々 $ k $ 個の非ゼロ係数を持ち、$ \mathcal{P} $ にサポートを持つフーリエスパース関数は、分離要因がゼロ（無し）で比較可能に学習可能であり、$ \tilde{O}(|\mathcal{P}|^k/\epsilon^2) $ のサンプル数と実行時間で達成される。
• カバレッジ関数は、線形分離器のための ERM オラクルへのアクセスを仮定すると、乗法的分離要因 $ 1+\epsilon $ を用い、$ \tilde{O}(n^3/\epsilon^5) $ のクエリ数で比較可能に学習可能である。