[論文レビュー] Learning Valuation Functions

Maria Florina Balcan, Florin Constantin+2 more|arXiv (Cornell University)|Aug 29, 2011

Machine Learning and Algorithms参考文献 25被引用数 12

ひとこと要約

この論文は、一般化されたサブモodular関数であるXOS、サブアドディティブ、サブモジュラー評価関数の近似的な学習可能性を、マクロエコノミクスとゲーム理論の文脈で調査する。PMACモデルにおいて、XOSおよびサブアドディティブ関数の学習に対して、ほぼタイトな$\tilde{\Theta}(n^{1/2})$の境界を確立する一方で、多項式的複雑性を持つXOS関数は、$O(n^\varepsilon)$近似で$n^{O(1/\varepsilon)}$時間以内に学習可能であることを示している。

ABSTRACT

In this paper we study the approximate learnability of valuations commonly used throughout economics and game theory for the quantitative encoding of agent preferences. We provide upper and lower bounds regarding the learnability of important subclasses of valuation functions that express no-complementarities. Our main results concern their approximate learnability in the distributional learning (PAC-style) setting. We provide nearly tight lower and upper bounds of $ ildeΘ(n^{1/2})$ on the approximation factor for learning XOS and subadditive valuations, both widely studied superclasses of submodular valuations. Interestingly, we show that the $ ildeΩ(n^{1/2})$ lower bound can be circumvented for XOS functions of polynomial complexity; we provide an algorithm for learning the class of XOS valuations with a representation of polynomial size achieving an $O(n^{\eps})$ approximation factor in time $O(n^{1/\eps})$ for any $\eps > 0$. This highlights the importance of considering the complexity of the target function for polynomial time learning. We also provide new learning results for interesting subclasses of submodular functions. Our upper bounds for distributional learning leverage novel structural results for all these valuation classes. We show that many of these results provide new learnability results in the Goemans et al. model (SODA 2009) of approximate learning everywhere via value queries. We also introduce a new model that is more realistic in economic settings, in which the learner can set prices and observe purchase decisions at these prices rather than observing the valuation function directly. In this model, most of our upper bounds continue to hold despite the fact that the learner receives less information (both for learning in the distributional setting and with value queries), while our lower bounds naturally extend.

研究の動機と目的

• サブモジュラー関数を超えるクラスを含む、分布的（PAC風）学習モデルにおける評価関数の学習可能性を研究すること。
• サブモジュラー関数を一般化するXOSおよびサブアドディティブ評価関数の学習におけるタイトな近似境界を確立すること。
• 直接的な評価が観測できないが、設定された価格での購入意思決定のみが観測可能な、より現実的な経済的モデルにおける学習可能性を調査すること。
• グロス・サブスティチューツおよびOXS評価関数などの部分クラスに関する構造的洞察とアルゴリズムを提供すること。
• 理論的学習結果と、価格設定と観測された購入行動を含む実用的経済設定を橋渡しすること。

提案手法

• 学習者が未知の分布からのi.i.d.サンプルを受信し、ターゲット評価関数の乗法的近似を学習することを目的とする、分布的学習のためのPMAC（おそらく近似的に正しい）モデルを用いる。
• XOSおよびサブアドディティブ関数に対する学習可能性とハードネス境界を導出するために、評価関数クラスに関する新しい構造的結果を適用する。
• 学習者が価格を設定し、購入意思決定（購入／非購入）を観測する、新たなモデルを導入する。これは、現実世界の経済的データ収集を模倣する。
• 分離子を用いて購入意思決定モデルを二値分類問題に還元し、購入データにおける誤差が低いと、評価関数近似における誤差も低いことを証明する。
• 任意の$\varepsilon > 0$に対して、多項式的表現を有するXOS関数を$O(n^\varepsilon)$近似で$n^{O(1/\varepsilon)}$時間以内に学習するアルゴリズムを設計する。これにより、$\tilde{\Omega}(n^{1/2})$の下界を回避できる。
• 直接的な評価フィードバックを介して関数を学習する価値クエリ（VQ）モデルを活用し、価格設定実験によるクエリのシミュレーションにより、結果を価格依存観測モデルへ拡張する。

実験結果

リサーチクエスチョン

• RQ1 PMACモデルにおいて、XOSおよびサブアドディティブ評価関数を学習する際の最適近似要因は何か？
• RQ2 XOSおよびサブアドディティブ関数の$\tilde{\Omega}(n^{1/2})$の下界は、追加の構造的仮定のもとで克服可能か？
• RQ3 直接的な評価ではなく、設定された価格での購入意思決定のみが観測される場合、評価関数クラスの学習可能性はどのように変化するか？
• RQ4 グロス・サブスティチューツおよびOXS評価関数などの部分クラスは、分布的および価値クエリモデルの両方において、どのように学習可能か？
• RQ5 多項式的表現複雑性に制限があるXOS関数を効率的に学習するアルゴリズムを設計可能か？

主な発見

• 本論文は、PMACモデルにおけるXOSおよびサブアドディティブ評価関数の学習に関する、ほぼタイトな$\tilde{\Theta}(n^{1/2})$の近似要因境界を確立した。
• 多項式的サイズの表現を有するXOS関数に対しては、任意の$\varepsilon > 0$に対して$O(n^\varepsilon)$近似を$n^{O(1/\varepsilon)}$時間で達成するアルゴリズムが存在し、$\tilde{\Omega}(n^{1/2})$の下界を回避している。
• 最大$R$本の木、または1本の木に$R$個の葉を有するOXS評価関数は、$2R$近似要因でVQ学習可能である。
• 同様に、木数や葉数が制限されたXOS評価関数に対しても同様の結果が成り立ち、構造的制約下での学習可能性を示している。
• 購入意思決定のみが観測可能な価格ベースのモデルにおいても、上界は依然として成立するが、下界は自然に拡張される。
• 評価関数クラスに関する構造的結果により、Goemansらの価値クエリモデルにおける新たな学習可能性結果が得られ、サブモジュラー関数に関する先行研究を拡張した。