[論文レビュー] Learning to Order Things

William W. Cohen, Robert E. Schapire+1 more|May 27, 2011

Machine Learning and Algorithms参考文献 10被引用数 35

ひとこと要約

本稿では、順序付けのための好みの判断を用いた2段階アプローチを提案する。まず、オンラインアルゴリズム（Hedgeに基づく）を用いて好み関数を学習し、次にその関数を用いて新しいインスタンスを貪欲な近似法で順序付けする。主な貢献は、最適な順序付けがNP完全であるが、効率的に近似可能であることを示したことである。実験的検証はWeb検索のエキスパート結合に於いて行われた。

ABSTRACT

There are many applications in which it is desirable to order rather than classify instances. Here we consider the problem of learning how to order instances given feedback in the form of preference judgments, i.e., statements to the effect that one instance should be ranked ahead of another. We outline a two-stage approach in which one first learns by conventional means a binary preference function indicating whether it is advisable to rank one instance before another. Here we consider an on-line algorithm for learning preference functions that is based on Freund and Schapire's 'Hedge' algorithm. In the second stage, new instances are ordered so as to maximize agreement with the learned preference function. We show that the problem of finding the ordering that agrees best with a learned preference function is NP-complete. Nevertheless, we describe simple greedy algorithms that are guaranteed to find a good approximation. Finally, we show how metasearch can be formulated as an ordering problem, and present experimental results on learning a combination of 'search experts', each of which is a domain-specific query expansion strategy for a web search engine.

研究の動機と目的

• 分類よりも順序付けが自然な応用を念頭に、分類ではなく順序付けを学習する問題に取り組むこと。
• 分類ラベルよりも容易に得られるペアワイズの好みの判断から、好み関数を学習する手法を開発すること。
• 最適解がNP完全であるにもかかわらず、学習済み好み関数に基づいて新しいインスタンスを効率的に順序付けるアルゴリズムを設計すること。
• 実世界の設定、具体的にはWeb検索における複数の検索エキスパートの組み合わせを対象として、フレームワークを評価すること。

提案手法

• 2段階フレームワーク：まず、インスタンスuがvより前に順序付けられるべきかどうかを示す二値の好み関数PREF(u,v)を学習する。
• FreundとSchapireのHedgeアルゴリズムに基づくオンライン学習アルゴリズムを用い、好みの判断から好み関数を学習する。
• 2段階目では、学習済み好み関数と整合性が最も高い順序付けを、新しいインスタンスに対して最大化する。
• 最適総順序の近似として貪欲アルゴリズムを適用し、近似品質に関する理論的保証を提供する。
• 複数のドメイン特化型のクエリ拡張戦略（検索エキスパート）を、好み学習フレームワークを用いて1つの順序付けモデルに統合する。
• 基本的な好み関数の線形結合を用いて最終的な好み関数を構築する。

実験結果

リサーチクエスチョン

• RQ1 好みの判断は、分類や回帰よりも、順序付けモデルの学習に効果的に利用可能か？
• RQ2 オンライン学習アルゴリズムを用いて、ペアワイズフィードバックから好み関数を効率的に学習することは可能か？
• RQ3 学習済み好み関数と最も整合性が高い総順序を、効率的に計算する方法は何か？
• RQ4 学習済み好み関数から最適な順序付けを求める際の計算複雑度は何か？
• RQ5 このフレームワークは、Web検索における複数の検索エキスパートの組み合わせに有効に応用可能か？

主な発見

• 学習済み好み関数と最も整合性が高い最適総順序を求める問題はNP完全である。
• NP完全性にもかかわらず、単純な貪欲アルゴリズムは最適順序の良い近似を保証して得られる。
• Hedgeに基づくオンラインアルゴリズムは、ペアワイズフィードバックから好み関数を理論的収束保証とともに効果的に学習できる。
• 実験結果から、このフレームワークを用いて複数の検索エキスパートを統合することで、Web検索の効果性が向上することが示された。
• 順序付けタスクにおいて、分類や回帰ラベルよりも、好みの判断はより自然で、かつ容易なフィードバックメカニズムである可能性がある。
• このフレームワークは、多様なクエリ拡張戦略を1つの効果的な順序付けモデルに効果的に統合できた。