[論文レビュー] Ranking via Sinkhorn Propagation

Ryan P. Adams, Richard S. Zemel|arXiv (Cornell University)|Jun 9, 2011

Information Retrieval and Search Behavior参考文献 19被引用数 82

ひとこと要約

この論文は、順序付け関数のエンドツーエンド学習を可能にする微分可能手法であるSinkhorn Propagation（SinkProp）を提案する。SinkPropは、置換行列の緩和として二重確率行列（DSM）を用い、NDCG や P@K などのランク線形目的関数の勾配ベース最適化を可能にする。Sinkhorn正規化と反復的射影プロセスを経たバックプロパゲーションにより、可微分性とスケーラビリティを維持したまま、複数の情報検索ベンチマークで競争力ある性能を達成する。

ABSTRACT

It is of increasing importance to develop learning methods for ranking. In contrast to many learning objectives, however, the ranking problem presents difficulties due to the fact that the space of permutations is not smooth. In this paper, we examine the class of rank-linear objective functions, which includes popular metrics such as precision and discounted cumulative gain. In particular, we observe that expectations of these gains are completely characterized by the marginals of the corresponding distribution over permutation matrices. Thus, the expectations of rank-linear objectives can always be described through locations in the Birkhoff polytope, i.e., doubly-stochastic matrices (DSMs). We propose a technique for learning DSM-based ranking functions using an iterative projection operator known as Sinkhorn normalization. Gradients of this operator can be computed via backpropagation, resulting in an algorithm we call Sinkhorn propagation, or SinkProp. This approach can be combined with a wide range of gradient-based approaches to rank learning. We demonstrate the utility of SinkProp on several information retrieval data sets.

研究の動機と目的

• NDCG や P@K などの順序付け目的関数の非微分性が、深層ニューラルネットワークの学習を妨げる問題に対処すること。
• 置換行列の微分可能緩和としての二重確率行列（DSM）を用い、ランク線形目的関数の期待値を保持すること。
• 反復的Sinkhorn正規化を経てバックプロパゲーションを可能にし、順序付けモデルのエンドツーエンド学習を可能にすること。
• 変動するクエリサイズや文書集合に対応できるスケーラブルで柔軟なフレームワークを提供すること。
• 多様な情報検索データセットにおける本手法の有効性を示すこと。

提案手法

• 本手法は、置換行列の連続的緩和として二重確率行列（DSM）を用い、順序付け目的関数の微分可能最適化を可能にする。
• NDCG@K、P@K、RBP などのランク線形目的関数を、置換分布の周辺分布関数として定式化し、DSMが完全に特徴づける。
• コアとなる技術はSinkhorn正規化である。行列の行と列を反復的にスケーリングすることで、二重確率行列にすることを目的とした反復的射影プロセスである。
• 不完全なSinkhorn正規化プロセスを経て勾配をバックプロパゲーションし、著者らが「Sinkhorn Propagation（SinkProp）」と呼ぶ手法により、エンドツーエンド学習を可能にする。
• 柔軟な事前正規化行列を許容し、文書数がクエリごとに変動する場合でも、深層ニューラルネットワークとシームレスに統合可能である。
• 目的関数内でサンプリングや近似を避けることで、DSM表現下での期待利益の効率的計算を可能にする。

実験結果

リサーチクエスチョン

• RQ1 NDCG@K や P@K などの順序付け目的関数は、置換行列の微分可能緩和によって最適化可能か？
• RQ2 Sinkhorn正規化プロセスを経て勾配を効果的にバックプロパゲーションできるか、これにより順序付けモデルのエンドツーエンド学習が可能か？
• RQ3 二重確率行列を用いることで、正確な置換ベース計算と比較してランク線形目的関数の期待値が保持されるか？
• RQ4 性能と学習安定性の観点から、従来のサロゲートベースまたはサンプリングベースの手法と比較して、SinkPropはどのように差をつけるか？
• RQ5 変動するサイズの入力クエリを扱う情報検索タスクにおいて、SinkPropは深層ニューラルネットワークと効果的に統合可能か？

主な発見

• Sinkhorn Propagationは、反復的Sinkhorn正規化を経てバックプロパゲーションすることで、非微分性を克服し、順序付けモデルの微分可能学習を可能にする。
• 二重確率行列を用いることで、NDCG@K や P@K などのランク線形目的関数の期待値が正確に保持され、高精度な最適化が可能になる。
• 7つの情報検索データセットにおいて、SinkPropは最先端の手法と同等の性能を達成し、特にTD2003データセットで顕著な優位性を示した。
• 深層ニューラルネットワークと統合されたエンドツーエンド学習を可能にし、文書数の変動に応じたDSMの学習により、汎用性が保証される。
• 特に上位順位の性能に敏感な状況では、SoftRank や SmoothRank よりもSinkPropが優れた性能を発揮した。
• 本フレームワークにより、画像や音声のランク付けなどの非テキスト検索タスクに対しても、置換出力への微分可能パスを提供し、勾配ベースの学習が可能になる。