[論文レビュー] Learning Optimal Tree Models Under Beam Search

Jingwei Zhuo, Ziru Xu+5 more|arXiv (Cornell University)|Jun 27, 2020

Advanced Image and Video Retrieval Techniques被引用数 7

ひとこと要約

本論文は、大規模なリtrievalのための木構造モデルにおけるトレーニング・テストの乖離を解消するために、トレーニング中にビームサーチを明示的に考慮する新しいトレーニングアルゴリズム、最適木モデル（OTM）を提案する。OTMは、ビームサーチに配慮したサブサンプリングと最適な擬似ターゲットの定義を導入し、先行手法と比較してAmazon Booksで29.8%の相対的リcall向上、UserBehaviorで6.3%の向上を達成し、最先端の性能を実現した。

ABSTRACT

Retrieving relevant targets from an extremely large target set under computational limits is a common challenge for information retrieval and recommendation systems. Tree models, which formulate targets as leaves of a tree with trainable node-wise scorers, have attracted a lot of interests in tackling this challenge due to their logarithmic computational complexity in both training and testing. Tree-based deep models (TDMs) and probabilistic label trees (PLTs) are two representative kinds of them. Though achieving many practical successes, existing tree models suffer from the training-testing discrepancy, where the retrieval performance deterioration caused by beam search in testing is not considered in training. This leads to an intrinsic gap between the most relevant targets and those retrieved by beam search with even the optimally trained node-wise scorers. We take a first step towards understanding and analyzing this problem theoretically, and develop the concept of Bayes optimality under beam search and calibration under beam search as general analyzing tools for this purpose. Moreover, to eliminate the discrepancy, we propose a novel algorithm for learning optimal tree models under beam search. Experiments on both synthetic and real data verify the rationality of our theoretical analysis and demonstrate the superiority of our algorithm compared to state-of-the-art methods.

研究の動機と目的

• 推論時にビームサーチが使用される木構造モデルにおけるトレーニング・テストの乖離を解消する。トレーニングでは最適な性能が達成されていても、ビームサーチの導入により性能が低下する問題に焦点を当てる。
• ベイズ最適性とビームサーチ下でのキャリブレーションを新たな最適性基準として導入し、問題を理論的に分析する。
• さまざまなデータセットでトレーニング・テストの乖離を解消し、リtrieval性能を向上させる汎用的なトレーニングアルゴリズムを開発する。
• 合成データおよび実世界のデータセット（極端なマルチラベル分類を含む）において、提案手法の優位性を実証する。

提案手法

• ビームサーチが存在する状況下でのベイズ最適性の概念を導入し、ビームサーチが適用される状況における最適なリtrieval性能を形式的に定義する。
• モデルの予測をビームサーチの結果と一致させるために、ビームサーチ下でのキャリブレーションをトレーニング目的として提案する。
• ビームサーチ中に展開される可能性の高いノードに基づいて、トレーニングノードを選択するビームサーチに配慮したサブサンプリング戦略を設計する。
• ビームサーチパスを用いて最適なリtrievalターゲットとして擬似ターゲットを再定式化し、トレーニングと推論の間に一貫性を確保する。
• 確率推定の最適化ではなく、ビームサーチ性能の最適化を目的とした損失関数を用いて、ノード単位のスコアラーをトレーニングする。
• 木構造とノード単位のスコアラーを、ビームサーチの制約のもとで同時に最適化するエンドツーエンドのトレーニングアルゴリズム（OTM）を実装する。

実験結果

リサーチクエスチョン

• RQ1 推論時にビームサーチが使用される状況下で、木構造モデルの最適性を形式的に定義することは可能か？
• RQ2 既存の木構造モデルにおけるトレーニングとテストの性能ギャップの原因は何か。理論的にどのように特徴づけられるか？
• RQ3 ビームサーチベースのリtrievalにおいて、トレーニング・テストの乖離を解消するトレーニング手順を設計することは可能か？
• RQ4 ビームサーチに配慮したサブサンプリングと最適な擬似ターゲットは、どのようにリtrieval性能の向上に寄与するか？
• RQ5 提案手法は、さまざまな木構造とノード単位のスコアラーのアーキテクチャに一般化可能か？

主な発見

• OTMは、最先端のJTM手法と比較して、Amazon Booksで29.8%の相対的リcall向上、UserBehaviorで6.3%の向上を達成した。
• ビームサーチに配慮したサブサンプリング戦略が、最適な擬似ターゲットの定義よりも、性能向上により顕著な寄与をしている。
• 木構造におけるレベルごとのデータ不均衡の度合いが、性能向上の大きさに影響を与え、重要なノードに集中するほど、より大きな向上が得られた。
• OTMの1バッチあたりのトレーニング時間はTesla P100 GPUで0.671秒であり、PLTよりも3.6倍遅いが、同じオーダーのスケーラビリティを有しており、分散トレーニングにおいて実用的である。
• 理論的分析により、TDMやPLTはビームサーチ下で最適でないことが確認され、最適な木構造モデルのための十分条件が導出された。
• 実験により、|I_x|=1という制約（1インスタンスあたり1つの関連ターゲットを許可）を解除すると性能が向上することが確認され、HSMがPLTを上回ることを示した。